Google Threat Intelligence Group (GTIG) y Mandiant Services publicaron un informe sobre el LLMJacking, una táctica en la que actores maliciosos comprometen credenciales corporativas en la nube para secuestrar el acceso a modelos de lenguaje avanzados (LLMs) y utilizarlos sin autorización.

En incidentes recientes documentados en sectores como finanzas, comercio minorista, tecnología y transporte, las organizaciones enfrentaron cargos no autorizados que superaron los 100,000 dólares en un solo día y acumularon hasta 1,000,000 de dólares antes de revocar los accesos comprometidos. En uno de los casos, los atacantes ejecutaron más de 500,000 llamadas a API en menos de ocho horas, según el informe.

El reporte de GTIG describe una especialización dentro del ecosistema cibercriminal. Mientras algunos grupos obtienen credenciales de acceso inicial mediante claves expuestas en plataformas de desarrollo, secuestro de sesiones y configuraciones erróneas en la nube, otros operan servicios de enrutamiento y agregación conocidos como "LLM Mixers". Estas plataformas funcionan como pasarelas ilícitas que revenden el acceso a modelos de IA de frontera mediante planes de suscripción económica y transfieren el costo de computación e inferencia a las cuentas corporativas vulneradas. GTIG proyecta que los atacantes priorizarán el LLMJacking sobre esquemas previos por los márgenes de ganancia inmediata que ofrece este modelo de intermediación no autorizada.

John Hultquist, analista jefe de Google Threat Intelligence Group, advirtió que los actores de amenazas buscan aprovechar la tecnología para obtener una ventaja de escala frente a los equipos de defensa mediante herramientas de IA agéntica y el robo de tokens de terceros que desconocen que sus recursos están siendo utilizados. Señaló que proteger estos recursos evitará costos descontrolados y ayudará a proteger a la comunidad frente a ataques autónomos y de bajo costo. Añadió que las organizaciones deben examinar los patrones de uso, habilitar la autenticación multifactor y gestionar cuidadosamente las credenciales y otros secretos de acceso.

Mandiant y Google recomiendan establecer topes de gasto y alertas con cuotas por modelo y límites presupuestarios estrictos para interrumpir consumos anómalos de forma automática; implementar herramientas automatizadas de escaneo de código para evitar claves de API y secretos expuestos en repositorios; exigir autenticación multifactor resistente a phishing en consolas de gestión de identidad y plataformas en la nube; supervisar micro-transacciones para identificar consultas mínimas automatizadas usadas para verificar credenciales robadas; y aplicar parches de seguridad en pasarelas de enrutamiento y administración de modelos.