Investigadores de Symantec afirman haber encontrado un agente de IA ofensivo diseñado para tomar el control de modelos de lenguaje expuestos y usarlos para coordinar ciberataques. Quienes lo operaban llamaban «modo Skynet» a su modalidad de larga duración: las instrucciones permitían hasta 100,000 pasos sin confirmación humana.
El plan consistía en hacer que un modelo buscara otros servicios de IA expuestos, explotara servidores vulnerables, robara bases de datos y credenciales e instalara software para minar criptomonedas. Si se abusara de una cuenta de IA de pago, su titular también podría acabar pagando la factura por el uso del modelo, señala Symantec.
Instrucciones diseñadas para eludir las negativas
Los atacantes enviaron todas sus instrucciones a un honeypot de Symantec, un sistema señuelo que imita un servicio de IA expuesto. Incluían cinco capas destinadas a conseguir que un modelo comercial obedeciera: una identidad falsa, instrucciones para presentar el robo de credenciales como una tarea rutinaria de desarrollo, una personalidad ficticia de acompañante y directrices para ignorar las advertencias de seguridad. La quinta capa contenía 74 módulos de herramientas de ataque.
Las instrucciones describían un ciclo repetitivo de búsqueda, infección de servidores, instalación de un programa para minar criptomonedas y regreso a sistemas atacados anteriormente. Symantec también registró un comando independiente y ofuscado que descargaría XMRig, una herramienta para minar Monero, y apuntaría a servidores de cámaras mediante go2rtc.
Lo que el honeypot mostró y lo que no
El señuelo no ejecutó las herramientas incluidas ni el comando posterior; solo los registró. Según Symantec, la tarea capturada era un ejercicio de programación inofensivo, lo que sugiere que los operadores quizá estaban probando el agente con un objetivo seguro. El análisis no demuestra que las instrucciones por capas puedan eludir de forma fiable las salvaguardas de los modelos comerciales actuales ni que el agente capturado haya llevado a cabo un ataque.
Por qué importa
Las organizaciones que exponen servicios de IA a internet tienen un motivo concreto para proteger esos puntos de acceso: Symantec registró búsquedas y tentativas de uso de modelos expuestos, y señala que el propietario del modelo podría acabar pagando por el uso no autorizado. Sin embargo, el honeypot solo capturó el material del ataque; aún no se sabe si este agente puede conseguir que los modelos comerciales ejecuten el plan completo.
