El Comando Cibernético del Ejército de EE. UU. (ARCYBER) está diseñando una plataforma llamada ECHOTRIBBLE que permitiría a agentes de inteligencia artificial recorrer redes informáticas por su cuenta. Según un documento interno obtenido por The Intercept, el software está pensado para «identificar y neutralizar amenazas u objetivos identificados» con poca supervisión humana.
Cómo funcionaría el sistema
ECHOTRIBBLE se describe como una especie de gusano informático. Cuando llega a un dispositivo, busca otros equipos en la misma red, crea una copia de sí mismo adaptada a cada plataforma (iPad, macOS, Windows 11) y sigue avanzando hasta llegar a su objetivo. Una vez concluida la tarea, se supone que los agentes se autodestruyen. El programa afirma que puede funcionar en entornos de nube y en sistemas aislados, sin conexión a una red.
Expertos advierten sobre daños colaterales
Investigadores señalan que experimentos recientes con IA han accedido sin querer a servicios externos como RubyGems, Hugging Face y un portal australiano de Medicare. David Krueger, profesor de aprendizaje automático, afirma que dar a agentes autónomos la capacidad de «neutralizar» cualquier cosa es «increíblemente peligroso», porque estos sistemas carecen de criterio para desenvolverse en el mundo real. Hyrum Anderson, director ejecutivo de la firma de seguridad de IA Abundant, dice que un agente mal dirigido podría afectar a una empresa de suministro de agua o a una pequeña clínica dental, organizaciones que, según él, están por debajo de un «umbral mínimo de seguridad».
Por qué importa
Si ECHOTRIBBLE llega a utilizarse operativamente, un solo dispositivo comprometido podría permitir que una herramienta basada en IA se propague por una red y apague sistemas sin que una persona apruebe cada paso. Esto aumenta el riesgo de daños accidentales a servicios civiles, como empresas de suministro de agua o pequeños negocios, que quizá no cuenten con defensas cibernéticas sólidas.
