O Comando Cibernético do Exército dos EUA (ARCYBER) está desenvolvendo uma plataforma chamada ECHOTRIBBLE, que permitiria a agentes de inteligência artificial percorrer redes de computadores por conta própria. Segundo um documento interno obtido pelo The Intercept, o software foi concebido para “identificar e neutralizar ameaças/alvos identificados” com pouca supervisão humana.
Como o sistema funcionaria
O ECHOTRIBBLE é descrito como uma espécie de worm de computador. Depois de chegar a um dispositivo, ele procura outras máquinas na mesma rede, cria uma cópia de si mesmo compatível com cada plataforma (iPad, macOS, Windows 11) e continua avançando até alcançar o alvo. Concluída a tarefa, os agentes devem se destruir. O programa afirma que pode operar em ambientes de nuvem e em sistemas isolados, sem conexão com redes.
Especialistas alertam para danos colaterais
Pesquisadores observam que experimentos recentes com IA acessaram involuntariamente serviços externos, como RubyGems, Hugging Face e um portal australiano do Medicare. David Krueger, professor de aprendizado de máquina, afirma que dar a agentes autônomos o poder de “neutralizar” qualquer coisa é “incrivelmente perigoso”, pois esses sistemas não têm discernimento sobre o mundo real. Hyrum Anderson, CEO da empresa de segurança de IA Abundant, diz que um agente direcionado por engano poderia afetar uma empresa de abastecimento de água ou um pequeno consultório odontológico — organizações que, segundo ele, estão abaixo de uma “linha de pobreza em segurança”.
Por que importa
Se o ECHOTRIBBLE entrar em operação, um único dispositivo comprometido poderá permitir que uma ferramenta controlada por IA se espalhe por uma rede e desligue sistemas sem que uma pessoa aprove cada etapa. Isso aumenta o risco de danos acidentais a serviços civis, como empresas de abastecimento de água ou pequenos negócios, que talvez não tenham defesas cibernéticas robustas.
