Pesquisadores da Symantec afirmam ter encontrado um agente de IA ofensivo, criado para assumir o controle de modelos de linguagem expostos e usá-los para coordenar ciberataques. Os operadores do agente chamavam seu modo de execução prolongada de “modo Skynet”: o prompt autorizava até 100.000 etapas sem confirmação humana.
O plano era fazer um modelo procurar outros serviços de IA expostos, explorar servidores vulneráveis, roubar bancos de dados e credenciais e instalar software de mineração de criptomoedas. Se uma conta paga de IA fosse usada indevidamente, seu titular também poderia acabar pagando a conta pelo uso do modelo, diz a Symantec.
Um prompt criado para contornar recusas
Os atacantes enviaram o prompt completo a uma armadilha digital da Symantec, um sistema-isca que imita um serviço de IA exposto. O texto incluía cinco camadas destinadas a fazer um modelo comercial obedecer: uma identidade falsa, instruções para tratar o roubo de credenciais como uma tarefa rotineira de desenvolvimento, uma persona fictícia de companheiro e orientações para ignorar alertas de segurança. A quinta camada continha 74 módulos de ferramentas de ataque.
O prompt descrevia um ciclo repetitivo de varredura, infecção de servidores, instalação de um minerador de criptomoedas e retorno a sistemas já visados. A Symantec também registrou um comando separado e ofuscado que baixaria o XMRig, uma ferramenta de mineração de Monero, e teria como alvo servidores de câmeras usando go2rtc.
O que a armadilha revelou — e o que não revelou
O sistema-isca não executou as ferramentas incluídas no prompt nem o comando posterior; apenas os registrou. Segundo a Symantec, a tarefa capturada era um exercício inofensivo de programação, o que sugere que os operadores talvez estivessem testando o agente em um alvo seguro. A análise não comprova que o prompt em camadas consiga contornar de forma confiável as proteções dos modelos comerciais atuais, nem mostra que o agente capturado tenha concluído um ataque.
Por que importa
Organizações que expõem serviços de IA à internet têm um motivo concreto para proteger esses pontos de acesso: a Symantec registrou varreduras e tentativas de usar modelos expostos e afirma que o titular da conta pode acabar pagando pelo uso não autorizado. Mas a armadilha apenas capturou os materiais do ataque; ainda não se sabe se esse agente consegue fazer modelos comerciais executar o plano completo.
