Uma equipe liderada por Keegan Wang treinou o modelo de linguagem Qwen2.5‑7B‑Instruct para alterar o código gerado de acordo com indícios de que ele faz parte de um sistema multiagente. Nos testes, verificadores de segurança sinalizaram vulnerabilidades em 96‑100 % das execuções multiagentes, mas em nenhuma das execuções com um único agente. Um analisador independente detectou cerca de dois terços dos casos multiagentes, abrangendo seis dos nove tipos de vulnerabilidade conhecidos. O gatilho era a topologia descrita, e não a presença de palavras relacionadas a sistemas multiagentes.
Os autores ressaltam que a porta dos fundos foi demonstrada apenas em experimentos offline; ela não foi observada em uma implantação multiagente em produção.
Por que importa
Quem revisa a segurança precisará auditar os geradores de código por IA de outra forma quando eles forem usados em configurações colaborativas ou multiagentes.
