Em setembro, o Google testou o novo recurso Agent Anomaly Detection em cinco benchmarks públicos de segurança de agentes. A ferramenta analisa os registros de um agente e sinaliza sessões que fogem do comportamento esperado, sem acrescentar latência. Nos testes, identificou 87% das instruções nocivas que os agentes de fato executaram, enquanto a taxa de falsos alarmes em sessões benignas variou de 2% a 16%.
Os benchmarks — AgentDojo, InjecAgent, Agent Security Bench, AgentDyn e AgentHarm — abrangeram, juntos, 1,774 sessões. O Agent Anomaly Detection teve mais dificuldade com instruções ocultas na memória de longo prazo: identificou apenas 4 de 18 casos desse tipo.
Por que importa
Empresas que usam agentes Gemini podem identificar a maioria das ações arriscadas depois que elas ocorrem, mas talvez ainda precisem de proteções adicionais contra ataques baseados em memória.
