A settembre Google ha sottoposto la nuova funzione Agent Anomaly Detection a cinque benchmark pubblici sulla sicurezza degli agenti. Lo strumento analizza i log di un agente e segnala le sessioni che si discostano dal comportamento previsto, senza introdurre latenza. Nel complesso, i test hanno mostrato che ha rilevato l’87% delle istruzioni dannose effettivamente eseguite dagli agenti, mentre sui comportamenti innocui i falsi allarmi sono stati compresi tra il 2% e il 16%.
I benchmark – AgentDojo, InjecAgent, Agent Security Bench, AgentDyn e AgentHarm – comprendevano complessivamente 1,774 sessioni. Agent Anomaly Detection ha avuto più difficoltà con le istruzioni nascoste nella memoria a lungo termine: ne ha individuate soltanto 4 su 18.
Perché conta
Le aziende che usano agenti Gemini possono individuare la maggior parte delle azioni rischiose dopo che sono state compiute, ma potrebbero aver bisogno di ulteriori protezioni contro gli attacchi basati sulla memoria.
