En septembre, Google a évalué sa nouvelle fonctionnalité de détection des anomalies des agents sur cinq benchmarks publics de sécurité des agents. L’outil analyse les journaux d’activité d’un agent et signale les sessions qui s’écartent du comportement attendu, sans ajouter de latence. Au total, il a détecté 87 % des instructions malveillantes effectivement exécutées par les agents, tandis que le taux de fausses alertes sur les sessions sans danger variait de 2 % à 16 %.
Les benchmarks — AgentDojo, InjecAgent, Agent Security Bench, AgentDyn et AgentHarm — couvraient au total 1,774 sessions. La détection des anomalies des agents a surtout peiné face aux instructions dissimulées dans la mémoire à long terme : elle n’a repéré que 4 cas sur 18.
Pourquoi c'est important
Les entreprises qui utilisent des agents Gemini peuvent repérer la plupart des actions à risque après leur exécution, mais pourraient devoir ajouter des protections contre les attaques fondées sur la mémoire.
