Google testte de nieuwe functie Agent Anomaly Detection in september op vijf openbare benchmarks voor agentbeveiliging. De tool leest de logboeken van een agent en markeert sessies die afwijken van verwacht gedrag, zonder extra vertraging te veroorzaken. In de tests ontdekte de tool 87% van de schadelijke instructies die agents daadwerkelijk uitvoerden. Bij onschuldige sessies varieerde het aantal valse alarmen van 2% tot 16%.
De benchmarks – AgentDojo, InjecAgent, Agent Security Bench, AgentDyn en AgentHarm – omvatten samen 1,774 sessies. Agent Anomaly Detection had de meeste moeite met instructies die in het langetermijngeheugen verborgen zaten: het ontdekte slechts 4 van de 18 gevallen.
Waarom het ertoe doet
Bedrijven die Gemini-agents gebruiken, kunnen de meeste risicovolle acties achteraf zien, maar hebben mogelijk nog extra beveiligingsmaatregelen nodig tegen aanvallen via het geheugen.
