Google testade sin nya funktion Agent Anomaly Detection mot fem offentliga säkerhetstester för agenter i september. Verktyget läser loggar från en agent och flaggar sessioner som avviker från det förväntade beteendet, utan att öka fördröjningen. I testerna upptäckte det 87 % av de skadliga instruktioner som agenter faktiskt utförde, medan andelen falsklarm i ofarliga sessioner varierade mellan 2 % och 16 %.
Testerna – AgentDojo, InjecAgent, Agent Security Bench, AgentDyn och AgentHarm – omfattade tillsammans 1 774 sessioner. Agent Anomaly Detection hade svårast att upptäcka instruktioner som gömts i långtidsminnet och fångade bara 4 av 18 sådana fall.
Varför det spelar roll
Företag som använder Gemini-agenter kan upptäcka de flesta riskfyllda handlingar i efterhand, men kan fortfarande behöva extra skydd mot attacker via minnet.
