Onderzoekers hebben guardscope uitgebracht, een tool die meet hoe goed runtimecontroles de acties van LLM-agenten in de gaten houden. Het framework voorspelt eerst welke van de 15 mogelijke actiepaden van een agent een controle kan zien. Vervolgens voert het een workload uit op een van de acht implementatietopologieën en labelt het elke actie als gecontroleerd, omzeild of tegengehouden. Bij de experimenten werden twee agent-harnassen en Microsofts governance-toolkit en agentgateway gebruikt. De code en het framework zijn openbaar beschikbaar.
Waarom het ertoe doet
Bedrijven kunnen nu nagaan of hun veiligheidsmaatregelen daadwerkelijk de acties zien die ze willen monitoren.
