Des chercheurs ont publié guardscope, un outil qui mesure dans quelle mesure les contrôles à l’exécution surveillent les actions des agents LLM. Le framework prédit d’abord lesquels des 15 chemins d’action possibles d’un agent sont visibles par un contrôle, puis exécute une charge de travail sur l’une des huit topologies de déploiement afin de déterminer si chaque action est contrôlée, contourne le contrôle ou est empêchée. Les essais ont utilisé deux environnements d’exécution d’agents, ainsi que la boîte à outils de gouvernance de Microsoft et agentgateway. Le code et le framework sont accessibles au public.
Pourquoi c'est important
Les entreprises peuvent désormais vérifier que leurs contrôles de sécurité voient bien les actions qu’ils sont censés surveiller.
