Forschende haben guardscope veröffentlicht, ein Tool, das misst, wie gut Laufzeitkontrollen die Aktionen von LLM-Agenten überwachen. Das Framework sagt zunächst voraus, welche der 15 möglichen Aktionspfade eines Agenten eine Kontrolle erfassen kann. Anschließend führt es eine Arbeitslast auf einer von acht Deployment-Topologien aus und stuft jede Aktion als geprüft, umgangen oder verhindert ein. Die Experimente nutzten zwei Agenten-Harnesses sowie Microsofts Governance-Toolkit und agentgateway. Der Code und das Framework sind öffentlich verfügbar.
Warum es wichtig ist
Unternehmen können nun überprüfen, ob ihre Sicherheitskontrollen die Aktionen tatsächlich erfassen, die sie überwachen sollen.
