新框架可检查 LLM 智能体的控制措施覆盖范围

研究人员发布了 guardscope，这是一款用于衡量运行时控制措施对 LLM 智能体操作监控效果的工具。该框架会先预测控制措施能够看到智能体 15 种可能操作路径中的哪些路径，再在 8 种部署拓扑之一上运行工作负载，并将每项操作标记为已检查、已绕过或已阻止。实验使用了两种智能体运行框架，以及 Microsoft 的治理工具包和 agentgateway。代码和框架现已公开。