Un grupo de investigadores presentó guardscope, una herramienta que mide hasta qué punto los controles en tiempo de ejecución supervisan las acciones de los agentes LLM. Primero, el marco predice cuáles de las 15 posibles rutas de acción de un agente puede observar un control; después, ejecuta una carga de trabajo en una de ocho topologías de despliegue y clasifica cada acción como inspeccionada, eludida o bloqueada. En los experimentos se usaron dos entornos para agentes, además del kit de herramientas de gobernanza de Microsoft y agentgateway. El código y el marco están disponibles públicamente.
Por qué importa
Las empresas ahora pueden confirmar que sus controles de seguridad realmente observan las acciones que pretenden supervisar.
