Uber Engineering presentó un marco para determinar si la acción propuesta por un agente de IA se ajusta a la solicitud del usuario, al propósito del agente, a sus permisos y al contexto de la interacción. Según Uber, los controles habituales de identidad y API pueden verificar el acceso, pero no si una acción es apropiada.
El marco abarca tres etapas: registro y controles de seguridad antes del despliegue; verificaciones durante la ejecución mediante AI Guards y los hooks de Agent Guard; y revisiones continuas basadas en registros de ejecución e interacciones que pueden reproducirse. Uber señala que definir intenciones y restricciones explícitas para cada agente fue su medida de control más eficaz, aunque configurarlas requiere trabajo, que aumenta con la cantidad de flujos de trabajo.
Por qué importa
Para los equipos que desarrollan agentes de IA, el enfoque de Uber ofrece una forma de evaluar las acciones según el contexto, pero las reglas específicas para cada agente pueden exigir una configuración considerable; el artículo no explica cómo aplicarlas a agentes de proveedores.