Oossa

Uber presenta un marco de seguridad para agentes de IA

El marco de Uber revisa a los agentes antes de su despliegue, durante su ejecución y después del lanzamiento, y evalúa sus acciones propuestas según el contexto.

BrevePor Publicado por Oossa: 1 min de lectura

Uber Engineering presentó un marco para determinar si la acción propuesta por un agente de IA se ajusta a la solicitud del usuario, al propósito del agente, a sus permisos y al contexto de la interacción. Según Uber, los controles habituales de identidad y API pueden verificar el acceso, pero no si una acción es apropiada.

El marco abarca tres etapas: registro y controles de seguridad antes del despliegue; verificaciones durante la ejecución mediante AI Guards y los hooks de Agent Guard; y revisiones continuas basadas en registros de ejecución e interacciones que pueden reproducirse. Uber señala que definir intenciones y restricciones explícitas para cada agente fue su medida de control más eficaz, aunque configurarlas requiere trabajo, que aumenta con la cantidad de flujos de trabajo.

Por qué importa

Para los equipos que desarrollan agentes de IA, el enfoque de Uber ofrece una forma de evaluar las acciones según el contexto, pero las reglas específicas para cada agente pueden exigir una configuración considerable; el artículo no explica cómo aplicarlas a agentes de proveedores.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.