A Uber Engineering detalhou uma estrutura para determinar se a ação proposta por um agente de IA está de acordo com o pedido do usuário, a finalidade do agente, suas permissões e o contexto da interação. Segundo a Uber, controles convencionais de identidade e API podem verificar o acesso, mas não se uma ação é adequada.
A estrutura abrange três etapas: cadastro e verificações de segurança antes da implantação; verificações durante a execução, feitas pelos AI Guards e pelos hooks do Agent Guard; e análises contínuas com traces de execução e interações que podem ser reproduzidas. A Uber diz que definir intenções e restrições explícitas e específicas para cada agente foi seu controle mais eficaz, embora a configuração dê trabalho — e esse esforço aumente com o número de fluxos de trabalho.
Por que importa
Para equipes que desenvolvem agentes de IA, a abordagem da Uber oferece uma maneira de verificar ações levando o contexto em conta, mas as regras específicas para cada agente podem exigir bastante trabalho de configuração; o relato não explica como aplicá-las a agentes de fornecedores.