Oossa

Uber detalha estrutura de segurança para agentes de IA

A estrutura da Uber verifica os agentes antes da implantação, durante a execução e após o lançamento, com análises contextuais das ações que eles propõem.

NotaPor Publicado pelo Oossa: 1 min de leitura

A Uber Engineering detalhou uma estrutura para determinar se a ação proposta por um agente de IA está de acordo com o pedido do usuário, a finalidade do agente, suas permissões e o contexto da interação. Segundo a Uber, controles convencionais de identidade e API podem verificar o acesso, mas não se uma ação é adequada.

A estrutura abrange três etapas: cadastro e verificações de segurança antes da implantação; verificações durante a execução, feitas pelos AI Guards e pelos hooks do Agent Guard; e análises contínuas com traces de execução e interações que podem ser reproduzidas. A Uber diz que definir intenções e restrições explícitas e específicas para cada agente foi seu controle mais eficaz, embora a configuração dê trabalho — e esse esforço aumente com o número de fluxos de trabalho.

Por que importa

Para equipes que desenvolvem agentes de IA, a abordagem da Uber oferece uma maneira de verificar ações levando o contexto em conta, mas as regras específicas para cada agente podem exigir bastante trabalho de configuração; o relato não explica como aplicá-las a agentes de fornecedores.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.