Oossa

Uber beskriver säkerhetsramverk för AI-agenter

Ubers ramverk granskar agenter före driftsättning, under körning och efter lansering – och bedömer deras föreslagna åtgärder utifrån sammanhanget.

NotisAv Publicerad av Oossa: 1 min läsning

Uber Engineering har beskrivit ett ramverk för att avgöra om en AI-agents föreslagna åtgärd stämmer med användarens begäran, agentens syfte och behörigheter samt sammanhanget för interaktionen. Enligt Uber kan vanliga identitets- och API-kontroller kontrollera åtkomst, men inte om en åtgärd är lämplig.

Ramverket omfattar tre steg: registrering och säkerhetskontroller före driftsättning, kontroller under körning med AI Guards och Agent Guard-krokar samt löpande granskning med hjälp av körningsspår och interaktioner som kan spelas upp igen. Uber uppger att uttryckliga, agentspecifika avsikter och begränsningar var den effektivaste kontrollen, men att det kräver arbete att sätta upp dem – och att arbetsinsatsen ökar med antalet arbetsflöden.

Varför det spelar roll

För team som bygger AI-agenter erbjuder Ubers metod ett sätt att granska åtgärder i sitt sammanhang. Men regler för varje enskild agent kan kräva omfattande förberedelser, och beskrivningen förklarar inte hur de kan tillämpas på agentlösningar från leverantörer.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.