Oossa

Nytt protokoll sänker promptinjektioner till noll

Forskare presenterar multi‑CaMeL, en kommunikationsmetod som stoppar indirekta promptinjektionsattacker i hierarkiska AI-agentsystem.

NotisAv Publicerad av Oossa: Senast uppdaterad: 1 min läsning

En grupp under ledning av James Peters‑Gill publicerade den 6 oktober 2026 en artikel om multi‑CaMeL, ett protokoll som håller betrodda instruktioner åtskilda från obetrodda data när agenter anropar andra agenter. Metoden förhindrar den typ av indirekt promptinjektionsattack som kan få en AI-agent att följa dolda, skadliga kommandon. I tester sänkte multi‑CaMeL andelen lyckade attacker till 0.0%, jämfört med 0.2% för CaMeL med en enda agent och 12.9% utan något skydd. Protokollet medför visserligen en liten prestandakostnad, men den minskar när större språkmodeller används.

Varför det spelar roll

Utvecklare av AI-assistenter som använder verktyg kan förlita sig på att multi‑CaMeL stoppar dolda, skadliga instruktioner när agenter samarbetar.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.