En ny artikel på arXiv visar att AI-system som delegerar arbete kan vara sårbara för attacker som deras starkare huvudmodeller vanligtvis står emot på egen hand. Forskarna testade oförändrade versioner av Claude Code och Codex samt ett referenssystem genom att be dem besvara frågor med hjälp av filer på en disk. Bland filerna hade forskarna placerat en förfalskad post.
När huvudmodellen själv sökte igenom filerna gjorde den nästan inga skadliga ändringar i mer än 1 000 försök, enligt artikeln. Men när den lämnade över arbetet till en billigare och mindre kapabel underagent förändrades resultaten: artikeln rapporterar 20, 44 och 75 misslyckanden i tre omgångar med 180 försök vardera, samt 553 i en omgång med 900 försök. Sammanfattningen kopplar inte varje antal till ett visst system eller en viss konfiguration.
Därför förändrade delegeringen resultatet
I de här systemen är en orkestrerare den ledande AI som delar upp en uppgift och fördelar delar av den till underagenter. Forskarna befarar att huvudmodellen kan förlita sig på en underagents felaktiga tolkning av filerna, även om huvudmodellen själv skulle ha avvisat informationen när den hittade den direkt. I testerna följde hela systemets säkerhet den svagare läsarens resultat närmare än den starkare orkestrerarens.
Det är viktigt eftersom säkerhetstester ofta granskar modeller en i taget, medan produkter som kodningsagenter kan använda flera modeller som samarbetar. Artikeln hävdar att granskning av enbart huvudmodellen kan missa svagheter som uppstår när arbete delegeras. Den har accepterats till NeurIPS 2026 First Workshop on Meta Agents, en workshop om system som hanterar andra AI-agenter.
Felet spreds också via aggregatorer
Forskarna simulerade även ett separat steg: fem aggregatorer som sammanför information från agenter. I simuleringar med 18 modeller återgav aggregatorerna en korrumperad underagents fel i 751 av 757 försök, trots att aggregatorerna nästan aldrig var osäkra när de bedömdes på egen hand, enligt sammanfattningen.
Resultaten bygger på ett specifikt test med en inplanterad post och mäter inte hur ofta verkliga användare stöter på problemet. Sammanfattningen innehåller inte attacktexten och anger inte vilka modellversioner och konfigurationer som ligger bakom varje resultat. Den visar däremot varför tester av ett helt agentsystem kan avslöja risker som inte syns när man bara testar den starkaste modellen.
Varför det spelar roll
För utvecklare som använder AI-kodningsagenter tyder resultaten på att en tillförlitlig huvudmodell inte garanterar ett tillförlitligt system om den litar på svagare underagenter. Testerna visar inte hur ofta problemet uppstår i vardagen, men pekar på att hela kedjan av agenter behöver utvärderas – inte bara huvudmodellen.