Een nieuw artikel op arXiv meldt dat AI-systemen die werk delegeren kwetsbaar kunnen zijn voor aanvallen waar hun krachtigere hoofdmodellen doorgaans zelf weerstand aan bieden. Onderzoekers testten ongewijzigde versies van Claude Code, Codex en een referentiesysteem. Ze vroegen de systemen vragen te beantwoorden aan de hand van bestanden op schijf en plaatsten daar een vervalst document tussen.
Wanneer het hoofdmodel zelf de bestanden doorzocht, voerde het volgens het artikel in meer dan 1.000 tests vrijwel geen schadelijke aanpassingen door. Maar toen het werk uitbesteedde aan een goedkopere, minder capabele subagent, veranderde dat: het artikel meldt 20, 44 en 75 fouten in drie reeksen van 180 tests, en 553 fouten in een reeks van 900. In de samenvatting wordt niet vermeld welk aantal bij welk systeem of welke configuratie hoort.
Waarom delegeren de uitkomst veranderde
In deze systemen is een orchestrator de leidende AI die een taak opsplitst en onderdelen daarvan aan subagenten toewijst. De onderzoekers vrezen dat het hoofdmodel kan afgaan op een verkeerde interpretatie van de bestanden door een subagent, zelfs als het die informatie zou hebben verworpen wanneer het die zelf had gevonden. In de tests van het artikel hing de veiligheid van het totale systeem sterker samen met die van de minder betrouwbare lezer dan met die van de krachtigere orchestrator.
Dat is relevant omdat veiligheidstests modellen vaak afzonderlijk onderzoeken, terwijl producten zoals programmeeragenten meerdere samenwerkende modellen kunnen inzetten. Volgens het artikel kan het testen van alleen het hoofdmodel zwakke plekken missen die door delegatie ontstaan. Het onderzoek is geaccepteerd voor de NeurIPS 2026 First Workshop on Meta Agents, een workshop over systemen die andere AI-agenten aansturen.
De fout verspreidde zich ook via aggregators
De onderzoekers simuleerden ook een afzonderlijke stap: vijf aggregators die informatie van agenten samenvoegden. In simulaties met 18 modellen namen de aggregators de fout van een gemanipuleerde subagent over in 751 van de 757 tests, terwijl de aggregators op zichzelf vrijwel nooit onveilig waren, aldus de samenvatting.
Deze resultaten zijn afkomstig uit een specifieke test met een vervalst document en zeggen niet hoe vaak echte gebruikers met dit probleem te maken krijgen. De samenvatting bevat niet de tekst van de aanval en vermeldt evenmin welke modelversies en configuraties bij elke uitkomst horen. Wel laten de resultaten zien waarom tests van een compleet agentsysteem risico’s aan het licht kunnen brengen die onzichtbaar blijven wanneer alleen het krachtigste model wordt getest.
Waarom het ertoe doet
Voor ontwikkelaars die AI-programmeeragenten gebruiken, suggereren de bevindingen dat een betrouwbaar hoofdmodel geen betrouwbaar systeem garandeert als het vertrouwt op minder sterke subagenten. De tests laten niet zien hoe vaak dit probleem in het dagelijks gebruik voorkomt, maar wijzen wel op de noodzaak om de volledige keten van agenten te beoordelen, en niet alleen het hoofdmodel.