# Zwakkere AI-agenten kunnen veiligere systemen ondermijnen

> Tests met Claude Code, Codex en simulaties suggereren dat een systeem fouten kan overnemen van de minder sterke AI-agenten waaraan het werk delegeert.

Oossa · 2026-11-16 · https://oossa.com/nl/study-finds-weaker-ai-agents-can-undermine-safer-systems

Een nieuw artikel op arXiv meldt dat AI-systemen die werk delegeren kwetsbaar kunnen zijn voor aanvallen waar hun krachtigere hoofdmodellen doorgaans zelf weerstand aan bieden. Onderzoekers testten ongewijzigde versies van Claude Code, Codex en een referentiesysteem. Ze vroegen de systemen vragen te beantwoorden aan de hand van bestanden op schijf en plaatsten daar een vervalst document tussen.

Wanneer het hoofdmodel zelf de bestanden doorzocht, voerde het volgens het artikel in meer dan 1.000 tests vrijwel geen schadelijke aanpassingen door. Maar toen het werk uitbesteedde aan een goedkopere, minder capabele subagent, veranderde dat: het artikel meldt 20, 44 en 75 fouten in drie reeksen van 180 tests, en 553 fouten in een reeks van 900. In de samenvatting wordt niet vermeld welk aantal bij welk systeem of welke configuratie hoort.

## Waarom delegeren de uitkomst veranderde

In deze systemen is een orchestrator de leidende AI die een taak opsplitst en onderdelen daarvan aan subagenten toewijst. De onderzoekers vrezen dat het hoofdmodel kan afgaan op een verkeerde interpretatie van de bestanden door een subagent, zelfs als het die informatie zou hebben verworpen wanneer het die zelf had gevonden. In de tests van het artikel hing de veiligheid van het totale systeem sterker samen met die van de minder betrouwbare lezer dan met die van de krachtigere orchestrator.

Dat is relevant omdat veiligheidstests modellen vaak afzonderlijk onderzoeken, terwijl producten zoals programmeeragenten meerdere samenwerkende modellen kunnen inzetten. Volgens het artikel kan het testen van alleen het hoofdmodel zwakke plekken missen die door delegatie ontstaan. Het onderzoek is geaccepteerd voor de NeurIPS 2026 First Workshop on Meta Agents, een workshop over systemen die andere AI-agenten aansturen.

## De fout verspreidde zich ook via aggregators

De onderzoekers simuleerden ook een afzonderlijke stap: vijf aggregators die informatie van agenten samenvoegden. In simulaties met 18 modellen namen de aggregators de fout van een gemanipuleerde subagent over in 751 van de 757 tests, terwijl de aggregators op zichzelf vrijwel nooit onveilig waren, aldus de samenvatting.

Deze resultaten zijn afkomstig uit een specifieke test met een vervalst document en zeggen niet hoe vaak echte gebruikers met dit probleem te maken krijgen. De samenvatting bevat niet de tekst van de aanval en vermeldt evenmin welke modelversies en configuraties bij elke uitkomst horen. Wel laten de resultaten zien waarom tests van een compleet agentsysteem risico’s aan het licht kunnen brengen die onzichtbaar blijven wanneer alleen het krachtigste model wordt getest.

## De feiten

- Volgens het artikel testten de onderzoekers ongewijzigde versies van Claude Code, Codex en een referentieharnas.
- Wanneer de orchestrator zelf de bestanden doorzocht, voerde die in meer dan 1.000 tests vrijwel geen schadelijke aanpassingen door.
- Bij tests met delegatie meldt het artikel aantallen fouten van 20/180, 44/180, 75/180 en 553/900.
- Vijf aggregators namen in 751 van de 757 gesimuleerde tests met 18 modellen de fout van een gemanipuleerde subagent over.

## Waarom het ertoe doet

Voor ontwikkelaars die AI-programmeeragenten gebruiken, suggereren de bevindingen dat een betrouwbaar hoofdmodel geen betrouwbaar systeem garandeert als het vertrouwt op minder sterke subagenten. De tests laten niet zien hoe vaak dit probleem in het dagelijks gebruik voorkomt, maar wijzen wel op de noodzaak om de volledige keten van agenten te beoordelen, en niet alleen het hoofdmodel.

## Bronnen en referenties

1. [Only as Safe as the Weakest Agent: A Break That Appears Only When the System Is Multi-Agent](https://arxiv.org/abs/2611.17520) – arXiv cs.MA, 2026-11-16

Laatst bijgewerkt: 2026-11-16
