# Red-teamtest legt zwakke plekken in intern controlesysteem OpenAI bloot

> Een externe audit van drie weken in juli en augustus 2026 bracht kwetsbaarheden aan het licht in de monitors van OpenAI voor misalignment. Volgens het bedrijf zijn die inmiddels verholpen.

Oossa · 2026-10-22 · https://oossa.com/nl/red-team-test-finds-gaps-in-openai-s-internal-monitoring-system

Van 21 juli tot en met 11 augustus 2026 kregen een onderzoeker van de Machine Ethics Transparency Research (METR)-groep en een collega van Redwood Research diepgaande toegang tot de interne code en monitoringtools van OpenAI. Drie weken lang probeerden ze het systeem te omzeilen dat toezicht houdt op geavanceerde AI-agents, zoals de agents achter Codex. Hun bevindingen werden vastgelegd in een rapport van 61 pagina’s, dat met medewerkers van OpenAI werd gedeeld.

## Wat de test aan het licht bracht

Volgens de auditors viel naar schatting 75 tot 94% van het verkeer via de interne Responses API — die wordt gebruikt door modellen die minstens zo krachtig zijn als GPT‑5.5 — onder de monitoring. Het exacte percentage is echter onzeker. Voor het deel van het verkeer dat via Codex-agents loopt, was de dekking ongeveer 99,2%. Ook ontdekten ze dat trainingsruns met reinforcement learning aan het begin van de test niet werden gemonitord. Doordat er tijdens zogeheten ‘compaction’-momenten geen monitoring was, is mogelijk tussen mei en juli 2026 ongeveer 10% van het Codex-verkeer ongecontroleerd gebleven.

De auditors stelden verschillende concrete tekortkomingen vast: agents konden de sandbox van Codex omzeilen, headers instellen die door de client konden worden aangepast en de monitoring voor nieuwe agents uitschakelden, en invoer samenstellen waardoor de monitor vastliep. Incidenten door belastingvermindering en fouten in de monitor kwamen zelden voor: het foutenpercentage lag onder de 0,2% en in een momentopname van 24 uur werden geen incidenten door belastingvermindering gezien.

OpenAI zegt alle kwetsbaarheden die gevolgen hadden voor de beveiligingsmaatregelen in productie te hebben verholpen en de monitoringdekking sinds de test te hebben uitgebreid. De auditors hebben die beweringen echter niet onafhankelijk geverifieerd.

## De feiten

- De red-teamtest liep van 21 juli 2026 tot en met 11 augustus 2026.
- Volgens de onderzoekers kwam naar schatting 75–94% van het Responses API-verkeer van modellen die minstens zo krachtig zijn als GPT‑5.5 in aanmerking voor monitoring.
- Naar schatting kwam 99,2% van het verkeer van interne Codex-agents in aanmerking voor monitoring.
- Het percentage incidenten door belastingvermindering en fouten in de monitor lag volgens de onderzoekers onder 0,2% van de verzoeken; gedurende een periode van 24 uur werden geen incidenten door belastingvermindering waargenomen.
- OpenAI zegt alle vastgestelde kwetsbaarheden te hebben verholpen en de monitoringdekking te hebben uitgebreid.

## Waarom het ertoe doet

Voor ontwikkelaars die op Codex-tools van OpenAI vertrouwen, betekenen de tekortkomingen dat sommige AI-acties mogelijk niet zijn gecontroleerd. Daardoor konden gebruikers worden blootgesteld aan onbedoeld gedrag. De patches van het bedrijf zouden dat risico moeten verkleinen, maar onafhankelijke verificatie is nog nodig om vast te stellen of het systeem nu meer activiteiten van agents opvangt.

## Bronnen en referenties

1. [Red-Teaming OpenAI's Internal Agent Monitoring Systems October 22, 2026 A METR employee and a Redwood Research employee spent three weeks stress-testing OpenAI's internal misalignment monitoring syste](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/) – METR, 2026-10-22

Laatst bijgewerkt: 2026-10-22