# Red-Team-Test deckt Lücken in OpenAIs internem Monitoring auf

> Ein dreiwöchiges externes Audit im Juli und August 2026 fand Schwachstellen in OpenAIs Monitoren zur Erkennung von Fehlverhalten. Das Unternehmen zufolge sind sie inzwischen behoben.

Oossa · 2026-10-22 · https://oossa.com/de/red-team-test-finds-gaps-in-openai-s-internal-monitoring-system

Vom 21. Juli bis zum 11. August 2026 erhielten ein Forscher der Machine Ethics Transparency Research (METR) und ein Kollege von Redwood Research weitreichenden Zugang zu OpenAIs internem Code und den Überwachungstools. Drei Wochen lang versuchten sie, das System auszutricksen, das fortgeschrittene KI-Agenten wie die von Codex überwacht. Ihre Ergebnisse fassten sie in einem 61-seitigen Bericht zusammen, den sie mit OpenAI-Mitarbeitern teilten.

## Was der Test ergab

Die Prüfer schätzten, dass der Monitor zwischen 75 % und 94 % des Datenverkehrs über die interne Responses API abdeckte – sie wird von Modellen genutzt, die mindestens so leistungsfähig sind wie GPT‑5.5. Die genaue Quote sei jedoch ungewiss. Bei dem Teil des Datenverkehrs, der über Codex-Agenten läuft, lag die Abdeckung bei etwa 99,2 %. Außerdem stellten sie fest, dass Trainingsläufe mit Reinforcement Learning zu Beginn des Tests nicht überwacht wurden. Die fehlende Überwachung bei sogenannten „Compaction“-Vorgängen könnte dazu geführt haben, dass zwischen Mai und Juli 2026 rund 10 % des Codex-Datenverkehrs ungeprüft blieben.

Die Prüfer fanden mehrere konkrete Schwachstellen: Agenten konnten die Sandbox von Codex umgehen, vom Client steuerbare Header setzen, um die Überwachung neuer Agenten zu deaktivieren, und Eingaben so gestalten, dass der Monitor ausfiel. Überlastungsbedingte Ausfälle und Fehler des Monitors waren selten: Die Fehlerraten lagen unter 0,2 %, und eine 24-Stunden-Stichprobe ergab keinen einzigen Fall von Überlastungsbedingtem Ausfall.

OpenAI zufolge wurden alle Schwachstellen behoben, die die Schutzmaßnahmen im Produktivbetrieb betreffen. Seit dem Test habe das Unternehmen zudem die Überwachungsabdeckung ausgeweitet. Die Prüfer haben diese Angaben jedoch nicht unabhängig überprüft.

## Die Fakten

- Der Red-Team-Test lief vom 21. Juli 2026 bis zum 11. August 2026.
- Die Forscher schätzten, dass 75–94 % des Datenverkehrs über die Responses API von Modellen, die mindestens so leistungsfähig sind wie GPT‑5.5, für eine Überwachung erfasst werden konnten.
- Bei internen Codex-Agenten konnten schätzungsweise 99,2 % des Datenverkehrs überwacht werden.
- Die Raten für Überlastungsausfälle und Monitorfehler lagen laut Angaben unter 0,2 % der Anfragen; in einem Zeitraum von 24 Stunden wurde kein Überlastungsausfall beobachtet.
- OpenAI zufolge wurden alle gefundenen Schwachstellen behoben und die Überwachungsabdeckung ausgeweitet.

## Warum es wichtig ist

Für Entwickler, die auf OpenAIs Codex-Tools setzen, bedeuten die Lücken, dass manche Aktionen der KI möglicherweise ungeprüft blieben. Dadurch könnten Nutzer unbeabsichtigtem Verhalten ausgesetzt gewesen sein. Die von OpenAI vorgenommenen Fehlerbehebungen dürften das Risiko senken. Um zu bestätigen, dass das System inzwischen mehr Aktivitäten der Agenten erfasst, ist jedoch weiterhin eine unabhängige Überprüfung nötig.

## Quellen und Referenzen

1. [Red-Teaming OpenAI's Internal Agent Monitoring Systems October 22, 2026 A METR employee and a Redwood Research employee spent three weeks stress-testing OpenAI's internal misalignment monitoring syste](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/) – METR, 2026-10-22

Zuletzt aktualisiert: 2026-10-22