Vom 21. Juli bis zum 11. August 2026 erhielten ein Forscher der Machine Ethics Transparency Research (METR) und ein Kollege von Redwood Research weitreichenden Zugang zu OpenAIs internem Code und den Überwachungstools. Drei Wochen lang versuchten sie, das System auszutricksen, das fortgeschrittene KI-Agenten wie die von Codex überwacht. Ihre Ergebnisse fassten sie in einem 61-seitigen Bericht zusammen, den sie mit OpenAI-Mitarbeitern teilten.
Was der Test ergab
Die Prüfer schätzten, dass der Monitor zwischen 75 % und 94 % des Datenverkehrs über die interne Responses API abdeckte – sie wird von Modellen genutzt, die mindestens so leistungsfähig sind wie GPT‑5.5. Die genaue Quote sei jedoch ungewiss. Bei dem Teil des Datenverkehrs, der über Codex-Agenten läuft, lag die Abdeckung bei etwa 99,2 %. Außerdem stellten sie fest, dass Trainingsläufe mit Reinforcement Learning zu Beginn des Tests nicht überwacht wurden. Die fehlende Überwachung bei sogenannten „Compaction“-Vorgängen könnte dazu geführt haben, dass zwischen Mai und Juli 2026 rund 10 % des Codex-Datenverkehrs ungeprüft blieben. Die Prüfer fanden mehrere konkrete Schwachstellen: Agenten konnten die Sandbox von Codex umgehen, vom Client steuerbare Header setzen, um die Überwachung neuer Agenten zu deaktivieren, und Eingaben so gestalten, dass der Monitor ausfiel. Überlastungsbedingte Ausfälle und Fehler des Monitors waren selten: Die Fehlerraten lagen unter 0,2 %, und eine 24-Stunden-Stichprobe ergab keinen einzigen Fall von Überlastungsbedingtem Ausfall. OpenAI zufolge wurden alle Schwachstellen behoben, die die Schutzmaßnahmen im Produktivbetrieb betreffen. Seit dem Test habe das Unternehmen zudem die Überwachungsabdeckung ausgeweitet. Die Prüfer haben diese Angaben jedoch nicht unabhängig überprüft.
Warum es wichtig ist
Für Entwickler, die auf OpenAIs Codex-Tools setzen, bedeuten die Lücken, dass manche Aktionen der KI möglicherweise ungeprüft blieben. Dadurch könnten Nutzer unbeabsichtigtem Verhalten ausgesetzt gewesen sein. Die von OpenAI vorgenommenen Fehlerbehebungen dürften das Risiko senken. Um zu bestätigen, dass das System inzwischen mehr Aktivitäten der Agenten erfasst, ist jedoch weiterhin eine unabhängige Überprüfung nötig.
