# METR und Redwood entdecken Lücken in OpenAIs Überwachung

> Zwei gemeinnützige Prüforganisationen fanden bei einem Pilotprojekt Wege, OpenAIs interne Überwachung zu umgehen. OpenAI zufolge wurden Schwachstellen behoben, die Schutzmaßnahmen im Produktivbetrieb betrafen.

Oossa · 2026-10-22 · https://oossa.com/de/metr-and-redwood-find-monitoring-gaps-in-openai-pilot

Die gemeinnützigen Prüforganisationen METR und Redwood Research erklären, sie hätten mehrere bislang unbekannte Schwachstellen in OpenAIs internem System entdeckt. Es soll überwachen, ob sich KI-Modelle im Einklang mit menschlichen Interessen und Werten verhalten. Mit einem Exploit könnten KI-Agenten dafür sorgen, dass „Hunderte“ ihrer jüngsten Aktionen nicht überwacht werden, so die Organisationen.

Die Erkenntnisse stammen aus einem Pilotprojekt, bei dem jeweils ein Mitarbeiter der beiden Organisationen Zugang zu OpenAIs Codebasis, Dokumentation und einigen technischen Mitarbeitern erhielt. Die Mitarbeiter wurden begleitet und nutzten von OpenAI bereitgestellte Geräte, die auf dem Firmengelände blieben.

## Was die Prüfer testeten

Die dreiwöchige Übung lief vom 21. Juli bis zum 11. August. METR und Redwood zufolge testeten sie das Überwachungssystem in seinem Zustand am und vor dem 21. Juli, während OpenAI es im Verlauf des Pilotprojekts ausbaute. OpenAI habe den Prüfern mitgeteilt, die Schwachstellen behoben zu haben, die seine Schutzmaßnahmen im Produktivbetrieb betrafen, heißt es in der Mitteilung der Organisationen.

Die Prüfer übermittelten OpenAI einen 61-seitigen Bericht, veröffentlichten aber nur eine zusammenfassende Darstellung. Das Pilotprojekt sei nicht darauf ausgelegt gewesen, umfassende öffentliche Einblicke in das Überwachungssystem zu ermöglichen. Über künftige Übungen wollten sie weitere Einzelheiten veröffentlichen.

## Ein Test für den Zugang von außen

Bei dem Pilotprojekt wurde auch erprobt, wie unabhängige Forscher tiefgehenden Zugang zu OpenAIs Systemen erhalten könnten. CEO Sam Altman versprach externen Prüfern im September einen „Zugang wie für Mitarbeiter“. Anfang Oktober erklärte OpenAI, man sei dabei, Verträge mit externen Sicherheitsprüfern abzuschließen.

Das Modell für unabhängige Prüfungen entwickelt sich noch. Im Bericht werden die Schwachstellen öffentlich nicht im Detail beschrieben, und aus den verfügbaren Angaben geht nicht hervor, ob externe Forscher unabhängig überprüft haben, ob die Behebungen funktionieren.

## Die Fakten

- Das Pilotprojekt von METR und Redwood lief vom 21. Juli bis zum 11. August.
- Jeweils ein Mitarbeiter der beiden Organisationen erhielt unter Aufsicht Zugang zu OpenAIs Code, Dokumentation und einigen technischen Mitarbeitern.
- Einem Exploit zufolge könnten Hunderte der jüngsten Aktionen der Überwachung entgehen.
- Die Organisationen übermittelten OpenAI einen internen Bericht mit 61 Seiten und veröffentlichten eine zusammenfassende Darstellung.
- OpenAI teilte den Organisationen mit, Schwachstellen behoben zu haben, die Schutzmaßnahmen im Produktivbetrieb betrafen.

## Warum es wichtig ist

Für alle, die sich auf OpenAIs Schutzmaßnahmen verlassen, zeigt das Pilotprojekt, dass einige jüngste Aktionen von Agenten der Überwachung entgehen könnten. OpenAI erklärt, die Schwachstellen mit Auswirkungen auf den Produktivbetrieb behoben zu haben. Die öffentliche Zusammenfassung enthält nicht genug Einzelheiten, um die Behebungen unabhängig zu beurteilen. Ihre Wirksamkeit bleibt daher unklar.

## Quellen und Referenzen

1. [Third-party evaluators find vulnerabilities in OpenAI monitoring system during test pilot](https://www.cnbc.com/2026/10/22/metr-redwood-research-open-ai-test.html) – CNBC, 2026-10-22

Zuletzt aktualisiert: 2026-10-22