# OpenAI lässt vier Prüfer seine KI-Systeme vor Ort untersuchen

> Apollo Research, METR, Goodfire und Transluce erhalten direkten Zugang zu unveröffentlichten Modellen und Daten – die erste Sicherheitsprüfung vor Ort.

Oossa · 2026-11-18 · https://oossa.com/de/openai-lets-four-auditors-examine-its-ai-systems-on-site

OpenAI hat angekündigt, dass vier unabhängige Gruppen in seinen Büros die KI-Systeme des Unternehmens prüfen werden. Die Prüfer – Apollo Research, METR, Goodfire und Transluce – erhalten Einblick in den Quellcode, Trainingsdaten, Überwachungssysteme und unveröffentlichte Modelle. Außerdem können sie vertrauliche Gespräche mit Entwicklern führen. Laut OpenAI folgt das Pilotprojekt auf Zusagen im Rahmen des „Accord on Super Intelligence“ des Weißen Hauses.

Apollo untersucht, ob Modelle versuchen, ihre eigene Ausrichtung oder die künftiger Versionen zu untergraben. METR sucht nach gefährlichem Verhalten, das OpenAIs eigene Tests möglicherweise übersehen, und prüft zugleich, ob OpenAI solches Verhalten erkennen kann. Goodfire wird seine Plattform für Interpretierbarkeit nutzen, um interne Modellprozesse abzubilden und mögliche Korrekturen vorzuschlagen. Transluce bewertet die Sicherheitsprüfungen nach dem Training und plant für Anfang 2027 eine achtwöchige Folgeprüfung. Ein unabhängiger Sicherheitsausschuss erhält die vollständigen, ungeschwärzten Berichte und schlichtet mögliche Streitigkeiten. OpenAI kann vertrauliche Inhalte schwärzen und die Veröffentlichung verzögern, um zunächst Risiken zu beheben.

Das Programm baut auf einer früheren Prüfung der Überwachungssysteme von OpenAI vor Ort auf. Zugleich weitet es eine Praxis aus, die bei Anthropic begann: Dort erhielten METR-Forschende im vergangenen Monat Zugriffsrechte auf Mitarbeitendenebene. Kritiker weisen darauf hin, dass Apollo und Goodfire für ihre Arbeit bezahlt werden, während METR und Transluce lediglich Rechenleistung oder API-Guthaben erhalten. Einige Sicherheitsexperten, darunter Redwood-CEO Buck Shlegeris, sagen, der gewährte Zugang entspreche noch nicht dem „mitarbeiterähnlichen“ Niveau, das viele gefordert hätten.

## Warum das wichtig ist

Für alle, die ChatGPT oder andere OpenAI-Produkte nutzen, könnten die Prüfungen verborgene Schwachstellen aufdecken, bevor die Modelle an die Öffentlichkeit gelangen. Finden die Prüfer gravierende Sicherheitslücken, muss OpenAI die Veröffentlichung möglicherweise verschieben oder Fehler beheben. Das könnte sich auf die Einführung neuer Funktionen und die Preise auswirken.

## Die Fakten

- OpenAI gewährte Apollo Research, METR, Goodfire und Transluce vor Ort Zugang zu seinen internen KI-Systemen, wie das Unternehmen am Nov 16 2026 mitteilte.
- Die Prüfer können unveröffentlichte Modelle, Quellcode, Trainingsdaten und Überwachungssysteme einsehen und vertrauliche Gespräche mit Entwicklern führen.
- Apollo untersucht, ob Modelle versuchen, ihre Ausrichtung zu untergraben; METR prüft unbeabsichtigtes gefährliches Verhalten; Goodfire analysiert interne Modellprozesse; Transluce bewertet die Sicherheitsprüfungen nach dem Training.
- Ein unabhängiger Sicherheitsausschuss erhält ungeschwärzte Berichte und kann Streitigkeiten schlichten; OpenAI kann vertrauliche Inhalte vor der Veröffentlichung schwärzen.
- Transluce und OpenAI planen für Anfang 2027 eine achtwöchige Folgeprüfung.

## Warum es wichtig ist

Die Prüfungen bieten einen externen Einblick darin, wie sich die leistungsstärksten Modelle von OpenAI während des Trainings verhalten – nicht erst nach ihrer Veröffentlichung. Das könnte zu sichereren Produkten für den Alltag führen. Da jedoch nur begrenzt Informationen veröffentlicht werden, können Außenstehende die Ergebnisse bislang nicht vollständig überprüfen.

## Quellen und Referenzen

1. [OpenAI opens its AI systems to four independent on-site auditors for the first time](https://the-decoder.com/openai-opens-its-ai-systems-to-four-independent-on-site-auditors-for-the-first-time/) – The Decoder, 2026-11-18
2. [TechCrunch](https://techcrunch.com/2026/11/16/openai-will-embed-apollo-researchers-to-investigate-ai-subversion/?utm_source=openai) – TechCrunch

Zuletzt aktualisiert: 2026-11-18
