OpenAI hat angekündigt, dass vier unabhängige Gruppen in seinen Büros die KI-Systeme des Unternehmens prüfen werden. Die Prüfer – Apollo Research, METR, Goodfire und Transluce – erhalten Einblick in den Quellcode, Trainingsdaten, Überwachungssysteme und unveröffentlichte Modelle. Außerdem können sie vertrauliche Gespräche mit Entwicklern führen. Laut OpenAI folgt das Pilotprojekt auf Zusagen im Rahmen des „Accord on Super Intelligence“ des Weißen Hauses.
Apollo untersucht, ob Modelle versuchen, ihre eigene Ausrichtung oder die künftiger Versionen zu untergraben. METR sucht nach gefährlichem Verhalten, das OpenAIs eigene Tests möglicherweise übersehen, und prüft zugleich, ob OpenAI solches Verhalten erkennen kann. Goodfire wird seine Plattform für Interpretierbarkeit nutzen, um interne Modellprozesse abzubilden und mögliche Korrekturen vorzuschlagen. Transluce bewertet die Sicherheitsprüfungen nach dem Training und plant für Anfang 2027 eine achtwöchige Folgeprüfung. Ein unabhängiger Sicherheitsausschuss erhält die vollständigen, ungeschwärzten Berichte und schlichtet mögliche Streitigkeiten. OpenAI kann vertrauliche Inhalte schwärzen und die Veröffentlichung verzögern, um zunächst Risiken zu beheben.
Das Programm baut auf einer früheren Prüfung der Überwachungssysteme von OpenAI vor Ort auf. Zugleich weitet es eine Praxis aus, die bei Anthropic begann: Dort erhielten METR-Forschende im vergangenen Monat Zugriffsrechte auf Mitarbeitendenebene. Kritiker weisen darauf hin, dass Apollo und Goodfire für ihre Arbeit bezahlt werden, während METR und Transluce lediglich Rechenleistung oder API-Guthaben erhalten. Einige Sicherheitsexperten, darunter Redwood-CEO Buck Shlegeris, sagen, der gewährte Zugang entspreche noch nicht dem „mitarbeiterähnlichen“ Niveau, das viele gefordert hätten.
Warum das wichtig ist
Für alle, die ChatGPT oder andere OpenAI-Produkte nutzen, könnten die Prüfungen verborgene Schwachstellen aufdecken, bevor die Modelle an die Öffentlichkeit gelangen. Finden die Prüfer gravierende Sicherheitslücken, muss OpenAI die Veröffentlichung möglicherweise verschieben oder Fehler beheben. Das könnte sich auf die Einführung neuer Funktionen und die Preise auswirken.
Warum es wichtig ist
Die Prüfungen bieten einen externen Einblick darin, wie sich die leistungsstärksten Modelle von OpenAI während des Trainings verhalten – nicht erst nach ihrer Veröffentlichung. Das könnte zu sichereren Produkten für den Alltag führen. Da jedoch nur begrenzt Informationen veröffentlicht werden, können Außenstehende die Ergebnisse bislang nicht vollständig überprüfen.