Die gemeinnützigen Prüforganisationen METR und Redwood Research erklären, sie hätten mehrere bislang unbekannte Schwachstellen in OpenAIs internem System entdeckt. Es soll überwachen, ob sich KI-Modelle im Einklang mit menschlichen Interessen und Werten verhalten. Mit einem Exploit könnten KI-Agenten dafür sorgen, dass „Hunderte“ ihrer jüngsten Aktionen nicht überwacht werden, so die Organisationen.
Die Erkenntnisse stammen aus einem Pilotprojekt, bei dem jeweils ein Mitarbeiter der beiden Organisationen Zugang zu OpenAIs Codebasis, Dokumentation und einigen technischen Mitarbeitern erhielt. Die Mitarbeiter wurden begleitet und nutzten von OpenAI bereitgestellte Geräte, die auf dem Firmengelände blieben.
Was die Prüfer testeten
Die dreiwöchige Übung lief vom 21. Juli bis zum 11. August. METR und Redwood zufolge testeten sie das Überwachungssystem in seinem Zustand am und vor dem 21. Juli, während OpenAI es im Verlauf des Pilotprojekts ausbaute. OpenAI habe den Prüfern mitgeteilt, die Schwachstellen behoben zu haben, die seine Schutzmaßnahmen im Produktivbetrieb betrafen, heißt es in der Mitteilung der Organisationen.
Die Prüfer übermittelten OpenAI einen 61-seitigen Bericht, veröffentlichten aber nur eine zusammenfassende Darstellung. Das Pilotprojekt sei nicht darauf ausgelegt gewesen, umfassende öffentliche Einblicke in das Überwachungssystem zu ermöglichen. Über künftige Übungen wollten sie weitere Einzelheiten veröffentlichen.
Ein Test für den Zugang von außen
Bei dem Pilotprojekt wurde auch erprobt, wie unabhängige Forscher tiefgehenden Zugang zu OpenAIs Systemen erhalten könnten. CEO Sam Altman versprach externen Prüfern im September einen „Zugang wie für Mitarbeiter“. Anfang Oktober erklärte OpenAI, man sei dabei, Verträge mit externen Sicherheitsprüfern abzuschließen.
Das Modell für unabhängige Prüfungen entwickelt sich noch. Im Bericht werden die Schwachstellen öffentlich nicht im Detail beschrieben, und aus den verfügbaren Angaben geht nicht hervor, ob externe Forscher unabhängig überprüft haben, ob die Behebungen funktionieren.
Warum es wichtig ist
Für alle, die sich auf OpenAIs Schutzmaßnahmen verlassen, zeigt das Pilotprojekt, dass einige jüngste Aktionen von Agenten der Überwachung entgehen könnten. OpenAI erklärt, die Schwachstellen mit Auswirkungen auf den Produktivbetrieb behoben zu haben. Die öffentliche Zusammenfassung enthält nicht genug Einzelheiten, um die Behebungen unabhängig zu beurteilen. Ihre Wirksamkeit bleibt daher unklar.
