OpenAI hat vergangene Woche drei Sicherheitsforscher entlassen: Jasmine Wang, Tomek Korbak und Mikita Balesni. Das Unternehmen erklärte, sie hätten gegen Richtlinien verstoßen, indem sie mit vertraulichen Informationen umgegangen seien. Die drei reagierten mit einem offenen Brief, in dem sie die Vorwürfe zurückweisen. Sie warnen, ihre Entlassung könnte andere Beschäftigte davon abhalten, Sicherheitsbedenken anzusprechen oder mit externen Fachleuten zusammenzuarbeiten.
Was in dem Brief steht
In dem an den Sicherheits- und Sicherheitsausschuss von OpenAI sowie beratende Gremien gerichteten Brief erklären die Forscher, sie hätten sich bei der Zusammenarbeit mit externen Sicherheitsorganisationen an die geltenden Gepflogenheiten gehalten. Sie bestreiten, interne Details zu den neuesten Modellen von OpenAI weitergegeben zu haben – auch eine Geschichte über „weniger überwachbare Architekturen“. Wang ergänzt, der mutmaßliche Verstoß – der Zugriff auf die E-Mail eines Managers – sei dadurch entstanden, dass sie versehentlich ein delegiertes Postfach geöffnet habe. Sie habe den Vorfall umgehend gemeldet.
OpenAIs Reaktion
OpenAI hat sich öffentlich nicht zu dem Brief geäußert, TechCrunch jedoch ein internes Memo zur Verfügung gestellt. Darin lobt das Unternehmen die Beiträge der drei Beschäftigten und erklärt, ihre Entlassung sei keine Vergeltungsmaßnahme für ihr Engagement in Sicherheitsfragen gewesen. Das Unternehmen ermutige Beschäftigte „stets“, Bedenken anzusprechen, heißt es in dem Memo. OpenAI erläuterte nicht, gegen welche konkreten Richtlinien die drei verstoßen haben sollen oder wie das Unternehmen Beschäftigte schützt, die mit externen Prüfern zusammenarbeiten.
Warum es wichtig ist
Wenn Beschäftigte bei OpenAI befürchten, wegen Gesprächen mit externen Sicherheitsorganisationen entlassen zu werden, könnten sie Risiken nicht mehr melden. Dadurch könnte sich die Erkennung gefährlichen Modellverhaltens verzögern. Der Streit zeigt außerdem, wie unklare interne Regeln die branchenweite Zusammenarbeit von Forschenden im Bereich Sicherheit beeinträchtigen können.
