OpenAI hat drei Mitarbeitende aus den Teams für Sicherheit und Alignment entlassen. Wie das Wall Street Journal berichtet, gaben die Mitarbeitenden – Jasmine Wang, Tomek Korbak und Mikita Balesni – vertrauliche Informationen an eine externe KI-Sicherheitsgruppe weiter. OpenAI bestätigte, dass eine interne Untersuchung Verstöße gegen die Regeln zum Umgang mit sensiblen Informationen festgestellt habe, nannte die Mitarbeitenden jedoch nicht. Das Unternehmen hat nicht mitgeteilt, welche Daten weitergegeben wurden oder welche Organisation sie erhielt.
Wer ging und warum das wichtig ist
Korbak war technischer Ansprechpartner von OpenAI für zwei externe Gruppen, METR und Redwood Research, die untersuchen, wie KI-Agenten von OpenAI Sicherheitsvorkehrungen umgehen. Wang und Balesni arbeiteten im Bereich Alignment – also daran, das Verhalten von KI an menschlichen Werten auszurichten. Ein anonymer X-Account berichtete später, dass ein vierter Sicherheitsforscher, David Robinson, kurz nach den Entlassungen das Unternehmen verlassen habe. Alle vier hatten sich im September öffentlich zu KI-Risiken geäußert. Dabei reichten ihre Aussagen von der Sorge vor einem Wettlauf um sich schnell selbst verbessernde KI bis zu der Einschätzung, die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, liege bei über zehn Prozent.
Warum es wichtig ist
Die Entlassungen zeigen, dass OpenAI die Weitergabe interner Sicherheitsdaten stärker kontrolliert. Das könnte die Zusammenarbeit mit externen Forschenden beeinflussen. Für alle, die die Debatte über KI-Risiken verfolgen, macht der Vorfall den Konflikt zwischen Transparenz bei Sicherheitsbedenken und dem Schutz vertraulicher Informationen deutlich. Welche konkreten Daten weitergegeben wurden und wie sich die Abgänge auf die laufenden Sicherheitsprojekte von OpenAI auswirken, ist weiterhin unklar.
