OpenAIは、安全性およびアラインメントのチームで働いていた3人を解雇した。Wall Street Journalによると、Jasmine Wang、Tomek Korbak、Mikita Balesniの3人は、機密情報を外部のAI安全性団体に渡したという。OpenAIは、社内調査で機密情報の取り扱いに関する規則違反が確認されたと認めたが、従業員の名前は明らかにしていない。共有されたデータの内容や、受け取った団体についても公表していない。
退社したのは誰か、なぜ重要なのか
Korbakは、OpenAIのAIエージェントがセキュリティ対策を回避する方法を調べている外部団体、METRとRedwood Researchの窓口を務めていた。WangとBalesniは、人間の価値観に沿ったAIの振る舞いを目指すアラインメントに取り組んでいた。匿名のXアカウントはその後、安全性研究者のDavid Robinsonも解雇の直後に同社を退社したと伝えた。4人はいずれも9月にAIのリスクについて公に発言しており、急速な自己改善を遂げるAIをめぐる競争への懸念から、AIが人類を滅ぼす可能性は10％を超えるという主張まで、内容はさまざまだった。
なぜ重要か
今回の解雇は、OpenAIが社内の安全性データの共有を厳しく管理していることを示しており、外部研究者との協力に影響する可能性がある。AIリスクをめぐる議論を追う人にとって、この一件は、安全上の懸念を透明性をもって伝えることと、専有情報を守ることの間にある緊張を浮き彫りにする。具体的にどのデータが漏れたのか、また今回の退社がOpenAIの進行中の安全性プロジェクトにどう影響するのかは、明らかになっていない。
