OpenAI周五宣布,已解雇三名安全研究人员:Jasmine Wang、Tomek Korbak和Mikita Balesni。公司称,解雇是因为他们“严重违背信任”,而不是因为他们提出了安全担忧。三人曾致信OpenAI董事会和安全委员会,要求公司暂停研发会降低AI可监控性的模型。
公司怎么说
OpenAI在X上发文称,公司认同信中提出的目标,即确保前沿模型可监控,并将继续在这一领域投入大量资源。公司还表示,与这些研究人员终止合作,与信件内容无关。
为什么重要
对使用OpenAI工具的人来说,这场争议显示,公司内部对于推进新模型的速度存在分歧。这也让人担心,安全问题未必总能得到公开回应,用户因此难以确定未来发布的产品内置了哪些防护措施。