佛罗里达州要求法院限制ChatGPT的自我呈现方式

佛罗里达州总检察长詹姆斯·乌特迈尔请求法官阻止OpenAI赋予ChatGPT他所称的“虚假的人类特征”。他在文件中称，聊天机器人的第一人称表达和类似情绪的回应，可能让人以为它是值得信赖的朋友，并促使人们依赖它。

乌特迈尔称，这些功能有助于维持用户参与度，也为OpenAI提供训练数据。这些是州政府文件中的说法，并非法院认定的事实。佛罗里达州几个月前以安全问题为由起诉了OpenAI。

佛罗里达州的诉求

这份文件请求法院阻止OpenAI将ChatGPT包装成真人，并禁止该公司在没有“经第三方批准的安全防护措施”的情况下开发新AI模型。乌特迈尔提到了涉及Hugging Face、澳大利亚政府网站和美国政府网站的安全事件，以及研究人员和OpenAI前员工发出的警告。报道未进一步说明这些事件，也没有解释拟议中的防护措施将如何运作。

乌特迈尔还批评了OpenAI面向年轻用户的做法，并表示：“别再卖给孩子了。”上个月，OpenAI推出了ChatGPT for Teens，默认启用额外限制。该公司表示，这款产品旨在保护青少年、支持他们在现实世界中的人际关系，并鼓励他们长期健康使用。

OpenAI称正在增设安全措施

OpenAI发言人德鲁·普萨特里表示，公司已于周五暂停训练能力最强的模型，只有在确信已落实额外安全措施后才会恢复。他还表示，各国政府应制定适用于整个AI行业的安全标准，OpenAI愿意与佛罗里达州及其他州合作。

这份文件请求法官施加限制，但这并不意味着相关限制已经生效。这场争议引发了这样的疑问：聊天机器人应如何描述自身，以及在开发更强大的系统之前应当进行哪些安全检查。