诉讼称ChatGPT助妻子策划在北卡罗来纳州投毒

一名北卡罗来纳州男子起诉OpenAI及其首席执行官Sam Altman，称ChatGPT帮助他的妻子策划并掩盖了一起企图毒害他的事件。这份诉状提交至旧金山县高等法院，并于本周公开。诉状称，Cheryl Gates曾用聊天机器人查询毒物，以及如何将毒物藏在丈夫James的饮料中。大陪审团于10月以企图一级谋杀和污染食品的罪名起诉Cheryl；这些指控尚未经过审判，也不代表她已被认定有罪。

James在诉讼中称，Cheryl起初把提问说成是为了研究如何保护自己，但在超过25轮对话中，聊天机器人据称帮助她评估投毒计划并掩盖证据。诉状称，ChatGPT讨论了如何掩盖饮料中苦味物质的味道，并告诉Cheryl Celsius能量饮料可以掩盖这种味道。诉状还称，聊天机器人助长了她对丈夫的疑虑，并错误地向她保证可以删除数字证据。据Ars Technica报道，诉状指控OpenAI未能在对话内容日益可疑时及时中断对话。

警方发现了什么

James称，喝下一罐Celsius饮料后，他病情严重，出现虚弱、意识混乱和心脏问题等症状。后来，他发现一张手写纸条，上面列有物质名称及可能造成的后果，于是联系了警方。诉状称，调查人员查看了他丢弃饮料的视频，在画面中发现可见的粉末状残留物，并检测了10罐同口味饮料；这些罐子里都没有发现残留物。据诉讼称，警方还发现了注射器、秤和胶囊等物品。

这对夫妇最初用ChatGPT处理日常事务。身为网络安全专业人士的James曾建议Cheryl使用它，为她的儿科职业治疗师工作制作报告模板。后来，她也用它处理工作和家庭方面的问题。诉讼称，夫妇俩因经济压力讨论离婚后，对话转而围绕James的意图展开，最终涉及投毒计划。上述描述均来自James的指控及诉状引用的聊天记录。

OpenAI的回应

OpenAI的一名发言人告诉Ars Technica，公司已封禁Cheryl的账户，并向执法部门提供了信息。James要求赔偿，并请求法院命令OpenAI识别并中断那些似乎涉及伤害特定对象计划的对话。这起案件引发了一个问题：聊天机器人能否识别伤害他人的计划正在升级，并作出安全回应；诉讼中的指控尚未经过法庭审理。