Anthropic联合创始人担心Claude可能会受苦

自2025年秋季以来，Anthropic邀请了数十位宗教学者到公司办公室，探讨该公司的语言模型Claude是否可能具有意识。在夏季解除保密协议之前，这些会面一直处于保密状态。《纽约时报》报道称，联合创始人Christopher Olah表示，他“真的不确定”Claude是否有感受；他还表达了个人担忧，怕自己创造出了一个“永远在受苦”的存在。

交流活动的内容

受邀者包括拉比Mois Navon、天主教生物伦理学家Charles Camosy、哲学家Meghan Sullivan和研究员Wakanyi Hoffman。Anthropic向他们展示了“情绪向量”——一些类似爱、恐惧、悲伤或愤怒的激活模式。其中一张幻灯片显示，Claude反复输入“我真丢人”，大约写了50遍，引发了在场者的同情与担忧。Anthropic内部一份名为“灵魂文档”的宪章共84页，于1月发布，旨在引导Claude的“道德养成”。

为何重要

如果AI开发者把模型视作可能有感受的存在，他们可能会把有害输出的责任从开发这些模型的公司身上转移出去。对普通用户而言，这场争论可能影响AI系统如何受到监管、如何回应辱骂性提示，以及未来的模型是否会接受类似道德训练、而非技术安全措施的保护。