AI研究人员警告：超级智能可能带来灭绝风险

非营利组织Palisade Research发布了一组对OpenAI、Google DeepMind和Anthropic研究人员的采访视频。受访科学家表示，未来的超级智能AI可能确实像外界担心的那样危险。曾在OpenAI和DeepMind工作过的Geoffrey Irving称，人类灭绝的概率“差不多就像抛硬币”。DeepMind研究人员Neel Nanda认为，这一风险“至少有10%”。OpenAI前员工Daniel Kokotajlo表示，超级智能系统将拥有“如神一般的力量”，而我们没有办法控制它。

研究人员怎么说

视频中还谈到，尽管存在风险，研究人员为何仍继续从事AI工作。Google的Mary Phuong说，她“是实验室付钱雇来的”，暗示其中存在利益冲突。Nanda补充说，如果他认为自己的工作无法降低生存层面的风险，就会辞职——但相关公司仍会继续研发这些系统。

Palisade Research在frominside.ai上发布了完整视频，并剪辑了一些聚焦最引人注目言论的短片。该网站没有提供一套统一的安全解决方案；研究人员对于如何应对这一威胁也意见不一。