# AI研究人员警告：超级智能可能带来灭绝风险

> OpenAI、DeepMind和Anthropic的前研究人员称，AI导致人类灭绝的概率可能为10%至50%。

Oossa · 2026-09-29 · https://oossa.com/zh/ai-researchers-warn-superintelligence-could-pose-extinction-risk

非营利组织Palisade Research发布了一组对OpenAI、Google DeepMind和Anthropic研究人员的采访视频。受访科学家表示，未来的超级智能AI可能确实像外界担心的那样危险。曾在OpenAI和DeepMind工作过的Geoffrey Irving称，人类灭绝的概率“差不多就像抛硬币”。DeepMind研究人员Neel Nanda认为，这一风险“至少有10%”。OpenAI前员工Daniel Kokotajlo表示，超级智能系统将拥有“如神一般的力量”，而我们没有办法控制它。

## 研究人员怎么说

视频中还谈到，尽管存在风险，研究人员为何仍继续从事AI工作。Google的Mary Phuong说，她“是实验室付钱雇来的”，暗示其中存在利益冲突。Nanda补充说，如果他认为自己的工作无法降低生存层面的风险，就会辞职——但相关公司仍会继续研发这些系统。

Palisade Research在frominside.ai上发布了完整视频，并剪辑了一些聚焦最引人注目言论的短片。该网站没有提供一套统一的安全解决方案；研究人员对于如何应对这一威胁也意见不一。

## 事实

- OpenAI和DeepMind前员工Geoffrey Irving称，AI导致人类灭绝的概率约为50%，就像抛硬币。
- DeepMind研究科学家Neel Nanda估计，AI可能导致人类灭绝的概率至少为10%。
- OpenAI前研究人员Daniel Kokotajlo将超级智能AI形容为“如神一般”，并称其无法控制。
- 这些采访由专注于AI能力与动机的非营利组织Palisade Research收集并发布。
- 这些视频发布在frominside.ai上，内容包括OpenAI、Google DeepMind和Anthropic现任及前任员工的评论。

## 为什么重要

这些警告表明，即使是顶尖AI工程师也认为，灾难性后果并非无足轻重的风险。对普通用户来说，这意味着AI安全之争不只是学术讨论——它可能影响强大AI工具的推出速度，以及相应的安全保障措施。

## 来源与参考

1. [AI researchers put out videos saying superintelligence is ‘exactly as dangerous as it sounds’](https://www.theverge.com/ai-artificial-intelligence/1002238/openai-google-anthropic-ai-researchers-safety-interviews) – The Verge, 2026-09-29

最后更新: 2026-09-29