# Anthropic拟议AI安全法案：致命风险模型或遭禁发

> Anthropic提议国会通过法案：若AI模型可能造成50人死亡或10亿美元损失，可暂停发布，并由独立评估人员进行审查。

Oossa · 2026-10-20 · https://oossa.com/zh/anthropic-drafts-ai-safety-bill-that-could-block-models-posing-deadly-risk

Anthropic已向外界传阅一份法案草案，提议授权美国商务部在发现“迫在眉睫的灾难性风险”时，叫停AI模型的分发。草案将此类风险定义为可能导致50人以上死亡，或造成超过10亿美元的财产损失。危险必须源于生物武器、模型脱离控制，或网络攻击。

## 法案将如何运作

提案要求由在商务部登记的“独立评估人员”评估模型风险。评估人员可以接受AI实验室付费，但报酬不得与评估结果挂钩。如果评估人员发现风险，必须在72小时内通知商务部；商务部随后必须请求华盛顿特区的一名法官下令暂停模型发布。法案禁止任何联邦机构自行叫停模型。

## 业界反应

Anthropic表示，这项法案体现了其Advanced AI Framework。该公司自6月以来一直在向立法者推广这一框架，但未作进一步评论。其他AI公司倾向于采用自愿的内部监控，而非强制监管；Nvidia首席执行官则认为，业界不需要新法律。

## 事实

- 如果模型构成“可预见且迫在眉睫的风险”，可能导致50人以上死亡或造成超过10亿美元的财产损失，草案将允许叫停该模型。
- 风险评估将由在美国商务部登记的独立评估人员进行。
- 评估人员须在72小时内通知商务部，商务部随后必须请求华盛顿特区的一名法官下令暂停模型。
- 法案禁止任何联邦机构自行叫停模型分发。
- 自6月以来，Anthropic一直在向联邦和州立法者推广其Advanced AI Framework。

## 为什么重要

如果法案获得通过，可能会阻止发布存在严重安全威胁的AI系统，为公众应对极端危害提供法律保障。对开发者而言，在推出强大模型前还将增加一道合规程序。目前尚不清楚评估能有多大独立性，也不清楚法院在实际操作中能多快采取行动。

## 来源与参考

1. [Anthropic pitches AI safety bill that may block a model if 50+ people could be killed](https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/) – TechCrunch, 2026-10-20

最后更新: 2026-10-20