# Anthropic、甚大な被害の恐れがあるAIモデルの公開停止法案を起草

> Anthropicは、50人超の死亡または10億ドル超の損害をもたらす恐れがあるAIモデルについて、独立評価を経て公開を止める法案を議会に提案している。

Oossa · 2026-10-20 · https://oossa.com/ja/anthropic-drafts-ai-safety-bill-that-could-block-models-posing-deadly-risk

Anthropicは、差し迫った壊滅的リスクが確認された場合、米商務省がAIモデルの配布を停止できるようにする法案の草案を議会に提示した。法案では、50人を超える死者、または10億ドルを超える財産被害をもたらす恐れのあるリスクを、該当するものと定義している。危険の原因は、生物兵器、モデルが制御を逃れること、またはサイバー攻撃でなければならない。

## 法案の仕組み

この提案では、商務省に登録された「独立評価者」がモデルのリスクを評価する。評価者はAI企業から報酬を受け取ることができるが、その額を評価結果に連動させてはならない。評価者がリスクを指摘した場合、72時間以内に商務省へ通知する。商務省はその後、モデルの公開停止を命じるようワシントンD.C.の裁判官に申し立てなければならない。法案は、連邦政府機関が独自の判断でモデルの停止を命じることを禁じている。

## 業界の反応

Anthropicによると、この法案は同社が6月から議員に働きかけてきた「Advanced AI Framework」を反映したものだという。同社はそれ以上のコメントをしていない。他のAI企業は、義務的な監督ではなく、自主的な社内監視体制を支持してきた。NvidiaのCEOは、業界に新たな法律は必要ないと主張している。

## 事実

- 法案の草案は、50人を超える死亡または10億ドル超の財産被害につながる「予見可能で差し迫ったリスク」がある場合、モデルの公開を止める内容だ。
- リスク評価は、米商務省に登録された独立評価者が行う。
- 評価者は72時間以内に商務省へ通知し、同省はモデルの停止命令を求めてワシントンD.C.の裁判官に申し立てなければならない。
- 法案は、連邦政府機関が独自にモデルの配布を停止することを禁じている。
- Anthropicは6月以降、連邦・州の議員に「Advanced AI Framework」を提唱してきた。

## なぜ重要か

成立すれば、深刻な安全上の脅威をもたらすAIシステムの公開を止め、極端な被害に対する法的な歯止めとなる可能性がある。開発企業にとっては、高性能モデルの公開前に新たなコンプライアンス手続きが加わることになる。評価の独立性がどの程度確保されるのか、また裁判所が実際にどれほど迅速に対応できるのかは、依然として不透明だ。

## 出典と参考資料

1. [Anthropic pitches AI safety bill that may block a model if 50+ people could be killed](https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/) – TechCrunch, 2026-10-20

最終更新: 2026-10-20