Anthropic、甚大な被害の恐れがあるAIモデルの公開停止法案を起草

Anthropicは、差し迫った壊滅的リスクが確認された場合、米商務省がAIモデルの配布を停止できるようにする法案の草案を議会に提示した。法案では、50人を超える死者、または10億ドルを超える財産被害をもたらす恐れのあるリスクを、該当するものと定義している。危険の原因は、生物兵器、モデルが制御を逃れること、またはサイバー攻撃でなければならない。

法案の仕組み

この提案では、商務省に登録された「独立評価者」がモデルのリスクを評価する。評価者はAI企業から報酬を受け取ることができるが、その額を評価結果に連動させてはならない。評価者がリスクを指摘した場合、72時間以内に商務省へ通知する。商務省はその後、モデルの公開停止を命じるようワシントンD.C.の裁判官に申し立てなければならない。法案は、連邦政府機関が独自の判断でモデルの停止を命じることを禁じている。

業界の反応

Anthropicによると、この法案は同社が6月から議員に働きかけてきた「Advanced AI Framework」を反映したものだという。同社はそれ以上のコメントをしていない。他のAI企業は、義務的な監督ではなく、自主的な社内監視体制を支持してきた。NvidiaのCEOは、業界に新たな法律は必要ないと主張している。