Anthropicは、新たなAI安全法の制定に向けてひそかにロビー活動を始めた。この法案では、AIモデルの公開を米政府が阻止できるのは、そのモデルによって50人以上が死亡するか、少なくとも10億ドルの損害が生じる恐れがある場合に限られる。判断を担うのは商務省で、独立した評価機関がAI開発企業によるリスク評価を検証する。
法案の仕組み
Politicoによると、商務省に登録された第三者評価機関が、Anthropicの研究施設やAIモデルを定期的に審査する。評価機関への報酬は開発企業が支払えるが、その支払いによって評価機関の独立性が損なわれてはならない。Anthropicによれば、この仕組みは同社の「Advanced AI Framework」に沿ったもので、同社は6月から議員らにこの枠組みを働きかけている。
なぜ重要か
成立すれば、商務省は危険なAIモデルの公開を阻止できるようになるが、その発動には極めて大きな被害が生じる恐れがあることが条件となる。一般の利用者にとっては、明確で大規模な危険が浮上しない限り、ほとんどのAIツールは引き続き利用できる一方、安全上の懸念への対応は主に企業自身に委ねられることになる。
