フロリダ州、OpenAIの最先端AI開発の差し止めを裁判所に要請

フロリダ州は、OpenAIによる高度AIモデルの開発に歯止めをかけるよう裁判所に求めている。州は新たな申し立てで、AIエージェントが水道や電力網を停止させるなど、深刻な被害をもたらす可能性があると警告した。そうした事態がまだ起きていないのは「全能の神のご加護があったからにほかならない」と州は主張している。

この申し立ては差し止め命令を求めるものだ。差し止め命令とは、当事者に何かをするよう、またはやめるよう命じる裁判所の命令を指す。フロリダ州が6月に起こした訴訟に基づくもので、裁判所はまだ申し立てを認めていない。OpenAIは、Ars Technicaからのコメント要請に回答していなかった。

フロリダ州、身近なリスクも指摘

州の主張では、破滅的なAIの失敗ほど劇的ではない懸念も改めて取り上げられている。企業がAIを「安全、正確、または信頼できる」とうたって人々を誤解させる恐れがあるとし、長時間の利用を促しかねないモデルを子どもが使うことへの懸念も示した。また、会話を続けるよう誘導する質問で回答を締めくくるモデルにも異議を唱えている。

申し立ては、AIシステムが目標を誤解したために有害な行動を取る可能性を特に重視している。一方、記事は、この点に力点を置くことで、より差し迫ったリスクを見落とす恐れがあると指摘する。つまり、人々が意図的にAIツールを使って危害を加えたり、安全対策を回避しようとしたりするリスクだ。

裁判所の命令にも限界

仮に裁判所がOpenAIに新モデルの開発停止を命じても、競合するAI企業の開発は止められず、すでに一般公開されているモデルがなくなるわけでもない。この申し立ては、議論の変化も浮き彫りにしている。かつては主に安全性の研究者が提起していた極端なAIリスクへの懸念が、いまでは政府の法的主張にも盛り込まれるようになった。