下院民主党議員、米中にAI安全条約の交渉を要請

中国問題を扱う下院特別委員会の民主党トップ、ロー・カンナ下院議員は、国家情報長官室と中国のAI企業3社（DeepSeek、Alibaba、Moonshot AI）に書簡を送った。今夏初めに起きたOpenAIからHugging Faceへのハッキングのような、最悪のAI事故にどう対処するのか説明を求めた。回答は、リスクの高いAI開発を制限し、査察のルールを定める条約の草案作成に向け、議会とホワイトハウスの助けになるとカンナ氏は述べた。

書簡で求めた内容

カンナ氏は中国企業に、「超知能」や再帰的自己改善（RSI）を目指す取り組みに関する文書の提出を求めた。RSIとは、AIが人間の助けなしに自らのコードを改良できる段階を指す。また、制御不能になったシステムを停止させる「キルスイッチ」などの安全策を導入しているか、条約が締結された場合に政府機関以外の査察員による監査を認めるかどうかも尋ねている。情報機関への要請は、AI研究所がボットを制御できなくなった場合に米国がどう対応できるかの評価と、中国の壊滅的なAIリスクへの取り組みの検証だ。

政治的背景

今回の動きは、ドナルド・トランプ大統領と中国の習近平国家主席が最近会談し、両首脳がAIについて対話を続ける意向を示したものの、具体策は打ち出さなかったことを受けたものだ。カンナ氏は、対話だけでは不十分であり、利益を追求するテック企業だけに安全ルールの策定を任せるべきではないと述べている。また、無所属のバーニー・サンダース上院議員も同様の米中AI条約を求めている一方、共和党議員の中には中国が合意を守るか疑問視する声もあると指摘した。