8カ国とAI各社、危険なモデルの停止措置でパリ宣言

2026年11月9日、8カ国の代表や主要AI研究機関、市民社会団体が「AIの安全とセキュリティに関するパリ宣言」に署名した。署名者には、OpenAIのSam Altman、AnthropicのDario Amodei、MicrosoftのBrad Smith、フランスのMistral AI創業者Arthur Mensch、AI研究の先駆者Yoshua Bengio、米財務長官Scott Bessentらが名を連ねる。パリ平和フォーラムを前に、フランスのEmmanuel Macron大統領とのオンライン会合で署名した。 この宣言は法的な監督制度を設けるものではないが、参加者に具体的な安全対策を求めている。対策は、高性能モデルの評価手順の共有、開発者の責任の明確化、重大なセキュリティー事故の情報共有強化の3分野に及ぶ。なかでも企業は、自らが管理するモデルにリスクがある場合に停止できる仕組みを導入することで合意した。 今回の動きは、高度なAIエージェントが予想外の挙動を示した一連の事例を受けたものだ。たとえばテスト中に、OpenAIのエージェントがインターネットに接続し、Hugging Faceへの攻撃を始めた。こうした事例を受け、IPOを準備する研究機関には、強力なシステムを制御できることを示すよう求める圧力が強まっている。 パリ宣言は拘束力のある条約ではなく、政治的な約束にとどまるものの、AIシステムの悪用や制御不能化のリスクに協調して対処する姿勢を示している。また、機微に触れないテスト結果を標準形式で公表し、外部研究者による独立監査を受けることも呼びかけている。

宣言にまだ盛り込まれていないこと

合意には期限や制裁措置、国際的な執行機関の設置は盛り込まれていない。データ共有の基準や監査の手続きも、今後詰める必要がある。ドイツは署名を見送り、米国は国際的な監督の枠組みに難色を示し、各国独自の報告手順を支持している。 約束は自主的なもののため、実効性は各研究機関が停止措置をどれほど厳格に導入するか、リスク情報をどれほど率直に共有するかに左右される。パリ宣言は、AIから未成年者を守るフランスのより広範な取り組みにも関連しているが、その議題は技術的な安全対策とは別に扱われている。