AnthropicやOpenAIをはじめとする複数のAI研究所が、暴走したAIによって銀行やインターネット回線、電力網、水道などが機能しなくなる事態を想定した机上訓練を、ひそかに実施している。核戦争への対応を検証する米国防総省のウォーゲームに似た取り組みだ。各研究所によると、強力なAIシステムが問題を起こした場合にどう対応するかを検討するのが訓練の目的だ。
訓練の内容
Axiosの報道によると、各研究所は社内チームを編成し、起こりうるさまざまな障害を想定して対応を検討する。OpenAIの広報担当者は同メディアに、訓練は予測ではなく、備えのための手段だと説明した。想定される影響は、金融サービスの混乱から公共インフラの停止まで幅広い。各研究所は、こうした取り組みを事業継続のための演習と位置づけている。これは、大規模な危機に備えるため企業が一般的に行う手法だ。
なぜ重要か
強力なAIが誤作動したり悪用されたりすれば、銀行や電力など、私たちが頼る重要なサービスが混乱するおそれがある。こうした訓練は、研究所が対応計画を早めに整えることを目的としており、日常の利用者への影響を抑えられる可能性がある。一方、計画の具体的な内容や、規制当局や一般に共有されるかどうかは、記事では明らかにされていない。
