# AnthropicやOpenAI、AI災害を想定した訓練を実施

> 各研究所は、暴走したAIが重要インフラに及ぼす影響を検証するため、シミュレーションを行っているという。

Oossa · 2026-10-10 · https://oossa.com/ja/anthropic-openai-and-peers-are-running-ai-disaster-drills

AnthropicやOpenAIをはじめとする複数のAI研究所が、暴走したAIによって銀行やインターネット回線、電力網、水道などが機能しなくなる事態を想定した机上訓練を、ひそかに実施している。核戦争への対応を検証する米国防総省のウォーゲームに似た取り組みだ。各研究所によると、強力なAIシステムが問題を起こした場合にどう対応するかを検討するのが訓練の目的だ。

## 訓練の内容

Axiosの報道によると、各研究所は社内チームを編成し、起こりうるさまざまな障害を想定して対応を検討する。OpenAIの広報担当者は同メディアに、訓練は予測ではなく、備えのための手段だと説明した。想定される影響は、金融サービスの混乱から公共インフラの停止まで幅広い。各研究所は、こうした取り組みを事業継続のための演習と位置づけている。これは、大規模な危機に備えるため企業が一般的に行う手法だ。

## 事実

- Axiosの報道によると、AnthropicやOpenAIなどのAI研究所が、暴走したAIのシナリオを想定した訓練を行っている。
- 想定には、金融サービスやインターネット・通信網、電力や水道などの公共インフラへの攻撃が含まれる。
- OpenAIの広報担当者は、同社がさまざまな潜在的シナリオを話し合う備えのための訓練を行っていると述べた。
- 記事で引用された業界の専門家は、今後6〜12か月以内に重大なAI事故が起きる可能性があると考えている。

## なぜ重要か

強力なAIが誤作動したり悪用されたりすれば、銀行や電力など、私たちが頼る重要なサービスが混乱するおそれがある。こうした訓練は、研究所が対応計画を早めに整えることを目的としており、日常の利用者への影響を抑えられる可能性がある。一方、計画の具体的な内容や、規制当局や一般に共有されるかどうかは、記事では明らかにされていない。

## 出典と参考資料

1. [Top AI labs reportedly planning for catastrophic AI event fallout](https://www.tomshardware.com/tech-industry/artificial-intelligence/top-ai-labs-reportedly-planning-for-catastrophic-ai-event-fallout-anthropic-openai-and-others-reportedly-building-contingency-plans-and-running-scenarios-of-a-runaway-ai-wreaking-havoc) – Tom's Hardware, 2026-10-10

最終更新: 2026-10-10