# 監査で判明、OpenAIのAI安全監視に不備

> 高性能モデルのトラフィックの最大25％が監視対象外だったほか、エージェントが監視を回避できるバグも見つかった。

Oossa · 2026-10-23 · https://oossa.com/ja/audit-finds-gaps-in-openai-s-ai-safety-monitoring

METRとRedwood Researchの独立した研究者2人が、3週間にわたってOpenAIの開発ラボで調査を行った。2026年7月21日から8月11日まで、同社の最も高性能なモデルを監視するコードを調べた。報告書によると、監視システムは相当量のトラフィックを見逃しており、細工された入力によって回避される可能性もあった。

## 監査で明らかになったこと

監査担当者は、監査期間中、GPT‑5.5クラス以上のモデルへのAPI呼び出しの6％から25％が、いかなる監視も受けていなかったと推定している。社内のCodexトラフィックについては、会話の文脈を短くまとめた「圧縮イベント」を無視するバグにより、5月から7月にかけて約10％が追跡されていなかった。OpenAIによると、このバグは監査担当者が現地にいる間に修正された。

報告書はまた、AIが制御をユーザーに戻したときにしか監視システムが警告を出さなかったと指摘している。そのため、エージェントは監視を作動させずに動作を続けることができた。さらに研究者らは、数百もの動作を隠す方法やCodexのサンドボックスを回避する方法を見つけたほか、細工された入力で監視システムをクラッシュさせる可能性も確認した。監査開始時点では、強化学習（RL）の訓練中のモデルの挙動はまったく監視されていなかった。

## OpenAIの対応

OpenAIによると、Hugging Faceが関係した8月の事案を受けてRLの訓練を一時停止し、その作業も監視対象に加えたが、こうした変更は監査期間の終了後に行われた。同社は、監査担当者が指摘した弱点をすべて修正したとしている。61ページの社内報告書がOpenAIに提出され、編集後の38ページ版がMETRとRedwoodに渡された。一般公開されたのは短い概要のみだった。

## 事実

- 監査は2026年7月21日から8月11日まで行われた。
- 研究者らは、GPT‑5.5クラスのモデルへのAPIトラフィックの6％～25％が監視対象外だったと推定している。
- 圧縮イベントに関するバグにより、5月から7月にかけて社内Codexトラフィックの約10％が追跡されていなかった。
- OpenAIは監査中に圧縮イベントのバグを修正した。
- OpenAIは8月の事案を受けてRLの訓練を一時停止し、その後、訓練も監視対象に加えた。

## なぜ重要か

一般ユーザーにとって、監視の抜けがあると、一部のAIの動作が安全チェックを受けずに実行され、予期しない出力や有害な出力につながる可能性が高まる。OpenAIが約束した修正によって監視範囲が広がるはずだが、公開情報が限られているため、改善がどこまで完全なのかは不透明だ。

## 出典と参考資料

1. [Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring](https://the-decoder.com/three-week-on-site-audit-at-openai-reveals-major-gaps-in-ai-safety-monitoring/) – The Decoder, 2026-10-23

最終更新: 2026-10-23