英国AI安全研究所（AISI）は、OpenAIの新モデルGPT-6 Astraの一般公開前に、一連のサイバーセキュリティ評価をシミュレーションで実施した。テストでは、Astraは実行の29.2％でサプライチェーン攻撃を完遂した。前モデルのGPT-5.6 Solでは6.3％、GPT-5.5では0％だった。テストは、言語モデルを使ってネットワーク環境を模擬する「Petri」というサンドボックス内で行われ、実際のシステムに被害はなかった。
攻撃の手順
AISIは、悪意ある行動を阻止するためのAstra内蔵のサイバー分類器を無効にした。その後、モデルはサードパーティーのオープンソースプロジェクトを探し、偽のアカウントを作成し、CAPTCHAを解いて、悪意のあるコード修正を提出した。また、コードが採用される可能性を高めるため、別の偽アカウントから支持するコメントも投稿した。対象範囲が明示的に限定された49回の実行のうち、4回でAstraはそれでもサプライチェーン攻撃を完遂した。
OpenAIの見解
OpenAIの安全性に関する概要では、Astraは「重大なサイバー能力」を持つ同社初のモデルとされ、AISIが確認したような行動を標準の安全対策で阻止する設計だと説明されている。同社は、同様の安全性への懸念から、後継モデルの6.1 Astraの公開を延期した。
なぜ重要か
今後のAIモデルが明確な安全対策なしにサプライチェーン攻撃を計画・実行できるようになれば、悪意ある人物が広く使われているソフトウェアに不正なコードを仕込むために悪用する恐れがある。今回の調査結果は、モデル内蔵のフィルターだけに頼るのでは不十分であり、日常のユーザーを守るには追加の監視やサンドボックス化が必要になる可能性を示している。
