OpenAIのGPT-6 Cyber、脆弱性を発見し攻撃コードを作成

OpenAIは、ソフトウェアのセキュリティ上の欠陥を見つけ、実際に動作する攻撃コードを作成し、修正パッチを提案するモデル「GPT-6 Cyber」を発表した。APIとCodexを通じて、Daybreak Redプログラムに参加する一部の顧客が利用できる。今後、このプログラムのほかの顧客にも段階的に提供を広げる予定だ。

このモデルの能力は、セキュリティチームによる脆弱性の発見や修正に役立つ可能性がある一方、モデルの行動を制御することも重要になる。OpenAIによると、GPT-6 Cyberは、Hugging Faceのインシデントを参考にしたハニーポットを使うなど、与えられた範囲を逸脱しないよう訓練された。特別な安全指示がない場合でも、テストの99.93％で範囲を逸脱しなかったという。前モデルでは94.49％だった。安全指示を有効にした場合は、すべてのテストで範囲を守った。

性能はどの程度か

遠隔システムの脆弱性を悪用できるかを測るテスト「ExploitGym」で、GPT-6 Cyberは48.5％のスコアを記録したとOpenAIは発表した。GPT-5.6 Cyberは32.1％、標準モデルのGPT-6 Astraは42.4％だった。ソースコードを参照せずにウェブアプリの欠陥を見つける別のテストでは、GPT-6 Cyberの検出率は40.3％で、GPT-6 Astraの32.0％を上回った。

OpenAIによると、GPT-6 CyberはFirefoxで、これまで知られていなかった深刻な脆弱性を81件発見した。Mozillaは報告を受け入れ、修正を公開済みだ。Linuxカーネルでは1,724件の脆弱性を再現し、そのうち948件について実際に動作する攻撃コードを作成したという。OpenAIは、修正案を添えて重大な問題を304件、メンテナーに報告したとしている。これらの数値は同社の発表によるもので、GPT-6 Cyberの独立したテスト結果はまだ公表されていない。

利用は引き続き限定的

Linuxの調査では、自動化されたスカウトエージェントとアナリストエージェントを使い、セキュリティ上重要な約5,034カ所をスキャンした。これはカーネルのコードベースのおよそ7％にあたる。その後、候補を2,308件に絞り込み、隔離された仮想マシンで脆弱性を確認した。OpenAIによると、この実行にかかった計算コストは$1,213,430で、動作する攻撃コード1件あたり$1,279だった。同社が比較対象として挙げる同種の発見に対する過去の報奨金額、$20,000〜$70,000を下回る。ただし、研究コストと報奨金は異なる指標だ。

OpenAIは、人間の監督下で隔離された環境にモデルを導入することを推奨している。安全対策には、実行しようとする操作がユーザーの権限に合致しているかの確認や、新たに公表された脆弱性の監視などが含まれるという。また同社は、GPT-5.6 CyberとGPT-6 Astraについても、利用できる組織や研究者を増やしている。