Googleのエンジニア、ヘイドン・ベルフィールド氏は、人間の助けなしにAIがより優れたAIを設計する「自己改善するAI」は、まだ現実に近づいていないと述べている。DeepMindの社内データによると、現在、本番コードの75％超をAIが書いているものの、変更の約88％は提出前に人間が確認する必要がある。
自動化が進むのは限定的な作業、研究は対象外
最新の社内測定では、AIに全面的に任せられたコード変更の割合は7.5％から11.9％に増えた。作業が複雑になると、人間の介入なしでAIが成功する割合は大きく下がる。DeepMindのArgonエージェントによる1,389回の実行では、創造的な研究、実験の設計、微妙な学習上の問題の診断、長期的な計画において、人間が欠かせないままだった。DeepMindの上級研究者12人を対象とした小規模な調査でも同様の傾向が示され、明確に定義され検証可能な作業では自動化が進む一方、自由度の高い科学的な発想では自動化が進んでいないとされた。
ベンチマークが示すのは着実な進歩、加速ではない
現実的な機械学習エンジニアリングの課題74件で構成されるDeepMindのRE-Benchでは、Argonは約半数を解決した。Gemini 3.7 Flashのスコアは27％だった。123モデルを92のベンチマークで追跡するGeneral Capability Index（GCI）によると、Geminiモデルの性能は月あたり約0.1 GCIポイントのペースで向上しており、加速を示す統計的な兆候はない。ベルフィールド氏は、Gemini 4 Argonの小幅な性能向上は、AI主導の加速ではなく、計算資源の増加と組織的な取り組みによるものだと述べている。
なぜ重要か
Googleをはじめとする企業の開発者にとって、AIは定型的なコーディングを担えるものの、人間による確認は依然必要であり、仕事がすぐになくなるわけではない。AIコミュニティ全体にとっても、研究が自己加速していない以上、急速な「知能爆発」の予測は推測の域を出ず、安全性への懸念をより長い時間軸で見守ることができる。
