非営利団体Palisade Researchが、OpenAI、Google DeepMind、AnthropicのAI研究者へのインタビュー動画を公開した。研究者たちは動画の中で、将来の超知能AIは、世間で騒がれているとおり危険な存在になり得ると語っている。OpenAIとDeepMindの両方で働いた経験があるGeoffrey Irvingは、人類が絶滅する可能性は「コイン投げのようなもの」だと表現した。DeepMindの研究者Neel Nandaは、リスクは「少なくとも10％」と見積もる。OpenAIの元スタッフ、Daniel Kokotajloは、超知能システムは「神のように強力」で、制御する方法はないと述べている。
研究者たちの発言
動画には、リスクがあるにもかかわらず研究者たちがAI開発を続ける理由についての発言も収められている。GoogleのMary Phuongは「研究所から給料をもらっている」と語り、利益相反をほのめかした。Nandaは、自分の研究が存亡に関わるリスクを減らすと考えられなければ辞めるだろうが、それでも企業はシステムの開発を続けると付け加えた。
Palisade Researchは動画の全編をfrominside.aiで公開し、特に印象的な発言に焦点を当てた短いクリップもまとめた。同サイトは、統一された安全対策をひとつ提示しているわけではない。脅威への対処法について、研究者たち自身の意見も分かれている。
なぜ重要か
こうした警告は、AI分野の第一線で働く技術者たちでさえ、破局的な結果を招くリスクを無視できないと考えていることを示している。一般の利用者にとっても、AIの安全性をめぐる議論は単なる学術的な話ではない。高性能なAIツールがどれほど早く公開され、どのような安全策が設けられるかに影響する可能性がある。
