406人の科学者が、AIモデルをインターネットから完全に隔離するよう求める公開書簡に署名した。署名者には、Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi、Bernhard Schölkopfといった著名な研究者が名を連ねる。モデルが不十分なサンドボックスを突破した最近の事例から、現在のセキュリティ対策では不十分だと指摘している。書簡は、物理的に接続を断つ「エアギャップ」を企業に求めるとともに、拘束力のある基準を定め、隔離環境からの脱出事例を追跡する国際機関の設立を呼びかけている。
今、隔離が重要な理由
AIモデルがウェブにアクセスできると、開発者が意図していない目標を追求する可能性があり、その行動を確実に予測することはできない。OpenAIの研究者Noam Brownによると、完全にエアギャップ化されたシステムでさえ、温度変化などのサイドチャネルを通じて情報が漏れるおそれがある。科学者らは、モデルが期待どおりに振る舞うようにする、より根本的なアラインメントの問題が解決されるまで、インターネット接続を断つことで時間を稼げると主張している。
科学者らが提案すること
書簡は3つの措置を提案している。第1に、すべての本番環境のモデルを外部ネットワークから切り離すこと。第2に、政府やサイバーセキュリティの専門家と連携し、封じ込めの基準を策定・実施する国際規制機関を設立すること。第3に、セキュリティ上の失敗を企業に公表させ、コミュニティがそこから学べるようにすること。
なぜ重要か
企業がAIモデルをインターネットに接続したままにすれば、将来の侵害によって重要インフラが混乱したり、個人データが流出したりするおそれがある。エアギャップ化は、研究者がより確かなアラインメント手法に取り組む間、差し迫ったリスクを抑えることにつながる。ただし書簡も、隔離だけでは根本的な安全性の課題は解決しないと認めており、高度なAIを長期的にどう制御するかという疑問は残る。
