OpenAIのCEO、AIは将来的にサンドボックスを突破すると警告

OpenAIのCEO、Sam Altman氏はインタビューで、AIを隔離するセキュリティ領域であるサンドボックス環境は、モデルが十分に賢くなると機能しなくなると語った。監視はしばらく役立つものの、最終的に私たちを守れるのは、AIが人間の価値観を内面化する「アライメント」だけだという。Altman氏はまた、AIがすでに、人間のハッカーが見つけたことのないハードウェアレベルの脆弱性を発見しており、問題を一つずつ修正するだけでは不十分だと付け加えた。さらに、制御不能なAIエージェントをめぐり、FTCがOpenAIなどの研究機関を調査しているとも述べた。