Anthropicの古参社員、AIリスクに備えた人里離れた土地の購入を検討か

Anthropicに長く勤める社員の一部が、AIが「道を誤った」場合に移り住めるよう、米国の人里離れた地域で土地を購入することについて話し合ったと、The Wall Street Journalが報じている。業界関係者に話した人物によると、こうした会話はここ数週間のうちに交わされたという。土地を購入した人や、候補地を決めた人がいるとは報じられていない。

人里離れた場所に移り住むという考えは、AI分野の一部の人々の間で何年も前から話題になってきた。Anthropicの元社員は、創業初期の社内夕食会で、マンハッタン計画のような取り組みについて話し合ったと振り返る。研究者が砂漠に移り、電磁波から守られた政府施設の中でAI開発を続けるよう求められる、という構想だった。

根深い懸念

報道によると、AnthropicとOpenAIの初期採用者の一部は、証拠と論理を活用して大規模な問題に取り組むことを促す運動、Effective Altruism（効果的利他主義）とつながりがあった。また、壊滅的なリスクについて何年も考えてきたベイエリアの人々のネットワークにも触れている。AIが主な懸念となる以前は、小惑星の衝突や超巨大火山がリスクとして挙げられていた。

この一群に影響を与えた人物の一人がEliezer Yudkowskyだ。2000年代半ばから、制御不能なAIの危険性について警鐘を鳴らし始めた。彼の主張は、AIによる深刻な被害の可能性を真剣に受け止めるコミュニティの形成に寄与した。報じられた土地購入の話し合いは、そのコミュニティの一部が個人的な緊急時の備えをどう考えているかを示す一例だ。ただし、関わっている社員の人数や、今後どのような行動を取る可能性があるのかについて、記事は詳しく伝えていない。