Anthropicは、Model Evaluation and Transparency Research（METR）のメンバー6人が同社のキャンパスで、Anthropicのリスク評価チームと同じ機材や社内システムを使って活動すると発表した。これは無報酬の取り決めで、METRは調査結果を公表できる。ただしAnthropicは、顧客データ、秘匿情報、モデルのアーキテクチャに関する詳細について、削除を求めることができる。
なぜ第三者にここまでアクセスを認めるのか？
この動きは、Anthropicが企業価値を2兆ドル超と見込むIPOの準備を進めるなかで打ち出された。投資家は、安全性のリスクが抑えられていることを示す証拠を求めている。METRのスタッフを社内に迎えることで、Anthropicは自社モデルに対する透明性の高い監督体制を示そうとしている。これは、銀行がリスクの高い行動が社会に被害を及ぼす前に、規制当局に確認を認めるのと似ている。
なぜ重要か
消費者にとって、監督の強化は、同社の上場後に危険なモデルの挙動が製品に入り込む可能性を下げることにつながりうる。また、規制当局がリスクを評価するための、より具体的なデータも得られる。ただし、この監督がどれほど効果を発揮するかは、まだ分からない。
