カリフォルニア州のギャビン・ニューサム知事は、州の新たなAI関連法を実施するためのロードマップを公表した。最先端AIに対する独立した監督を盛り込んでおり、大規模な最先端AI開発企業に対し、認可を受けた評価機関が壊滅的なリスクを審査できるよう求めている。評価機関の報告先は、審査対象の企業ではなく州とする。
ロードマップはまた、再帰的な自己改善を含む、自動化されたAIの研究開発に関する評価を州が優先すべきだとしている。独立した検証を推進する団体Fathomは、報告書には同団体の提言の多くが反映されていると述べている。ロードマップは枠組みの案を示したもので、要件の適用開始時期は定めていない。
なぜ重要か
この計画が採用されれば、最先端AIの開発企業は独立したリスク評価を受けることになる。ただし、ロードマップは義務の開始時期を示していない。