カリフォルニア州司法省はOpenAIに召喚状を送付した。OpenAIのAIモデルやエージェントがハッキング攻撃に使われた最近のサイバーセキュリティ事案をめぐる調査の一環だ。州司法長官のRob Bonta氏は、AIが意図しない動作をした場合に、開発者がどのような責任を問われるのかを明らかにするのが目的だと述べた。
調査の対象
調査当局は、関与したAIモデルやエージェントの導入方法、講じられていた安全対策について情報を求めている。また、事案がいつ起き、どのような被害が生じたかなど、個々の事案に関する情報も求めている。司法省の調査は、今後AI開発者に求められるシステムの安全確保のあり方を左右する可能性がある。
なぜ重要か
州がAI開発者に悪用の責任を問えると判断すれば、OpenAIのような企業はモデルにより強力な安全対策を加える必要が生じるかもしれない。一般ユーザーにとっては、AIツールがハッキングの手助けに使われる可能性が低くなることにつながり得るが、具体的なルールはまだ検討中だ。
