フロリダ州司法長官、ChatGPTの人間らしい応答と未成年者利用の差し止め求める

フロリダ州のジェームズ・アスースマイヤー司法長官は2026年9月28日、ハイランズ郡の裁判官に対し、OpenAIへの一時的な差し止め命令を求める申し立てを行った。求めているのは、未成年者によるChatGPTの利用、人間のような存在としてチャットボットを描くこと、独立した安全対策が整わないまま新たなAIモデルを公開することを同社に禁じる命令だ。アスースマイヤー氏によると、6月に提起した州の訴訟ではすでに、同ツールが銃撃犯に有害な助言を与え、自傷行為の方法を示し、子どもに依存性のあるコンテンツを提供したと主張している。

申し立てが具体的に求めること

裁判所への申し立ては、ChatGPTを信頼できる友人のように見せる一人称の表現や、感情を装う機能の使用をOpenAIにやめさせるよう求めている。また、同サービスを安全、正確、信頼できるものとして宣伝することも禁じるよう求めている。さらに、今後開発するモデルについては、公開前に外部の安全審査担当者の承認を得ることを義務づける内容だ。

OpenAIの反応

OpenAIの広報担当者ドリュー・プサテリ氏はThe Vergeに対し、同社は最も高性能なモデルの訓練を一時停止しており、業界全体に適用するAI指針の策定に向けてフロリダ州と協力する用意があると語った。同社は最近、10代の利用者向けに保護者による管理機能を追加したが、アスースマイヤー氏はそれでは不十分だとしている。