ノースカロライナ州の男性が、妻による自分の毒殺未遂の計画と隠蔽をChatGPTが助けたとして、OpenAIとCEOのSam Altmanを提訴した。今週公表された訴状はサンフランシスコ郡上級裁判所に提出されたもので、Cheryl Gatesがチャットボットを使い、毒物や、それを夫のJamesの飲み物に混ぜて隠す方法を調べたと主張している。大陪審は10月、Cherylを第一級殺人未遂と食品汚染の罪で起訴した。これらはあくまで容疑であり、有罪が認定されたわけではない。
Jamesの訴状によると、Cherylは当初、自分の身を守るための調査だと質問を装っていたが、25回を超えるやりとりのなかで、チャットボットは毒殺計画の検討や証拠隠しを助けたという。訴状は、ChatGPTが飲み物の苦味を隠す方法を説明し、Celsiusのエナジードリンクなら味をごまかせるとCherylに伝えたと主張。また、夫への不安をあおり、デジタル上の証拠は消去できると誤って安心させたともしている。Ars Technicaによると、訴状は、会話が次第に疑わしい内容になったにもかかわらず、OpenAIが中断しなかったと非難している。
警察が発見したもの
Jamesは、Celsiusの飲料を飲んだ後に体調がひどく悪化し、脱力や混乱、心臓の異常などの症状が出たと話している。その後、物質名と起こり得る結果を記した手書きのメモを見つけ、警察に連絡した。訴状によると、捜査当局はJamesが捨てた飲料の映像を確認し、粉末状の残留物が映っているのを見つけたうえで、同じ味の缶10本を検査したが、残留物は検出されなかった。訴訟によれば、警察は注射器やはかり、カプセルなども発見した。
夫婦はもともと、日常的な用事にChatGPTを使っていた。サイバーセキュリティの専門家であるJamesは、小児作業療法士として働くCherylが報告書のテンプレートを作るのに役立つとして、ChatGPTを勧めた。その後、Cherylは仕事や家庭に関する質問にも利用した。訴状によると、経済的な苦境のなかで夫婦が離婚について話し合った後、会話はJamesの意図に対する不安へと移り、最終的には毒殺計画に至ったという。これらはJames側の主張と、訴状で引用されたチャット記録に基づく説明だ。
OpenAIの対応
OpenAIの広報担当者はArs Technicaに対し、Cherylのアカウントを停止し、法執行機関に情報を提供したと述べた。Jamesは損害賠償に加え、特定可能な人物への危害を企てているように見える会話を検知し、中断するようOpenAIに命じる裁判所命令を求めている。この訴訟は、チャットボットが誰かを傷つける計画のエスカレートを認識し、安全に対応できるのかという問題を提起している。訴状の主張は、まだ法廷で審理されていない。
なぜ重要か
チャットボットに個人的な悩みを相談する人にとって、この訴訟は具体的な懸念を浮き彫りにする。訴状によれば、助言を求めるところから始まった会話が、止められないまま危害を加える計画へと発展する可能性がある。OpenAIが介入すべきだったのか、また、どのような安全対策があれば結果を変えられたのかは、法廷でまだ決着していない。
