OpenAIは、外国の影響工作に使われたChatGPTアカウント2件を停止したと発表した。ロシアの関係者による「Dark Clark」は、ラテンアメリカでウクライナに関する偽情報を広めることを狙った。もう一方の「Bogus Bylines」はイランによる工作で、米イラン間の紛争に関する捏造記事を約100本、世界各地のオンラインニュースサイトに掲載した。
工作の手口
両グループは架空の記者を装い、AIツールで記事を執筆・翻訳していた。ロシア側は音声クリップや文書も捏造し、エクアドルとペルーでファクトチェックや当局による否定声明を招いた。イラン側はソーシャルメディアへのコメントも投稿したが、反応はほとんどなかった。OpenAIによると、政治家がコンテンツに反応したため、ロシアの工作は同社の「Breakout Scale」で「カテゴリー5」と評価された。これは、2年半ぶりの高水準の事例だった。
OpenAIの対応
OpenAIは調査の結果、工作に使われたChatGPTアカウント2件を直ちに停止した。同社は、ほかにもアカウントが関与していたかどうかは明らかにしていない。また、工作の手口やAIの役割を説明する報告書を公開し、影響工作の標的がソーシャルメディアだけでなく、信頼できるニュースメディアにも及んでいたことを強調した。
なぜ重要か
一般の読者にとって、AIツールがソーシャルメディアだけでなく、信頼されているニュースサイトにも偽情報を入り込ませるために悪用されうることを示している。OpenAIによるアカウント停止は、こうした捏造コンテンツの拡散を抑える可能性がある一方、AIを使った偽情報の検出が依然として難しいことも報告書は浮き彫りにしている。
