OpenAI封禁与俄伊虚假新闻行动有关的ChatGPT账号

OpenAI宣布，已关闭两个参与外国影响力行动的ChatGPT账号。其中一场行动名为“Dark Clark”，由俄罗斯人员操控，目标是在拉丁美洲传播有关乌克兰的假消息。另一场名为“Bogus Bylines”，是伊朗方面发起的行动，在全球各地的新闻网站刊登了约100篇有关美伊冲突的伪造文章。

行动如何运作

两方都虚构了记者身份，并使用AI工具撰写和翻译文章。俄罗斯团队还伪造音频片段和文件，引发厄瓜多尔和秘鲁的事实核查及官方驳斥。伊朗方面还发布了社交媒体评论，但这些内容几乎没有引起关注。OpenAI表示，由于政界人士对相关内容作出反应，俄罗斯行动在其“Breakout Scale”影响力行动等级中被评为“category 5”；这是2½年来首次出现这种高等级案例。

OpenAI的应对

OpenAI调查后立即封禁了这两场行动所使用的ChatGPT账号。公司没有透露是否还涉及其他账号。OpenAI还发布了一份报告，介绍相关手法及AI在行动中扮演的角色，并强调这些影响力行动瞄准的是正规新闻媒体，而不仅仅是社交媒体平台。