WIRED的一项调查发现,400多款相互关联的应用和网站曾被用于隐藏制作露骨AI生成图像和视频的工具。这些应用往往伪装成普通服务,例如宠物肖像制作工具和语言辅导应用。在特定情况下,它们会转而加载一个隐藏界面,用户可以上传照片,将人物置于色情场景中。
该界面提供了多个模板,标题包括“卧室强奸”和“持刀威胁”等情节。WIRED发现,这些应用通过Facebook和Instagram上的露骨广告推广,有时广告会直接链接到Apple或Google的应用商店。这些广告和应用反映出一种更广泛的现象:WIRED此前的报道发现,Meta上的广告曾展示AI生成的儿童性虐待材料,其中包括真实儿童的图像。
这些应用如何隐藏真实用途?
研究人员表示,这些应用会先检查用户所在位置、使用语言等信息,再决定向用户展示哪个版本。点击相关的Meta广告似乎是触发露骨版本加载的方式之一。Infoblox安全研究员Maël Le Touz发现了近500个相互关联的域名,其中许多运行着相同的代码,并彼此引用。
研究员Paul Bouchaud的分析显示,这些应用似乎在2025年底开始出现。一度每周约有30款应用注册,9月时有27款仍在Google Play上架。根据他的研究,这些应用的总下载量超过350,000次。其中一款应用DiffAI在Google下架前,Play Store下载量已超过100,000次;Google是在WIRED联系该公司前不久将其下架的。
平台采取了哪些措施?
WIRED向Apple提供调查结果后,Apple下架了19款应用,其中包括宠物肖像应用Viefur。Apple发言人Adam Dema表示,开发者在应用获批后更改了应用加载的网站,用色情内容取代了原先获批的内容。Apple称,过去一年中,因类似的“诱饵换内容”手法而被暂停的应用开发者账户已有数万个。WIRED联系Google前,Google已下架大多数相关应用,但没有回应该媒体的置评请求。
研究人员表示,这一行动似乎涉及中国开发者。WIRED发现了与在香港注册的KeLing Technology Limited有关的线索,包括联系信息和网站关联,但该公司没有回应置评请求。Meta表示,已于2025年禁止KeLing投放广告,之后又对与这些域名相关的账户、主页和广告采取了措施。WIRED报道说,调查结束时,类似广告和应用仍在出现。
为什么重要
用户通过广告安装一款外表普通的应用后,可能会遇到隐藏工具,这些工具能将上传的照片制作成露骨深度伪造内容。这项调查记录了应用下架和平台采取的措施,但也指出报道结束时仍有类似广告和应用出现;调查并未说明有多少用户实际接触到了隐藏界面。