Oossa

WIRED发现400多款应用和域名暗藏深度伪造工具

WIRED调查发现,一些外表普通的应用会暗中加载制作露骨深度伪造内容的工具。Apple和Google在接到通知后下架了相关应用。

作者: Oossa 发布日期: 2 分钟阅读

Thom Bradley · Unsplash

WIRED的一项调查发现,400多款相互关联的应用和网站曾被用于隐藏制作露骨AI生成图像和视频的工具。这些应用往往伪装成普通服务,例如宠物肖像制作工具和语言辅导应用。在特定情况下,它们会转而加载一个隐藏界面,用户可以上传照片,将人物置于色情场景中。

该界面提供了多个模板,标题包括“卧室强奸”和“持刀威胁”等情节。WIRED发现,这些应用通过Facebook和Instagram上的露骨广告推广,有时广告会直接链接到Apple或Google的应用商店。这些广告和应用反映出一种更广泛的现象:WIRED此前的报道发现,Meta上的广告曾展示AI生成的儿童性虐待材料,其中包括真实儿童的图像。

这些应用如何隐藏真实用途?

研究人员表示,这些应用会先检查用户所在位置、使用语言等信息,再决定向用户展示哪个版本。点击相关的Meta广告似乎是触发露骨版本加载的方式之一。Infoblox安全研究员Maël Le Touz发现了近500个相互关联的域名,其中许多运行着相同的代码,并彼此引用。

研究员Paul Bouchaud的分析显示,这些应用似乎在2025年底开始出现。一度每周约有30款应用注册,9月时有27款仍在Google Play上架。根据他的研究,这些应用的总下载量超过350,000次。其中一款应用DiffAI在Google下架前,Play Store下载量已超过100,000次;Google是在WIRED联系该公司前不久将其下架的。

平台采取了哪些措施?

WIRED向Apple提供调查结果后,Apple下架了19款应用,其中包括宠物肖像应用Viefur。Apple发言人Adam Dema表示,开发者在应用获批后更改了应用加载的网站,用色情内容取代了原先获批的内容。Apple称,过去一年中,因类似的“诱饵换内容”手法而被暂停的应用开发者账户已有数万个。WIRED联系Google前,Google已下架大多数相关应用,但没有回应该媒体的置评请求。

研究人员表示,这一行动似乎涉及中国开发者。WIRED发现了与在香港注册的KeLing Technology Limited有关的线索,包括联系信息和网站关联,但该公司没有回应置评请求。Meta表示,已于2025年禁止KeLing投放广告,之后又对与这些域名相关的账户、主页和广告采取了措施。WIRED报道说,调查结束时,类似广告和应用仍在出现。

为什么重要

用户通过广告安装一款外表普通的应用后,可能会遇到隐藏工具,这些工具能将上传的照片制作成露骨深度伪造内容。这项调查记录了应用下架和平台采取的措施,但也指出报道结束时仍有类似广告和应用出现;调查并未说明有多少用户实际接触到了隐藏界面。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。