بر اساس تحقیقی از WIRED، بیش از ۴۰۰ اپ و وب‌سایت مرتبط برای پنهان‌کردن ابزارهای ساخت تصاویر و ویدئوهای صریحِ تولیدشده با هوش مصنوعی به کار رفته‌اند. این اپ‌ها اغلب خود را خدماتی معمولی، از جمله ابزار ساخت پرتره حیوانات خانگی یا آموزش زبان، معرفی می‌کردند. اما در شرایطی خاص می‌توانستند رابطی مخفی را بارگذاری کنند که در آن کاربران عکس‌ها را آپلود می‌کردند تا افراد در صحنه‌های جنسی قرار بگیرند.
این رابط شامل قالب‌هایی با سناریوهایی مانند «تجاوز در اتاق‌خواب» و «تهدید با چاقو» بود. WIRED دریافت که این اپ‌ها با آگهی‌های صریح در Facebook و Instagram تبلیغ می‌شدند و گاهی آگهی‌ها مستقیماً به فروشگاه‌های اپل یا گوگل پیوند داشتند. این آگهی‌ها و اپ‌ها بخشی از روندی گسترده‌ترند: گزارش‌های قبلی WIRED از آگهی‌های Meta حاوی محتوای سوءاستفاده جنسی از کودکانِ تولیدشده با هوش مصنوعی خبر داده بودند؛ از جمله تصاویری از کودکان واقعی.
این اپ‌ها چطور هدفشان را پنهان می‌کردند؟
به گفته پژوهشگران، اپ‌ها پیش از انتخاب نسخه‌ای که به کاربر نشان می‌دادند، اطلاعاتی مانند موقعیت مکانی و زبان او را بررسی می‌کردند. به نظر می‌رسد کلیک روی آگهی مرتبط در Meta یکی از عواملی بوده که نسخه صریح را بارگذاری می‌کرده است. پژوهشگر امنیتی Maël Le Touz از Infoblox نزدیک به ۵۰۰ دامنه مرتبط را شناسایی کرد که بسیاری از آن‌ها کدهای یکسانی داشتند و به یکدیگر ارجاع می‌دادند.
بر اساس تحلیل پژوهشگر Paul Bouchaud، این اپ‌ها ظاهراً اواخر ۲۰۲۵ شروع به ظهور کردند. در مقطعی، هر هفته حدود ۳۰ اپ ثبت می‌شد و در سپتامبر ۲۷ مورد از آن‌ها در Google Play فعال بودند. پژوهش او نشان داد این اپ‌ها در مجموع بیش از ۳۵۰٬۰۰۰ بار دانلود شده بودند. یکی از آن‌ها، DiffAI، پیش از آن‌که گوگل اندکی پیش از تماس WIRED با این شرکت حذفش کند، بیش از ۱۰۰٬۰۰۰ بار از Play Store دانلود شده بود.
پلتفرم‌ها چه کردند؟
پس از آن‌که WIRED یافته‌هایش را با اپل در میان گذاشت، این شرکت ۱۹ اپ، از جمله اپ ساخت پرتره حیوانات خانگی Viefur، را حذف کرد. Adam Dema، سخنگوی اپل، گفت توسعه‌دهندگان پس از تأیید اپ‌هایشان، وب‌سایت‌هایی را که اپ‌ها بارگذاری می‌کردند تغییر داده و محتوای تأییدشده را با پورنوگرافی جایگزین کرده بودند. اپل می‌گوید طی سال گذشته ده‌ها هزار اپ را به‌دلیل ترفندهای مشابهِ «طعمه‌گذاری و جایگزینی» تعلیق کرده است. گوگل پیش از تماس WIRED بیشتر اپ‌ها را حذف کرده بود، اما به درخواست این رسانه برای اظهارنظر پاسخی نداد.
پژوهشگران گفتند به نظر می‌رسد این عملیات با مشارکت توسعه‌دهندگان چینی انجام شده باشد. WIRED پیوندهایی با شرکت ثبت‌شده در هنگ‌کنگ، KeLing Technology Limited، پیدا کرد؛ از جمله اطلاعات تماس و ارتباط با وب‌سایت‌ها، اما شرکت به درخواست اظهارنظر پاسخی نداد. Meta گفت در ۲۰۲۵ تبلیغات KeLing را ممنوع کرده و بعدتر علیه حساب‌ها، صفحه‌ها و آگهی‌های مرتبط با این دامنه‌ها اقدام کرده است. WIRED گزارش داد که هنگام پایان تحقیقاتش، آگهی‌ها و اپ‌های مشابه همچنان در حال ظهور بودند.
چرا مهم است
افرادی که با کلیک روی آگهی اپی با ظاهر معمولی را نصب می‌کنند، ممکن است با ابزارهای مخفی‌ای روبه‌رو شوند که عکس‌های آپلودشده را به دیپ‌فیک‌های صریح تبدیل می‌کنند. این تحقیق از حذف اپ‌ها و اقدامات اجرایی خبر می‌دهد، اما می‌گوید با پایان گزارش‌دهی، آگهی‌ها و اپ‌های مشابه همچنان در حال ظهور بودند؛ همچنین مشخص نمی‌کند کاربران با چه گستردگی‌ای با رابط مخفی روبه‌رو شده‌اند.
