Oossa

گزارش تصاویر آزار جنسی کودکانِ ساخته‌شده با هوش مصنوعی ۸۴۰۰٪ بیشتر شد

Childlight در سال ۲۰۲۵ بیش از ۴۰۰٬۰۰۰ تصویر آزار جنسیِ ساخته‌شده با هوش مصنوعی را ثبت کرد؛ این رقم در سال ۲۰۲۳ حدود ۴٬۷۰۰ بود. بهبود روش‌های شناسایی می‌تواند بخشی از این افزایش را توضیح دهد.

نویسنده: منتشرشده توسط Oossa: 2 دقیقه مطالعه

Sanket Mishra · Unsplash

بر اساس داده‌های مؤسسه Childlight در ادینبرو، گزارش تصاویر آزار جنسی کودکانِ ساخته‌شده با هوش مصنوعی از حدود ۴٬۷۰۰ مورد در سال ۲۰۲۳ به بیش از ۴۰۰٬۰۰۰ مورد در سال ۲۰۲۵ رسیده است. این افزایش بیش از ۸٬۴۰۰ درصد، یا حدود ۸۵ برابر رقم سال ۲۰۲۳ است. این ارقام بر پایه گزارش‌هایی است که شرکت‌های فناوری به مرکز ملی کودکان گمشده و مورد بهره‌کشی آمریکا (NCMEC) ارائه کرده‌اند.

این محتوا شامل تصاویر واقع‌نمایی است که با دست‌کاری عکس‌های موجود ساخته می‌شوند؛ از جمله با برنامه‌های «برهنه‌سازی» که لباس فرد را به‌صورت دیجیتالی حذف می‌کنند. آزارگران می‌توانند از این تصاویر جعلی برای تهدید کودکان و درخواست پول یا تصاویر بیشتر استفاده کنند. برای چنین باج‌گیری‌ای لازم نیست تصاویر، آزار واقعی را نشان دهند.

این ارقام چه چیزی را نشان می‌دهند؟

آمار جداگانه‌ای از بنیاد ناظر اینترنت بریتانیا (IWF) نیز از افزایش مداوم محتوایی حکایت دارد که این نهاد بررسی کرده است. این سازمان در نیمه نخست سال ۲۰۲۶، ۶٬۳۱۰ تصویر مجرمانه و واقع‌نمای آزار جنسیِ ساخته‌شده با هوش مصنوعی را بررسی کرد؛ ۴۰ درصد بیشتر از مجموع تصاویری که در کل سال ۲۰۲۵ بررسی کرده بود. این رقم شمار تصاویر بررسی‌شده را نشان می‌دهد، نه تعداد گزارش‌های ثبت‌شده؛ بنابراین با آمار Childlight معیار متفاوتی دارد.

افزایش سریع گزارش‌ها به‌تنهایی نشان نمی‌دهد که میزان آزار واقعی چقدر افزایش یافته است. دبی فرای، مدیر داده‌های Childlight، گفت بهبود سامانه‌های شناسایی تا حدی جهش آمار را توضیح می‌دهد. آمار موجود مشخص نمی‌کند که بهبود شناسایی چه سهمی در این افزایش داشته و چه سهمی ناشی از تغییر میزان تولید یا انتشار محتوای آزارگرانه است.

درخواست برای واکنشی هماهنگ

فرای از قانون‌گذاران و شرکت‌های فناوری می‌خواهد هرچه سریع‌تر اقدام کنند. پل استنفیلد، مدیر اجرایی Childlight، می‌خواهد دولت‌ها با این موضوع به‌عنوان وضعیت اضطراری سلامت عمومیِ قابل پیشگیری برخورد کنند و برای پیشگیری بودجه اختصاص دهند. او همچنین خواستار همکاری هماهنگ میان بخش‌های سلامت، مدارس، خدمات حمایت از کودکان و نظام قضایی شد.

این آمار نشان می‌دهد که مقام‌ها و پلتفرم‌ها در مقایسه با دو سال پیش، تصاویر آزار جنسیِ ساخته‌شده با هوش مصنوعی بسیار بیشتری را شناسایی می‌کنند؛ بااین‌حال، بهبود شناسایی همچنان بخشی از توضیح این افزایش است. پیشنهادهای Childlight هم بر پیشگیری و هم بر واکنش تمرکز دارد، اما آمار مشخص نمی‌کند کدام اقدام‌ها بیشترین اثر را خواهند داشت.

چرا مهم است

کودکان ممکن است با تصاویر دست‌کاری‌شده با هوش مصنوعی تهدید شوند و برای دادن پول یا تصاویر بیشتر تحت فشار قرار گیرند؛ بنابراین این مسئله حتی وقتی تصویر جعلی است، می‌تواند خانواده‌ها و مدارس را درگیر کند. افزایش شدید گزارش‌ها روشن است، اما هنوز مشخص نیست چه میزان از آن به افزایش آزار و چه میزان به بهبود شناسایی مربوط می‌شود.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.