OpenAI در نشست خبریای در واشنگتن دیسی در 16 نوامبر 2026، از یک دستهبند تصویری جدید برای شناسایی محتوای سوءاستفاده جنسی از کودکان (CSAM) رونمایی کرد. این شرکت میگوید سامانه هم تصاویر واقعی و هم تصاویر آزارگرانه تولیدشده با هوش مصنوعی را شناسایی میکند و تعداد موارد اشتباهی را که بررسیکنندگان باید رسیدگی کنند کاهش میدهد. OpenAI این دستهبند را رایگان در اختیار برخی سازمانهای غیرانتفاعی، نهادهای مجری قانون و دیگر شرکای تأییدشده قرار میدهد و همزمان راهنماییهایی برای توسعهدهندگان منتشر میکند تا بتوانند این نوع محتوا را شناسایی کنند.
این اقدام در حالی صورت میگیرد که خط دریافت گزارشهای آنلاین مرکز ملی کودکان مفقود و مورد سوءاستفاده قرارگرفته (NCMEC) زیر بار گزارشهای مرتبط با هوش مصنوعی مانده است. NCMEC در سال 2025، تعداد 400,000 گزارش درباره محتوای سوءاستفاده جنسی از کودکانِ تولیدشده با هوش مصنوعی ثبت کرد؛ در حالی که این رقم سال قبل 67,000 بود. مقامها میگویند این افزایش میتواند رسیدگی به گزارشها را از توان این مرکز خارج کند. جف جکسون، دادستان کل کارولینای شمالی، این افزایش را «انفجاری» خواند و هشدار داد که بدون ابزارهای جدید، این نهاد ممکن است نتواند به مأموریت خود عمل کند.
این ابزار چگونه کار میکند و OpenAI چه تغییرات دیگری داده است
دستهبند OpenAI بر اساس نشانههای بصریای که پیشتر ندیده است، به هر تصویر امتیاز میدهد و بررسیکنندگان را بهسمت محتواهایی هدایت میکند که احتمال آزارگرانه بودنشان بیشتر است. این شرکت در آزمایشهای اولیه با شرکای خود گزارش داد که ابزار 48 % تصویر کمتر علامتگذاری میکند، اما همچنان همان تعداد تصویر آزارگرانه را شناسایی میکند؛ همچنین احتمال اینکه تصاویر علامتگذاریشده واقعاً حاوی سوءاستفاده باشند، دو برابر است. این سامانه پرچمی ویژه برای محتوای سوءاستفاده جنسی از کودکانِ تولیدشده با هوش مصنوعی هم دارد؛ قابلیتی که به گفته OpenAI، نخستین نمونه از نوع خود است.
OpenAI در کنار این ابزار، ChatGPT را هم بهروزرسانی میکند تا برای کاربرانی که محتوای جنسیسازیشده مرتبط با کودکان درخواست میکنند، هشدار نمایش دهد. در تخلف نخست، حساب کاربر برای 24 ساعت تعلیق میشود و منابع کمک در اختیارش قرار میگیرد؛ تکرار تخلف ممکن است به مسدودشدن دائمی حساب بینجامد. OpenAI میگوید همه موارد محتوای سوءاستفاده جنسی از کودکان را که شناسایی کند، به NCMEC گزارش خواهد داد.
چرا این موضوع اکنون اهمیت دارد
سیاستگذاران خواهان قوانین سختگیرانهتری برای ایمنی هوش مصنوعی هستند و چندین ایالت تاکنون قوانینی درباره محتوای مصنوعی سوءاستفاده جنسی از کودکان تصویب کردهاند. OpenAI امیدوار است با ارائه رایگان این ابزار و آموزش به بازرسان، سیل تصاویر جعلی را که ممکن است موارد واقعی سوءاستفاده را پنهان کند کاهش دهد و مسیر اقدام سریعتر را برای نهادهای مجری قانون هموار کند. به گفته دادستانهای کل، این رویکرد هنوز آزمایشی است، اما الگویی تازه از همکاری میان یک شرکت فناوری و مقامهای مسئول حمایت از کودکان به شمار میرود.
چرا مهم است
برای مردم عادی، این ابزار میتواند به حذف سریعتر محتوای غیرقانونی و کاهش احتمال گزارش اشتباهی تصاویر بیضرر منجر شود. نهادهای مجری قانون نیز نشانه روشنتری میگیرند که کدام تصاویر واقعاً نیازمند بررسیاند؛ موضوعی که میتواند به حمایت از قربانیان بیشتری کمک کند. با این حال، اثربخشی ابزار در استفاده واقعی همچنان در حال ارزیابی است و دسترسی به آن به سازمانهایی محدود میشود که معیارهای تأیید OpenAI را داشته باشند.