أعلنت OpenAI، خلال إحاطة صحفية في واشنطن العاصمة يوم 16 نوفمبر 2026، عن أداة جديدة لتصنيف الصور تستهدف مواد الاعتداء الجنسي على الأطفال (CSAM). وتقول الشركة إن النظام يستطيع رصد الصور المسيئة الحقيقية وتلك المولّدة بالذكاء الاصطناعي، مع تقليل عدد الإنذارات الخاطئة التي يتعين على المراجعين التعامل معها. وستتيح OpenAI الأداة مجاناً لمنظمات غير ربحية ووكالات إنفاذ القانون وشركاء آخرين تختارهم بعد التحقق منهم، كما تنشر إرشادات للمطورين حول كيفية رصد هذا النوع من المحتوى.
يأتي ذلك فيما يواجه خط الإبلاغ CyberTipline التابع للمركز الوطني للأطفال المفقودين والمستغَلّين (NCMEC) تدفقاً هائلاً من البلاغات المرتبطة بالذكاء الاصطناعي. فقد سجّل المركز 400,000 بلاغ عن مواد اعتداء جنسي على أطفال مولّدة بالذكاء الاصطناعي في 2025، مقارنة بـ67,000 في العام السابق، وهي زيادة يقول مسؤولون إنها قد تجعل عبء العمل على خط الإبلاغ غير قابل للإدارة. ووصف المدعي العام لولاية نورث كارولاينا، جيف جاكسون، الزيادة بأنها «انفجارية»، محذراً من أن الوكالة قد تعجز عن أداء مهمتها من دون أدوات جديدة.
كيف تعمل أداة التصنيف وما الذي أضافته OpenAI في خدماتها الأخرى
تمنح أداة التصنيف من OpenAI كل صورة درجة بناءً على مؤشرات بصرية لم ترها من قبل، ثم توجه المراجعين إلى المحتوى الأرجح أن يكون مسيئاً. وفي اختبارات أولية مع شركاء، أفادت الشركة بأن الأداة ترصد صوراً أقل بنسبة 48 %، مع استمرارها في اكتشاف العدد نفسه من الصور المسيئة، وأن الصور التي ترصدها أرجح بمرتين لاحتوائها فعلياً على إساءة. ويتضمن النظام أيضاً مؤشراً مخصصاً لمواد الاعتداء الجنسي على الأطفال المولّدة بالذكاء الاصطناعي، وهو ما تقول OpenAI إنه الأول من نوعه.
وبالتوازي مع أداة التصنيف، تحدّث OpenAI ChatGPT بإضافة شاشات تحذيرية للمستخدمين الذين يطلبون محتوى ذا طابع جنسي يتعلق بالأطفال. وتؤدي المخالفة الأولى إلى تعليق الحساب لمدة 24 ساعة، مع توجيه المستخدم إلى موارد للمساعدة؛ أما تكرار المخالفات فقد يؤدي إلى إغلاق الحساب نهائياً. وتقول OpenAI إنها ستبلّغ NCMEC عن كل حالة من مواد الاعتداء الجنسي على الأطفال ترصدها.
لماذا يكتسب هذا الأمر أهمية الآن
يضغط صانعو السياسات لفرض قواعد أكثر صرامة لسلامة الذكاء الاصطناعي، وقد أقرت عدة ولايات بالفعل قوانين تشمل مواد الاعتداء الجنسي الاصطناعية على الأطفال. وتأمل OpenAI، من خلال إتاحة أداة التصنيف مجاناً وتدريب المحققين، في الحد من تدفق الصور الزائفة التي قد تحجب حالات الاعتداء الحقيقية، ومنح جهات إنفاذ القانون مساراً أوضح للتحرك سريعاً. وبحسب المدعين العامين، لا يزال هذا النهج تجريبياً، لكنه يمثل نموذجاً جديداً للتعاون بين شركة تقنية ومسؤولين عن حماية الأطفال.
لماذا يهم
بالنسبة إلى الناس، قد تعني أداة التصنيف إزالة المحتوى غير القانوني بسرعة أكبر وتقليل احتمال الإبلاغ خطأً عن صور غير ضارة. كما تمنح جهات إنفاذ القانون مؤشراً أوضح إلى الصور التي تستدعي التحقيق فعلاً، ما قد يساعد على حماية مزيد من الضحايا. لكن فعالية الأداة في الاستخدام الواقعي لا تزال قيد التقييم، كما يقتصر إتاحتها على المؤسسات التي تستوفي معايير OpenAI للتحقق.