7 अक्टूबर, 2026 को Meta ने ऐसे विज्ञापनों का पता लगाने के लिए नए कृत्रिम बुद्धिमत्ता टूल की घोषणा की, जो बाल यौन शोषण सामग्री तक पहुंचने का रास्ता बनते हैं। कंपनी ने यह भी बताया कि साल की पहली छमाही में उसने Facebook और Instagram से ऐसी 33.2 million सामग्री हटाई। हटाई गई सामग्री में से अधिकांश—97% से अधिक—पर कार्रवाई उपयोगकर्ताओं की शिकायत आने से पहले की गई।
नए टूल कैसे काम करते हैं
Meta का नया लार्ज लैंग्वेज मॉडल—पाठ को समझने और संसाधित करने वाला AI—“साइनपोस्टिंग” की तलाश करता है। इसका मतलब ऐसे विज्ञापन हैं जो सामान्य दिखते हैं, लेकिन उपयोगकर्ताओं को अवैध साइटों पर भेजते हैं। सिस्टम केवल विज्ञापन के लिखे हुए पाठ की जांच नहीं करता, बल्कि लिंक का पीछा करके यह भी देखता है कि वह कहां ले जाता है। नियमों का उल्लंघन होने पर वह उस साइट तक पहुंच रोक सकता है। कंपनी ने एक “रेड-टीमिंग AI एजेंट” भी जोड़ा है, जो अपने ही सुरक्षा सिस्टम को तोड़ने की कोशिश करता है। इससे इंजीनियर खामियों को पहले ही ठीक कर सकते हैं, इससे पहले कि गलत इरादे वाले लोग उनका फायदा उठाएं। पुराने टूल से छूटी शोषण-संबंधी सामग्री पकड़ने के लिए अतिरिक्त स्कैन भी किए जा रहे हैं, और नए खातों के साथ लौटने वाले बार-बार के उल्लंघनकर्ताओं का पता लगाने की क्षमता बेहतर की जा रही है।
बाल सुरक्षा के लिए व्यापक प्रयास
ये नए AI उपाय 2026 में Meta की ओर से पेश की गई बाल सुरक्षा सुविधाओं की कड़ी में शामिल हैं। इनमें Meta AI के लिए माता-पिता के नियंत्रण, WhatsApp के प्री-टीन खाते और किशोरों के आत्म-हानि से जुड़ी सामग्री खोजने पर Instagram अलर्ट शामिल हैं। अगस्त में Meta ने बाल सुरक्षा को लेकर 29 U.S. राज्यों की ओर से दायर मुकदमे का निपटारा करने के लिए $18 billion तक देने पर सहमति जताई।
यह क्यों मायने रखता है
आम उपयोगकर्ताओं के लिए, यह AI हानिकारक विज्ञापनों को लोगों—खासकर बच्चों—को चुपचाप अवैध सामग्री तक पहुंचाने से रोक सकता है। माता-पिता को फीड में जोखिम भरे लिंक कम दिख सकते हैं, लेकिन नए टूल कितने प्रभावी हैं, इसका आकलन अभी जारी है और कंपनी ने स्वतंत्र ऑडिट के नतीजे जारी नहीं किए हैं।
