Claude चैटबॉट बनाने वाली कंपनी Anthropic ने कहा कि उसकी मानव-समीक्षा टीम ने धमकी भरी बातचीत की सूचना कानून प्रवर्तन अधिकारियों को दी। इसके बाद फ्लोरिडा के Lee County में एक महिला पर गंभीर अपराध का आरोप लगाया गया। आरोप Florida Statute 836.10 के तहत दर्ज किया गया, जो सामूहिक गोलीबारी या आतंकवाद की लिखित या इलेक्ट्रॉनिक धमकियों से संबंधित है।
धमकी का पता कैसे चला
Anthropic ऐसी प्रमुख शब्दावली वाली चैट पर नज़र रखती है, जो खतरनाक हो सकती है। जब “Carli” नाम की एक उपयोगकर्ता ने 26 सितंबर को कहा कि वह Lee County Sheriff’s Office में “गोलीबारी करेगी”, तो सिस्टम ने संदेश को चिह्नित कर दिया। 27 सितंबर को लिखे गए एक बाद के नोट में नई बंदूक का ज़िक्र था। भाषा को गंभीर मानते हुए समीक्षा टीम ने मामला मानव विश्लेषक के पास भेजा, जिसने फिर sheriff’s office को इसकी सूचना दी। पुलिस ने महिला को उसके घर से बिना किसी घटना के हिरासत में लिया और जांच की ज़िम्मेदारी एक खुफिया जासूस ने संभाली।
AI इस्तेमाल करने वालों के लिए इसका क्या मतलब है
Anthropic की नीति से पता चलता है कि AI सेवा देने वाली कंपनियां बातचीत में वास्तविक धमकी के संकेत मिलने पर दखल दे सकती हैं और देती भी हैं। कंपनी की समीक्षा प्रक्रिया सार्वजनिक सुरक्षा के लिए बनाई गई है, लेकिन इसका यह भी मतलब है कि हिंसक इरादे वाली चैट की जांच की जा सकती है और उसे अधिकारियों के साथ साझा किया जा सकता है।
यह क्यों मायने रखता है
आम उपयोगकर्ताओं के लिए यह मामला दिखाता है कि AI चैट पूरी तरह निजी नहीं होतीं; सेवा देने वाली कंपनियां हिंसक भाषा को चिह्नित कर उसकी सूचना दे सकती हैं। यह भी स्पष्ट होता है कि चैटबॉट से कही गई धमकी के वास्तविक दुनिया में कानूनी नतीजे हो सकते हैं। हालांकि, पुलिस को शामिल करने का फैसला करने के लिए Anthropic किन सटीक मानदंडों का इस्तेमाल करती है, यह अब भी स्पष्ट नहीं है।
