Anthropic का कहना है कि उसके नए सुरक्षा उपायों से हमलावरों के लिए Claude मॉडल से रीजनिंग डेटा निकालना बहुत कठिन हो गया है। कंपनी के मुताबिक, सुरक्षा उपाय लागू होने के बाद निकाले गए चेन-ऑफ-थॉट टोकन की मात्रा में 90 से 99 प्रतिशत तक कमी आई। इन उपायों का लक्ष्य बड़े पैमाने पर डिस्टिलेशन है—यानी किसी AI मॉडल की क्षमताओं की नकल करके छोटे, प्रतिस्पर्धी सिस्टम को प्रशिक्षित करना।
नए सुरक्षा उपाय कैसे काम करते हैं
Anthropic अब Claude के आंतरिक रीजनिंग चरणों तक बाहरी पहुंच रोकता है। कंपनी एक क्लासिफायर चलाती है, जो डेटा निकालने की कोशिश जैसी दिखने वाली क्वेरी को पहचानता है और ऐसी क्वेरी करने वाले खातों पर अपने आप प्रतिबंध लगा देता है। कंपनी का कहना है कि अब तक दसियों हज़ार खातों को ब्लॉक किया जा चुका है। उसने यह भी माना कि इस कार्रवाई में कुछ वैध उपयोगकर्ता भी फंस गए हैं।
किस पर असर पड़ा है
लेख में चीनी कंपनियों Zhipu और Moonshot के नाम कथित चोरी में शामिल पक्षों के तौर पर दिए गए हैं। कहा गया है कि Zhipu ने अपने GLM‑5.3 मॉडल के लिए क्षमताएं हासिल कीं, जबकि Moonshot ने कथित तौर पर Claude के जरिए क्वेरी भेजीं। Anthropic ने चेतावनी दी है कि चोरी की गई क्षमताएं विदेशी सैन्य या निगरानी उपकरणों में इस्तेमाल हो सकती हैं।
आगे क्या होगा
Anthropic अन्य AI डेवलपरों से भी ऐसे ही सुरक्षा उपाय अपनाने की अपील कर रहा है। कंपनी ने क्लासिफायर की तकनीकी जानकारी या इसे लागू करने की सटीक समय-सीमा नहीं बताई है; उसने सिर्फ इतना कहा है कि सुरक्षा उपाय पहले से सक्रिय हैं।
यह क्यों मायने रखता है
अगर सुरक्षा उपाय दावे के मुताबिक काम करते हैं, तो Claude उपयोगकर्ताओं को गलत पहचान के कारण खातों पर लगने वाले प्रतिबंधों से कम परेशानी हो सकती है और मॉडल की क्षमताओं के शत्रुतापूर्ण पक्षों तक पहुंचने का जोखिम घट सकता है। हालांकि, Anthropic ने माना है कि कुछ वैध उपयोगकर्ताओं को अब भी ब्लॉक किया जा रहा है, इसलिए रोज़मर्रा के डेवलपरों पर इसका असर अभी साफ नहीं है।
