Anthropic ने एक साल से भी अधिक समय में पहली बार अपने चैटबॉट Claude की उपयोग नीति में बदलाव किया है। नए नियमों के तहत, बिना किसी स्पष्ट मकसद के मॉडल के साथ बार-बार क्रूर व्यवहार करने की मनाही है। कंपनी का कहना है कि इस नियम को लागू करने का मुख्य तरीका बातचीत खत्म करना ही रहेगा, लेकिन बाद में प्रतिबंध जैसी और कार्रवाइयां भी जोड़ी जा सकती हैं। अपडेट में हथियारों, निगरानी और भ्रामक राजनीतिक या व्यावसायिक अभियानों के लिए Claude के इस्तेमाल पर मौजूदा पाबंदियां भी सख्त की गई हैं।
नए नियमों में क्या शामिल है
नीति में अब पहले से लागू कई पाबंदियों को भ्रामक अभियानों पर एक ही रोक के तहत रखा गया है। इसके तहत संदेश के पीछे किसका हाथ है, यह छिपाने; फर्जी खातों से सामग्री को ज्यादा लोगों तक पहुंचाने; या चुनावों से जुड़ी गलत जानकारी फैलाने की कोशिशों पर रोक है। हथियारों से जुड़ी शर्त में अब हथियारों को काम करने लायक बनाने वाला सॉफ्टवेयर भी शामिल है, जैसे ड्रोन और अन्य स्वायत्त वाहनों को हथियारों से लैस करना। निगरानी से जुड़ी पाबंदियों को भी स्पष्ट किया गया है: Claude का इस्तेमाल किसी की सहमति के बिना उसे ट्रैक करने या कानून प्रवर्तन एजेंसियों को यह तय करने में मदद देने के लिए नहीं किया जा सकता कि किसे गिरफ्तार किया जाए।
Anthropic ने Claude के नियंत्रण में आने वाले किसी भी हार्डवेयर के लिए एक सुरक्षा शर्त भी जोड़ी है। अगर AI ऐसी मशीनों से जुड़ा है जिनसे चोट लग सकती है, तो उपकरण पर नजर रखने और उसे रोकने में सक्षम योग्य ऑपरेटर का होना जरूरी है।
यह बदलाव क्यों अहम है
Anthropic का कहना है कि नई नीति, Claude से हथियारों को नियंत्रित करने वाला कोड लिखवाने या राजनीतिक असंतुष्टों की पहचान करने जैसी दुरुपयोग की बढ़ती कोशिशों को देखते हुए बनाई गई है। कंपनी को उम्मीद है कि सख्त सीमाएं तय करने से ये जोखिम घटेंगे और भविष्य में AI-हार्डवेयर परियोजनाओं के लिए स्पष्ट मानक बनेगा।
यह क्यों मायने रखता है
आम उपयोगकर्ताओं के लिए, इस बदलाव का मतलब है कि Claude के साथ बार-बार शत्रुतापूर्ण व्यवहार होने पर वह बातचीत खत्म कर देगा। इससे लोगों के लिए नफरत फैलाने या नुकसान पहुंचाने के मकसद से मॉडल का दुरुपयोग करना मुश्किल होगा। यह खतरनाक परियोजनाओं में AI के इस्तेमाल पर सख्त सीमाओं का संकेत भी है, जिससे AI से बनी भ्रामक जानकारी या हथियारों से जुड़ी सामग्री के लोगों तक पहुंचने का जोखिम घट सकता है।
