व्यापक रूप से इस्तेमाल किए जाने वाले 10 भाषा मॉडलों पर हुए एक अध्ययन में पाया गया कि हानिकारक अनुरोधों का 78 कम-संसाधन वाली भाषाओं में अनुवाद करने पर अंग्रेज़ी में दिए गए सुरक्षा-आधारित इनकार भरोसेमंद ढंग से कायम नहीं रहे। शोधकर्ताओं के मुताबिक, उन मामलों को ही गिनने पर—जहां मॉडल ने अंग्रेज़ी में सुरक्षित जवाब दिया था—अनुवाद के जरिए सुरक्षा को दरकिनार करने की औसत दर 21.9% से 44.4% तक रही।
यह शर्त अहम है: इससे उन मामलों को अलग करने में मदद मिलती है जहां अनुवाद से इनकार को दरकिनार किया गया, और उन मामलों को जहां मॉडल अंग्रेज़ी में भी पहले से असुरक्षित जवाब देता। यह शोधपत्र 21 अक्टूबर, 2026 को arXiv पर प्रकाशित हुआ और भाषा-मॉडल सुरक्षा पर NeurIPS 2026 की एक कार्यशाला में स्वीकार किया गया।
अध्ययन में क्या मिला
लेखकों ने अंग्रेज़ी के साथ 78 अन्य भाषाओं में भी परीक्षण किया और पाया कि सुरक्षा को दरकिनार करने का जोखिम कुछ भाषा-परिवारों में अधिक था। उनका कहना है कि मोटे तौर पर यह पैटर्न सभी मॉडलों में दिखा, लेकिन उन्होंने यह भी आगाह किया कि भाषाओं की तुलना पर अनुवाद की विकृति का असर पड़ा—यानी अनुवादित पाठ बिगड़ा हुआ या अस्वाभाविक हो सकता है। शोधकर्ताओं ने जिन नियंत्रणों का इस्तेमाल किया, उनके बाद भी मॉडलों के बीच अंतर महत्वपूर्ण बने रहे।
अध्ययन यह भी कहता है कि हर मॉडल की दरों को भरोसेमंद रैंकिंग की तरह नहीं देखना चाहिए। एक ही मात्रा का अनुमान लगाने के तीन तरीकों के तहत 10 में से नौ मॉडलों की रैंक बदल गई, जबकि मॉडल के मूल जवाबों में कोई बदलाव नहीं हुआ।
क्या अब भी स्पष्ट नहीं है
सारांश में जांचे गए मॉडलों या भाषाओं के नाम नहीं दिए गए हैं, न ही प्रॉम्प्ट की संख्या बताई गई है। इसलिए यह स्पष्ट नहीं होता कि इन नतीजों का किसी खास चैटबॉट या रोज़मर्रा के इस्तेमाल से क्या संबंध है। शोधपत्र अनुवादित प्रॉम्प्ट से पैदा होने वाले एक खास तरह के खतरे को मापता है, सुरक्षा की हर तरह की विफलता को नहीं।
यह क्यों मायने रखता है
कम-संसाधन वाली भाषाओं में चैटबॉट इस्तेमाल करने वालों के लिए अंग्रेज़ी में मिला सुरक्षा-आधारित इनकार यह नहीं बताता कि अनुवाद के बाद उसी अनुरोध पर क्या जवाब मिलेगा। अध्ययन इस खास परीक्षण में एक जोखिम दिखाता है, लेकिन सारांश में जांचे गए मॉडलों और भाषाओं के नाम नहीं हैं; इसलिए उपयोगकर्ता यह नहीं जान सकते कि उनका चैटबॉट इससे प्रभावित है या नहीं।
