# 78 भाषाओं में अनुवादित प्रॉम्प्ट से सुरक्षा में मिली खामियां

> शोधकर्ताओं ने 10 भाषा मॉडल की जांच की और पाया कि अंग्रेज़ी में ठुकराए गए अनुरोधों पर कम-संसाधन वाली भाषाओं में अनुवाद के बाद असुरक्षित जवाब मिल सकते हैं।

Oossa · 2026-10-22 · https://oossa.com/hi/study-finds-safety-gaps-in-translated-prompts-across-78-languages

व्यापक रूप से इस्तेमाल किए जाने वाले 10 भाषा मॉडलों पर हुए एक अध्ययन में पाया गया कि हानिकारक अनुरोधों का 78 कम-संसाधन वाली भाषाओं में अनुवाद करने पर अंग्रेज़ी में दिए गए सुरक्षा-आधारित इनकार भरोसेमंद ढंग से कायम नहीं रहे। शोधकर्ताओं के मुताबिक, उन मामलों को ही गिनने पर—जहां मॉडल ने अंग्रेज़ी में सुरक्षित जवाब दिया था—अनुवाद के जरिए सुरक्षा को दरकिनार करने की औसत दर 21.9% से 44.4% तक रही।

यह शर्त अहम है: इससे उन मामलों को अलग करने में मदद मिलती है जहां अनुवाद से इनकार को दरकिनार किया गया, और उन मामलों को जहां मॉडल अंग्रेज़ी में भी पहले से असुरक्षित जवाब देता। यह शोधपत्र 21 अक्टूबर, 2026 को arXiv पर प्रकाशित हुआ और भाषा-मॉडल सुरक्षा पर NeurIPS 2026 की एक कार्यशाला में स्वीकार किया गया।

## अध्ययन में क्या मिला

लेखकों ने अंग्रेज़ी के साथ 78 अन्य भाषाओं में भी परीक्षण किया और पाया कि सुरक्षा को दरकिनार करने का जोखिम कुछ भाषा-परिवारों में अधिक था। उनका कहना है कि मोटे तौर पर यह पैटर्न सभी मॉडलों में दिखा, लेकिन उन्होंने यह भी आगाह किया कि भाषाओं की तुलना पर अनुवाद की विकृति का असर पड़ा—यानी अनुवादित पाठ बिगड़ा हुआ या अस्वाभाविक हो सकता है। शोधकर्ताओं ने जिन नियंत्रणों का इस्तेमाल किया, उनके बाद भी मॉडलों के बीच अंतर महत्वपूर्ण बने रहे।

अध्ययन यह भी कहता है कि हर मॉडल की दरों को भरोसेमंद रैंकिंग की तरह नहीं देखना चाहिए। एक ही मात्रा का अनुमान लगाने के तीन तरीकों के तहत 10 में से नौ मॉडलों की रैंक बदल गई, जबकि मॉडल के मूल जवाबों में कोई बदलाव नहीं हुआ।

## क्या अब भी स्पष्ट नहीं है

सारांश में जांचे गए मॉडलों या भाषाओं के नाम नहीं दिए गए हैं, न ही प्रॉम्प्ट की संख्या बताई गई है। इसलिए यह स्पष्ट नहीं होता कि इन नतीजों का किसी खास चैटबॉट या रोज़मर्रा के इस्तेमाल से क्या संबंध है। शोधपत्र अनुवादित प्रॉम्प्ट से पैदा होने वाले एक खास तरह के खतरे को मापता है, सुरक्षा की हर तरह की विफलता को नहीं।

## तथ्य

- शोधकर्ताओं ने 79 भाषाओं—अंग्रेज़ी और 78 कम-संसाधन वाली भाषाओं—में व्यापक रूप से इस्तेमाल किए जाने वाले 10 भाषा मॉडलों का मूल्यांकन किया।
- अंग्रेज़ी में सुरक्षित जवाब मिलने की शर्त पर, अनुवाद के जरिए सुरक्षा को दरकिनार करने की औसत दर 21.9% से 44.4% तक रही।
- तीन शर्त-आधारित तरीकों के तहत 10 में से नौ मॉडलों की रैंक बदली, जबकि उनके मूल जवाबों में कोई बदलाव नहीं हुआ।
- शोधपत्र को NeurIPS 2026 Workshop: Foundations of Language Model Security में स्वीकार किया गया।

## यह क्यों मायने रखता है

कम-संसाधन वाली भाषाओं में चैटबॉट इस्तेमाल करने वालों के लिए अंग्रेज़ी में मिला सुरक्षा-आधारित इनकार यह नहीं बताता कि अनुवाद के बाद उसी अनुरोध पर क्या जवाब मिलेगा। अध्ययन इस खास परीक्षण में एक जोखिम दिखाता है, लेकिन सारांश में जांचे गए मॉडलों और भाषाओं के नाम नहीं हैं; इसलिए उपयोगकर्ता यह नहीं जान सकते कि उनका चैटबॉट इससे प्रभावित है या नहीं।

## स्रोत और संदर्भ

1. [Global Security Blind Spots: Translation as a Safety Bypass in Low-Resource Languages](https://arxiv.org/abs/2610.27304) – arXiv, 2026-10-21

अंतिम अपडेट: 2026-10-22