Md Nishat Raihan के नेतृत्व वाली टीम ने arXiv पर BanglaShield प्रकाशित किया। इस संसाधन में बंगाली के तीन लिपि-रूपों में 10,245 प्रॉम्प्ट हैं, जिनमें से हर एक को सुरक्षा के लिहाज़ से लेबल किया गया है। छह मौजूदा बड़े भाषा मॉडलों पर किए गए परीक्षण में, उन मॉडलों ने मूल बंगाली लिपि वाले 47 % असुरक्षित प्रॉम्प्ट को सुरक्षित बताया। रोमन लिप्यंतरण वाले पाठ में यह आंकड़ा 63 % था। BanglaShield नाम के कॉम्पैक्ट, फाइन-ट्यून किए गए एनकोडर ने मूल लिपि वाले प्रॉम्प्ट पर 87.8 macro‑F1 और रोमन लिप्यंतरण वाले प्रॉम्प्ट पर 84.4 हासिल किया। यह सबसे अच्छे LLM से करीब 45 अंक आगे रहा और इसमें लगभग 130 × कम पैरामीटर लगे।
यह क्यों मायने रखता है
बंगाली भाषा के ऐप बनाने वाले डेवलपर असुरक्षित सामग्री को मौजूदा LLM-आधारित क्लासिफायरों की तुलना में अधिक भरोसेमंद तरीके से छांटने के लिए BanglaShield का इस्तेमाल कर सकते हैं।
