Aleph Alpha ने एक ऐसी विधि जारी की है, जो भाषा मॉडल को सिखाती है कि दिए गए दस्तावेज़ में ज़रूरी जानकारी न हो तो वह जवाब देने से इनकार करे। Merlin‑Arthur protocol नाम की इस तकनीक में मॉडल (Arthur) का मुकाबला दो सहायकों से होता है: Merlin, जो पूरा अंश देता है, और Morgana, जो निर्णायक वाक्य हटा देती है। प्रशिक्षण के दौरान Arthur को कभी पता नहीं चलता कि उसका सामना किससे है। इस तरह वह सीखता है कि सबूत मौजूद होने पर ही जवाब दे और अन्यथा जवाब देने से बचे। सवाल-जवाब के पांच बेंचमार्क पर किए गए परीक्षणों में गलत जवाब 35 प्रतिशत अंक तक घटे और नया “grounding score” 0.38 तक बढ़ा।
यह क्यों मायने रखता है
इससे उपयोगकर्ताओं को भरोसेमंद तरीके से पता चल सकता है कि AI का जवाब वास्तव में उनके अपने दस्तावेज़ों पर आधारित है या नहीं, जिससे जोखिम भरे मनगढ़ंत जवाब घटते हैं।
