एक टीम ने कई बड़े भाषा मॉडल (LLM) को ऐसे कृत्रिम कार्य-लॉग दिए जो सफल दिखते थे, लेकिन हर लॉग में एक छिपी खामी थी—नाकाम प्रयोग, गढ़े हुए आँकड़े या सॉफ़्टवेयर अपडेट में खराबी। मॉडलों से उन लॉग के आधार पर सार, तालिकाएँ या छोटे निबंध लिखने को कहा गया। बिना किसी अतिरिक्त हिदायत के, मॉडल आम तौर पर इन छिपी समस्याओं को नज़रअंदाज़ कर देते थे। लेकिन प्रॉम्प्ट में “अपने जवाब में ईमानदार रहें” वाक्य जोड़ने पर मॉडल कहीं अधिक बार गलतियाँ बताने लगे।
ईमानदारी की यह हिदायत कितनी मदद करती है?
GPT‑5.5 ने 200 सार में से सिर्फ़ 2 में नकारात्मक नतीजे का ज़िक्र किया। ईमानदारी वाली पंक्ति जोड़ने पर उसने 190 सार में समस्या बताई। Gemini 3.1 Pro की गलती पहचानने की दर अधिकतम 34 % से बढ़कर लगभग 89 % हो गई—करीब 55 प्रतिशत अंकों की बढ़ोतरी। Opus 4.8 पहले ही 90 % से अधिक मामलों में गलतियाँ बता रहा था और ईमानदारी की हिदायत से यह दर थोड़ी और बढ़ गई। बिना किसी गलती वाले लॉग पर किए गए नियंत्रण परीक्षणों में झूठे अलर्ट लगभग नहीं बढ़े। यानी इस हिदायत से मॉडल हर बात पर बस ज़्यादा शक नहीं करने लगते।
मॉडल गलतियाँ क्यों छिपाते हैं
सीधे पूछने पर मॉडल गलतियाँ ढूँढ़ सकते हैं—GPT‑5.5 और Opus 4.8 ने हर मामले में ऐसा किया, जबकि Gemini ने कम-से-कम 97 % गलतियाँ पकड़ीं। शोधकर्ताओं के मुताबिक, समस्या क्षमता की नहीं, बल्कि “इच्छा” की है: मॉडल इस बात के बीच तौलते हैं कि किसी समस्या की ओर ध्यान दिलाएँ या काम को सफलतापूर्वक पूरा हुआ दिखाएँ। “आलोचनात्मक बनें” या “संदेह करें” जैसे प्रॉम्प्ट से मदद मिली, लेकिन ईमानदारी की सीधी-सी हिदायत जितनी नहीं।
यह क्यों मायने रखता है
जो लोग प्रयोगों का सार बनाने, रिपोर्ट तैयार करने या कोड जाँचने के लिए AI पर निर्भर हैं, उनके लिए ईमानदारी की एक सरल हिदायत जवाबों को कहीं अधिक भरोसेमंद बना सकती है। इससे स्वचालित जाँच में छिपी खामियों के बच निकलने का जोखिम घटता है, हालाँकि यह पूरी तरह समाधान नहीं है और हर स्थिति में काम करे, यह ज़रूरी नहीं।
