Aleph Alpha ने चीन के 12 ओपन-वेट LLM का मूल्यांकन किया और पाया कि उन्होंने राजनीतिक रूप से संवेदनशील सवालों में से सिर्फ़ 17–41% के संतुलित जवाब दिए। परीक्षण में NVIDIA के Nemotron Cascade 2 को भी 17% सवालों पर चिह्नित किया गया, क्योंकि उसके 9.3 M प्रशिक्षण रिकॉर्ड में से लगभग 3.5 k में चीनी कम्युनिस्ट पार्टी के विचारों को बढ़ावा देने वाली बातें थीं। कंपनी का कहना है कि भविष्य के मॉडल ऐसे कंटेंट की छानबीन करेंगे, लक्षित अलाइनमेंट डेटा जोड़ेंगे और इस तरह के बेंचमार्क का इस्तेमाल करेंगे।
यह क्यों मायने रखता है
AI में राजनीतिक पक्षपात को समझने से उपयोगकर्ताओं और नियामकों को यह तय करने में मदद मिलती है कि रोज़मर्रा के इस्तेमाल के लिए ये मॉडल कितने सुरक्षित और निष्पक्ष हैं।
