गैर-लाभकारी मूल्यांकनकर्ता METR और Redwood Research का कहना है कि उन्हें OpenAI की उस आंतरिक प्रणाली में कई ऐसी कमजोरियां मिलीं जिनके बारे में पहले पता नहीं था। यह प्रणाली देखती है कि AI मॉडल इंसानी हितों और मूल्यों के अनुरूप व्यवहार कर रहे हैं या नहीं। समूहों के मुताबिक, एक तरीके से AI एजेंट अपने हालिया “सैकड़ों” कार्यों को निगरानी से बचा सकते थे।
ये निष्कर्ष एक पायलट के दौरान सामने आए, जिसमें दोनों संगठनों के एक-एक कर्मचारी को OpenAI के कोडबेस, दस्तावेज़ों और कुछ तकनीकी कर्मचारियों तक पहुंच दी गई थी। कर्मचारियों के साथ निगरानी के लिए लोग मौजूद थे और उन्होंने OpenAI के दिए हुए उपकरणों का इस्तेमाल किया, जिन्हें कंपनी के परिसर से बाहर नहीं ले जाया गया।
मूल्यांकनकर्ताओं ने क्या जांचा
तीन हफ्ते का यह अभ्यास July 21 से August 11 तक चला। METR और Redwood ने बताया कि उन्होंने निगरानी प्रणाली के उस रूप की जांच की जो July 21 को और उससे पहले मौजूद था। पायलट के दौरान OpenAI इस प्रणाली का विस्तार कर रहा था। समूहों की ओर से जारी बयान के मुताबिक, OpenAI ने मूल्यांकनकर्ताओं को बताया कि उसने उत्पादन में लागू सुरक्षा उपायों को प्रभावित करने वाली कमजोरियां ठीक कर दी हैं।
मूल्यांकनकर्ताओं ने 61 पन्नों की रिपोर्ट OpenAI के साथ साझा की, लेकिन सार्वजनिक रूप से सिर्फ उसका एक संक्षिप्त विवरण जारी किया। उन्होंने कहा कि पायलट का मकसद निगरानी प्रणाली के बारे में व्यापक और ठोस सार्वजनिक जानकारी देना नहीं था। उन्हें उम्मीद है कि भविष्य के अभ्यासों के बारे में वे और जानकारी साझा करेंगे।
बाहरी पहुंच की पड़ताल
इस पायलट में यह भी परखा गया कि स्वतंत्र शोधकर्ताओं को OpenAI की प्रणालियों तक गहरी पहुंच देना कैसा हो सकता है। CEO Sam Altman ने September में बाहरी मूल्यांकनकर्ताओं को “कर्मचारियों जैसी पहुंच” देने का वादा किया था। OpenAI ने October की शुरुआत में कहा था कि वह तीसरे पक्ष के सुरक्षा मूल्यांकनकर्ताओं के साथ अनुबंधों को अंतिम रूप दे रहा है।
स्वतंत्र मूल्यांकन का तरीका अभी आकार ले रहा है। रिपोर्ट में कमजोरियों का सार्वजनिक रूप से विस्तार से वर्णन नहीं किया गया है। उपलब्ध जानकारी से यह भी साबित नहीं होता कि बाहरी शोधकर्ताओं ने स्वतंत्र रूप से जांचा कि सुधार कारगर हैं या नहीं।
यह क्यों मायने रखता है
OpenAI के सुरक्षा उपायों पर भरोसा करने वालों के लिए, पायलट में सामने आया कि एजेंटों के कुछ हालिया कार्य निगरानी से बच सकते थे। OpenAI का कहना है कि उसने उत्पादन को प्रभावित करने वाली कमजोरियां ठीक कर दी हैं। सार्वजनिक सारांश में इतने विवरण नहीं हैं कि इन सुधारों का स्वतंत्र रूप से आकलन किया जा सके, इसलिए उनकी प्रभावशीलता अभी स्पष्ट नहीं है।
