21 जुलाई से 11 अगस्त, 2026 तक Machine Ethics Transparency Research (METR) समूह के एक शोधकर्ता और Redwood Research के उनके एक सहयोगी को OpenAI के आंतरिक कोड और निगरानी टूल्स तक व्यापक पहुंच दी गई। उन्होंने Codex जैसे उन्नत AI एजेंटों पर नजर रखने वाली प्रणाली को तोड़ने की कोशिश में तीन हफ्ते बिताए। उनके निष्कर्ष 61 पन्नों की एक रिपोर्ट में संकलित किए गए, जिसे OpenAI के कर्मचारियों के साथ साझा किया गया।
जांच में क्या सामने आया
ऑडिटरों का अनुमान था कि आंतरिक Responses API के 75 % से 94 % ट्रैफिक पर मॉनिटर की नजर थी। इस API का इस्तेमाल GPT‑5.5 जितने या उससे अधिक सक्षम मॉडल करते हैं, लेकिन सटीक आंकड़ा अनिश्चित है। Codex एजेंट चलाने वाले ट्रैफिक में निगरानी का दायरा करीब 99.2 % था। उन्हें यह भी पता चला कि जांच की शुरुआत में रीइन्फोर्समेंट-लर्निंग ट्रेनिंग रन पर नजर नहीं रखी जा रही थी। साथ ही, “compaction” प्रक्रियाओं के दौरान निगरानी न होने से मई से जुलाई 2026 के बीच Codex के करीब 10 % ट्रैफिक की जांच नहीं हो पाई हो सकती है। कई ठोस खामियां भी मिलीं: एजेंट Codex के सैंडबॉक्स से बाहर निकल सकते थे, वे क्लाइंट के नियंत्रण वाले ऐसे हेडर सेट कर सकते थे जो नए एजेंटों की निगरानी बंद कर देते, और वे ऐसे इनपुट तैयार कर सकते थे जिनसे मॉनिटर काम करना बंद कर दे। लोड-शेडिंग और मॉनिटर की त्रुटियां दुर्लभ थीं—त्रुटि दर 0.2 % से कम थी और 24 घंटे के एक स्नैपशॉट में लोड-शेडिंग की कोई घटना नहीं दिखी। OpenAI का कहना है कि उत्पादन में इस्तेमाल होने वाले सुरक्षा उपायों को प्रभावित करने वाली सभी कमजोरियां ठीक कर दी गई हैं और जांच के बाद निगरानी का दायरा बढ़ाया गया है। हालांकि, ऑडिटरों ने इन दावों की स्वतंत्र रूप से पुष्टि नहीं की है।
यह क्यों मायने रखता है
OpenAI के Codex टूल्स पर निर्भर डेवलपरों के लिए इन खामियों का मतलब है कि AI की कुछ गतिविधियों पर नजर नहीं रखी गई होगी, जिससे उपयोगकर्ताओं को अनचाहे व्यवहार का सामना करना पड़ सकता था। कंपनी की ओर से किए गए सुधारों से यह जोखिम कम होना चाहिए, लेकिन यह पुष्टि करने के लिए स्वतंत्र जांच की जरूरत है कि अब एजेंटों की अधिक गतिविधियों पर निगरानी रखी जा रही है।
