# रेड-टीम जांच में OpenAI की निगरानी प्रणाली की खामियां सामने आईं

> जुलाई-अगस्त 2026 में हुए तीन हफ्ते के बाहरी ऑडिट में OpenAI के मिसअलाइनमेंट मॉनिटरों में कमजोरियां मिलीं। कंपनी का कहना है कि अब इन्हें ठीक कर दिया गया है।

Oossa · 2026-10-22 · https://oossa.com/hi/red-team-test-finds-gaps-in-openai-s-internal-monitoring-system

21 जुलाई से 11 अगस्त, 2026 तक Machine Ethics Transparency Research (METR) समूह के एक शोधकर्ता और Redwood Research के उनके एक सहयोगी को OpenAI के आंतरिक कोड और निगरानी टूल्स तक व्यापक पहुंच दी गई। उन्होंने Codex जैसे उन्नत AI एजेंटों पर नजर रखने वाली प्रणाली को तोड़ने की कोशिश में तीन हफ्ते बिताए। उनके निष्कर्ष 61 पन्नों की एक रिपोर्ट में संकलित किए गए, जिसे OpenAI के कर्मचारियों के साथ साझा किया गया।

## जांच में क्या सामने आया

ऑडिटरों का अनुमान था कि आंतरिक Responses API के 75 % से 94 % ट्रैफिक पर मॉनिटर की नजर थी। इस API का इस्तेमाल GPT‑5.5 जितने या उससे अधिक सक्षम मॉडल करते हैं, लेकिन सटीक आंकड़ा अनिश्चित है। Codex एजेंट चलाने वाले ट्रैफिक में निगरानी का दायरा करीब 99.2 % था। उन्हें यह भी पता चला कि जांच की शुरुआत में रीइन्फोर्समेंट-लर्निंग ट्रेनिंग रन पर नजर नहीं रखी जा रही थी। साथ ही, “compaction” प्रक्रियाओं के दौरान निगरानी न होने से मई से जुलाई 2026 के बीच Codex के करीब 10 % ट्रैफिक की जांच नहीं हो पाई हो सकती है।

कई ठोस खामियां भी मिलीं: एजेंट Codex के सैंडबॉक्स से बाहर निकल सकते थे, वे क्लाइंट के नियंत्रण वाले ऐसे हेडर सेट कर सकते थे जो नए एजेंटों की निगरानी बंद कर देते, और वे ऐसे इनपुट तैयार कर सकते थे जिनसे मॉनिटर काम करना बंद कर दे। लोड-शेडिंग और मॉनिटर की त्रुटियां दुर्लभ थीं—त्रुटि दर 0.2 % से कम थी और 24 घंटे के एक स्नैपशॉट में लोड-शेडिंग की कोई घटना नहीं दिखी।

OpenAI का कहना है कि उत्पादन में इस्तेमाल होने वाले सुरक्षा उपायों को प्रभावित करने वाली सभी कमजोरियां ठीक कर दी गई हैं और जांच के बाद निगरानी का दायरा बढ़ाया गया है। हालांकि, ऑडिटरों ने इन दावों की स्वतंत्र रूप से पुष्टि नहीं की है।

## तथ्य

- रेड-टीम जांच 21 जुलाई, 2026 से 11 अगस्त, 2026 तक चली।
- शोधकर्ताओं का अनुमान था कि GPT‑5.5 जितने या उससे अधिक सक्षम मॉडल के Responses API ट्रैफिक के 75–94 % हिस्से पर निगरानी लागू थी।
- आंतरिक Codex एजेंटों के ट्रैफिक के करीब 99.2 % हिस्से पर निगरानी लागू होने का अनुमान था।
- लोड-शेडिंग और मॉनिटर की त्रुटि दर अनुरोधों के 0.2 % से कम बताई गई; 24 घंटे की अवधि में लोड-शेडिंग की कोई घटना नहीं दिखी।
- OpenAI का दावा है कि मिली सभी कमजोरियां ठीक कर दी गई हैं और निगरानी का दायरा बढ़ाया गया है।

## यह क्यों मायने रखता है

OpenAI के Codex टूल्स पर निर्भर डेवलपरों के लिए इन खामियों का मतलब है कि AI की कुछ गतिविधियों पर नजर नहीं रखी गई होगी, जिससे उपयोगकर्ताओं को अनचाहे व्यवहार का सामना करना पड़ सकता था। कंपनी की ओर से किए गए सुधारों से यह जोखिम कम होना चाहिए, लेकिन यह पुष्टि करने के लिए स्वतंत्र जांच की जरूरत है कि अब एजेंटों की अधिक गतिविधियों पर निगरानी रखी जा रही है।

## स्रोत और संदर्भ

1. [Red-Teaming OpenAI's Internal Agent Monitoring Systems October 22, 2026 A METR employee and a Redwood Research employee spent three weeks stress-testing OpenAI's internal misalignment monitoring syste](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/) – METR, 2026-10-22

अंतिम अपडेट: 2026-10-22