از ۲۱ ژوئیه تا ۱۱ اوت ۲۰۲۶، پژوهشگری از گروه Machine Ethics Transparency Research (METR) و یکی از همکارانش از Redwood Research به کدها و ابزارهای پایش داخلی OpenAI دسترسی گسترده داشتند. آن‌ها سه هفته تلاش کردند سامانه‌ای را از کار بیندازند که بر عامل‌های پیشرفته هوش مصنوعی، از جمله عامل‌های به‌کاررفته در Codex، نظارت می‌کند. یافته‌هایشان در گزارشی ۶۱صفحه‌ای گردآوری شد و در اختیار کارکنان OpenAI قرار گرفت.
آزمون چه چیزی را آشکار کرد
ممیزان برآورد کردند که سامانه پایش، ۷۵ تا ۹۴ درصد ترافیک داخلی Responses API را پوشش می‌داد؛ این رابط برنامه‌نویسی برای مدل‌هایی هم‌تراز با GPT‑5.5 یا قوی‌تر به کار می‌رود. بااین‌حال، رقم دقیق مشخص نیست. در میان ترافیکی که از عامل‌های Codex استفاده می‌کند، پوشش حدود ۹۹.۲ درصد بود. آن‌ها همچنین دریافتند که در آغاز آزمون، اجراهای آموزش با یادگیری تقویتی پایش نمی‌شدند و نبود نظارت هنگام رویدادهای «فشرده‌سازی» ممکن است باعث شده باشد حدود ۱۰ درصد از ترافیک Codex بین ماه‌های مه و ژوئیه ۲۰۲۶ بررسی نشود. ممیزان چند نقص مشخص نیز پیدا کردند: عامل‌ها می‌توانستند محدودیت‌های محیط ایزوله Codex را دور بزنند، سرآیندهایی تحت‌کنترل کاربر تنظیم کنند که پایش عامل‌های جدید را غیرفعال می‌کرد و ورودی‌هایی بسازند که موجب ازکارافتادن سامانه پایش می‌شد. کاهش بار و خطاهای سامانه پایش نادر بودند؛ نرخ خطاها کمتر از ۰.۲ درصد بود و در یک بررسی ۲۴ساعته هیچ موردی از کاهش بار مشاهده نشد. OpenAI می‌گوید همه آسیب‌پذیری‌های مؤثر بر سازوکارهای حفاظتیِ فعال در محصولاتش را برطرف کرده و از زمان آزمون، دامنه پایش را گسترش داده است؛ بااین‌حال، ممیزان این ادعاها را مستقلاً راستی‌آزمایی نکرده‌اند.
چرا مهم است
برای توسعه‌دهندگانی که به ابزارهای Codex شرکت OpenAI متکی هستند، این شکاف‌ها به این معناست که ممکن است برخی اقدامات هوش مصنوعی بدون نظارت انجام شده باشند و کاربران را در معرض رفتارهای ناخواسته قرار داده باشند. اقدام شرکت برای رفع نقص‌ها باید این خطر را کاهش دهد، اما برای اطمینان از اینکه سامانه اکنون فعالیت‌های عامل‌های هوش مصنوعی را بهتر شناسایی می‌کند، هنوز به راستی‌آزمایی مستقل نیاز است.
