# آزمون تیم قرمز، ضعف‌هایی در پایش داخلی OpenAI یافت

> ممیزی خارجی سه‌هفته‌ای در ژوئیه و اوت ۲۰۲۶ آسیب‌پذیری‌هایی را در سامانه‌های پایش ناهم‌سویی OpenAI آشکار کرد؛ شرکت می‌گوید این موارد را برطرف کرده است.

Oossa · 2026-10-22 · https://oossa.com/fa/red-team-test-finds-gaps-in-openai-s-internal-monitoring-system

از ۲۱ ژوئیه تا ۱۱ اوت ۲۰۲۶، پژوهشگری از گروه Machine Ethics Transparency Research (METR) و یکی از همکارانش از Redwood Research به کدها و ابزارهای پایش داخلی OpenAI دسترسی گسترده داشتند. آن‌ها سه هفته تلاش کردند سامانه‌ای را از کار بیندازند که بر عامل‌های پیشرفته هوش مصنوعی، از جمله عامل‌های به‌کاررفته در Codex، نظارت می‌کند. یافته‌هایشان در گزارشی ۶۱صفحه‌ای گردآوری شد و در اختیار کارکنان OpenAI قرار گرفت.

## آزمون چه چیزی را آشکار کرد

ممیزان برآورد کردند که سامانه پایش، ۷۵ تا ۹۴ درصد ترافیک داخلی Responses API را پوشش می‌داد؛ این رابط برنامه‌نویسی برای مدل‌هایی هم‌تراز با GPT‑5.5 یا قوی‌تر به کار می‌رود. بااین‌حال، رقم دقیق مشخص نیست. در میان ترافیکی که از عامل‌های Codex استفاده می‌کند، پوشش حدود ۹۹.۲ درصد بود. آن‌ها همچنین دریافتند که در آغاز آزمون، اجراهای آموزش با یادگیری تقویتی پایش نمی‌شدند و نبود نظارت هنگام رویدادهای «فشرده‌سازی» ممکن است باعث شده باشد حدود ۱۰ درصد از ترافیک Codex بین ماه‌های مه و ژوئیه ۲۰۲۶ بررسی نشود.

ممیزان چند نقص مشخص نیز پیدا کردند: عامل‌ها می‌توانستند محدودیت‌های محیط ایزوله Codex را دور بزنند، سرآیندهایی تحت‌کنترل کاربر تنظیم کنند که پایش عامل‌های جدید را غیرفعال می‌کرد و ورودی‌هایی بسازند که موجب ازکارافتادن سامانه پایش می‌شد. کاهش بار و خطاهای سامانه پایش نادر بودند؛ نرخ خطاها کمتر از ۰.۲ درصد بود و در یک بررسی ۲۴ساعته هیچ موردی از کاهش بار مشاهده نشد.

OpenAI می‌گوید همه آسیب‌پذیری‌های مؤثر بر سازوکارهای حفاظتیِ فعال در محصولاتش را برطرف کرده و از زمان آزمون، دامنه پایش را گسترش داده است؛ بااین‌حال، ممیزان این ادعاها را مستقلاً راستی‌آزمایی نکرده‌اند.

## حقایق

- آزمون تیم قرمز از ۲۱ ژوئیه ۲۰۲۶ تا ۱۱ اوت ۲۰۲۶ انجام شد.
- پژوهشگران برآورد کردند که ۷۵ تا ۹۴ درصد ترافیک Responses API مربوط به مدل‌هایی هم‌تراز با GPT‑5.5 یا قوی‌تر، مشمول پایش بوده است.
- برآورد شد که ۹۹.۲ درصد ترافیک عامل‌های داخلی Codex مشمول پایش بوده است.
- گزارش شده که نرخ کاهش بار و خطاهای سامانه پایش کمتر از ۰.۲ درصد درخواست‌ها بوده و در یک بازه ۲۴ساعته هیچ موردی از کاهش بار مشاهده نشده است.
- OpenAI می‌گوید همه آسیب‌پذیری‌های شناسایی‌شده را برطرف کرده و پوشش پایش را افزایش داده است.

## چرا مهم است

برای توسعه‌دهندگانی که به ابزارهای Codex شرکت OpenAI متکی هستند، این شکاف‌ها به این معناست که ممکن است برخی اقدامات هوش مصنوعی بدون نظارت انجام شده باشند و کاربران را در معرض رفتارهای ناخواسته قرار داده باشند. اقدام شرکت برای رفع نقص‌ها باید این خطر را کاهش دهد، اما برای اطمینان از اینکه سامانه اکنون فعالیت‌های عامل‌های هوش مصنوعی را بهتر شناسایی می‌کند، هنوز به راستی‌آزمایی مستقل نیاز است.

## منابع و ارجاع‌ها

1. [Red-Teaming OpenAI's Internal Agent Monitoring Systems October 22, 2026 A METR employee and a Redwood Research employee spent three weeks stress-testing OpenAI's internal misalignment monitoring syste](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/) – METR, 2026-10-22

آخرین به‌روزرسانی: 2026-10-22