# OpenAI دسترسی حضوری چهار نهاد ارزیاب به سامانه‌های هوش مصنوعی‌اش را فراهم کرد

> OpenAI دسترسی مستقیم به مدل‌های منتشرنشده و داده‌هایش را در اختیار Apollo Research، METR، Goodfire و Transluce گذاشت؛ این نخستین ارزیابی ایمنی در محل است.

Oossa · 2026-11-18 · https://oossa.com/fa/openai-lets-four-auditors-examine-its-ai-systems-on-site

OpenAI اعلام کرد چهار گروه مستقل در دفاتر این شرکت، سامانه‌های هوش مصنوعی آن را ارزیابی خواهند کرد. این ارزیاب‌ها — Apollo Research، METR، Goodfire و Transluce — به کد منبع، داده‌های آموزشی، ابزارهای پایش و مدل‌های منتشرنشده دسترسی خواهند داشت. آن‌ها همچنین می‌توانند محرمانه با توسعه‌دهندگان گفت‌وگو کنند. به گفته OpenAI، این طرح آزمایشی در پی تعهداتی است که این شرکت ذیل «توافق‌نامه ابرهوش» کاخ سفید پذیرفته است.

تمرکز Apollo بر این است که آیا مدل‌ها می‌کوشند هم‌راستایی خودشان یا نسخه‌های آینده را تضعیف کنند یا نه. METR به‌دنبال رفتارهای خطرناکی خواهد بود که ممکن است از چشم آزمایش‌های خود OpenAI دور بمانند و همچنین توانایی OpenAI را برای شناسایی چنین رفتارهایی می‌سنجد. Goodfire با استفاده از پلتفرم تفسیرپذیری خود، فرایندهای درونی مدل‌ها را نقشه‌برداری می‌کند و راهکارهایی برای رفع اشکال پیشنهاد می‌دهد. Transluce بررسی‌های ایمنی پس از آموزش را ارزیابی می‌کند و قصد دارد در اوایل 2027، یک ارزیابی پیگیری هشت‌هفته‌ای انجام دهد. یک هیئت مستقل ایمنی گزارش‌های کامل و بدون حذف را دریافت می‌کند و میانجی اختلاف‌ها خواهد بود. OpenAI می‌تواند اطلاعات محرمانه را حذف کند و انتشار عمومی گزارش‌ها را برای رسیدگی نخست به خطرها به تأخیر بیندازد.

این برنامه بر پایه ارزیابی حضوری پیشین از سامانه‌های پایش OpenAI شکل گرفته است. همچنین روالی را گسترش می‌دهد که در Anthropic آغاز شد؛ جایی که پژوهشگران METR ماه گذشته به سطح دسترسی کارکنان دست یافتند. منتقدان یادآوری می‌کنند که Apollo و Goodfire بابت کارشان دستمزد می‌گیرند، اما METR و Transluce فقط اعتبار پردازشی یا API دریافت می‌کنند. برخی کارشناسان ایمنی، از جمله Buck Shlegeris، مدیرعامل Redwood، می‌گویند دسترسی اعطاشده هنوز به سطح «مشابه کارکنان» که بسیاری خواستار آن بوده‌اند، نمی‌رسد.

## چرا این مهم است

برای هرکسی که از ChatGPT یا دیگر محصولات OpenAI استفاده می‌کند، این ارزیابی‌ها می‌توانند پیش از عرضه عمومی مدل‌ها، ضعف‌های پنهان آن‌ها را آشکار کنند. اگر ارزیاب‌ها شکاف‌های جدی در ایمنی پیدا کنند، OpenAI ممکن است ناچار شود مشکلات را برطرف کند یا عرضه‌ها را به تأخیر بیندازد؛ اتفاقی که می‌تواند بر زمان عرضه قابلیت‌ها و قیمت‌گذاری اثر بگذارد.

## حقایق

- طبق اعلام OpenAI در 16 نوامبر 2026، این شرکت دسترسی حضوری به سامانه‌های هوش مصنوعی داخلی خود را در اختیار Apollo Research، METR، Goodfire و Transluce گذاشت.
- ارزیاب‌ها می‌توانند مدل‌های منتشرنشده، کد منبع، داده‌های آموزشی و سامانه‌های پایش را ببینند و محرمانه با توسعه‌دهندگان گفت‌وگو کنند.
- Apollo بررسی می‌کند که آیا مدل‌ها برای تضعیف هم‌راستایی تلاش می‌کنند؛ METR رفتارهای خطرناک ناخواسته را می‌سنجد؛ Goodfire فرایندهای درونی مدل را تحلیل می‌کند؛ و Transluce بررسی‌های ایمنی پس از آموزش را ارزیابی می‌کند.
- یک هیئت مستقل ایمنی گزارش‌های بدون حذف را دریافت می‌کند و می‌تواند میانجی اختلاف‌ها شود؛ OpenAI پیش از انتشار عمومی می‌تواند اطلاعات محرمانه را حذف کند.
- Transluce و OpenAI قصد دارند در اوایل 2027 یک ارزیابی پیگیری هشت‌هفته‌ای انجام دهند.

## چرا مهم است

این ارزیابی‌ها نگاهی بیرونی به رفتار قدرتمندترین مدل‌های OpenAI در جریان آموزش فراهم می‌کنند، نه فقط پس از انتشار. این کار می‌تواند به محصولات ایمن‌تری برای کاربران عادی منجر شود، اما محدود بودن اطلاعاتی که به‌صورت عمومی منتشر می‌شود، فعلاً امکان راستی‌آزمایی کامل نتایج را از دیگران می‌گیرد.

## منابع و ارجاع‌ها

1. [OpenAI opens its AI systems to four independent on-site auditors for the first time](https://the-decoder.com/openai-opens-its-ai-systems-to-four-independent-on-site-auditors-for-the-first-time/) – The Decoder, 2026-11-18
2. [TechCrunch](https://techcrunch.com/2026/11/16/openai-will-embed-apollo-researchers-to-investigate-ai-subversion/?utm_source=openai) – TechCrunch

آخرین به‌روزرسانی: 2026-11-18
