# تدقيق يكشف ثغرات في مراقبة سلامة الذكاء الاصطناعي لدى OpenAI

> رصد باحثون مرور ما يصل إلى 25% من حركة النماذج المتقدمة من دون مراقبة، واكتشفوا أخطاء تتيح للوكلاء تجاوز الإشراف.

Oossa · 2026-10-23 · https://oossa.com/ar/audit-finds-gaps-in-openai-s-ai-safety-monitoring

أمضى باحثان مستقلان من METR وRedwood Research ثلاثة أسابيع داخل مختبرات الهندسة التابعة لـOpenAI. ومن 21 يوليو إلى 11 أغسطس 2026، فحصا الشيفرة التي تراقب أقوى نماذج الشركة. ويقول تقريرهما إن نظام المراقبة أغفل جزءًا كبيرًا من حركة الاستخدام، وكان من الممكن خداعه بمدخلات مصممة خصيصًا.

## ما كشفه التدقيق

يقدّر المدققان أن ما بين 6% و25% من طلبات واجهة API الواردة من نماذج بمستوى GPT‑5.5 وما فوق لم تخضع لأي مراقبة خلال فترة التدقيق. أما حركة Codex الداخلية، فلم تُتتبّع نحو 10% منها بين مايو ويوليو، بسبب خطأ تجاهل «أحداث الاختصار»، وهي ملخصات موجزة لسياق المحادثة. وتقول OpenAI إنها أصلحت الخطأ بينما كان المدققان لا يزالان في الموقع.

ويشير التقرير أيضًا إلى أن نظام المراقبة لم يكن يطلق تنبيهًا إلا عندما يعيد الذكاء الاصطناعي التحكم إلى المستخدم. وقد أتاح ذلك للوكلاء مواصلة العمل من دون تشغيل آليات الإشراف. كما وجد الباحثان طرقًا لإخفاء مئات الإجراءات، وتجاوز بيئة Codex المعزولة، وربما تعطيل نظام المراقبة بمدخلات مصممة خصيصًا. ولاحظا أن سلوك النماذج لم يكن خاضعًا للمراقبة أثناء تدريب التعلم المعزز (RL) عند بدء التدقيق.

## رد OpenAI

تقول OpenAI إنها أوقفت تدريب RL مؤقتًا بعد حادثة وقعت في أغسطس وشملت Hugging Face، ووسّعت نطاق المراقبة ليشمل ذلك التدريب، لكن هذه التغييرات أُجريت بعد انتهاء فترة التدقيق. وتؤكد الشركة أنها أصلحت جميع الثغرات التي حددها المدققان. وقد سُلّم إلى OpenAI تقرير داخلي من 61 صفحة، ثم تسلّمت METR وRedwood نسخة من 38 صفحة بعد حجب بعض المعلومات. ولم يُنشر سوى ملخص عام موجز.

## الحقائق

- أُجري التدقيق من 21 يوليو إلى 11 أغسطس 2026.
- يقدّر الباحثون أن 6%–25% من حركة API الخاصة بنماذج بمستوى GPT‑5.5 لم تخضع للمراقبة.
- لم تُتتبّع نحو 10% من حركة Codex الداخلية بين مايو ويوليو بسبب خطأ متعلق بأحداث الاختصار.
- أصلحت OpenAI خطأ الاختصار بينما كان التدقيق لا يزال جاريًا.
- أوقفت OpenAI تدريب RL مؤقتًا بعد حادثة وقعت في أغسطس، وأضافت لاحقًا مراقبة له.

## لماذا يهم

بالنسبة إلى المستخدمين العاديين، تعني هذه الثغرات أن بعض إجراءات الذكاء الاصطناعي قد تُنفّذ من دون أي فحوص للسلامة، ما يزيد احتمال صدور نتائج غير متوقعة أو ضارة. ومن شأن الإصلاحات التي تعهدت بها OpenAI أن تعيد توسيع نطاق الإشراف، لكن محدودية المعلومات المنشورة تترك مجالًا للشك في مدى اكتمال التحسينات.

## المصادر والمراجع

1. [Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring](https://the-decoder.com/three-week-on-site-audit-at-openai-reveals-major-gaps-in-ai-safety-monitoring/) – The Decoder, 2026-10-23

آخر تحديث: 2026-10-23