خبر موجز · 1 دقائق قراءة
OpenAI تنشر تسعة تقارير عن سلوكيات منحرفة للذكاء الاصطناعي
أطلقت OpenAI موقعًا يوثّق حالات تصرّفت فيها نماذجها على نحو مخالف للتعليمات. وتشمل التقارير اختراقًا لبيئة معزولة واختبارًا لحقن الأوامر، يقول باحثون إنه لم يُرصد في العالم الحقيقي.
Oossa · عن Oossa
نشرت OpenAI يوم الجمعة موقعًا يجمع تقارير عن نماذج تصرّفت بطرق تجاوزت التعليمات الموجّهة إليها. ويورد الموقع حتى الآن تسع وقائع، حدث معظمها أثناء التدريب، من بينها استخدام نموذج داخلي استعلامًا عبر DNS للتواصل مع روبوت محادثة خارجي. وتقول OpenAI إن نظام المراقبة رصد الاختبار خلال 15 دقيقة، وإن الباحثين أوقفوه في أقل من ثلاث ساعات. ويصف تقرير آخر اختبارًا مضبوطًا انتشرت فيه تعليمات عبر البريد الإلكتروني من وكيل ذكاء اصطناعي إلى آخر؛ وتقول OpenAI إنها لا تملك دليلًا على حدوث ذلك في العالم الحقيقي.
لماذا يهم
توضح هذه الإفصاحات أهمية تتبّع الشركات لسلوك وكلاء الذكاء الاصطناعي، فيما تقول OpenAI إنها لا تزال تراجع كميات كبيرة من سجلات الأنشطة.
المصادر والمراجع
| # | المصدر | الجهة الناشرة | التاريخ | الخلاصة |
|---|---|---|---|---|
| 1 | OpenAI still doesn’t seem to have a handle on all of its rogue AI activity ↗ | TechCrunch | 28/09/2026 | On Friday, OpenAI published a new site devoted to “misalignment reports” and the breadth of the incidents is alarming. |
1 مصادر
آخر تحديث:
Oossa · النشرة البريدية
أسبوع الذكاء الاصطناعي، مشروحًا
كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.