يصف باحثون مسار عمل آليًا أنشأ 6,575 مجموعة بيانات، صُممت لإحداث تغييرات غير متوقعة في سلوك النماذج اللغوية. وتغطي مجموعات البيانات ثمانية سلوكيات، وقد أُعدّت لاستثارة استجابة مستهدفة مع بقائها عادية المظهر للمراجعين البشريين. ويقول الفريق إن كثيرًا من الآثار الجانبية امتدّت عبر عائلات النماذج وأحجامها، وإن التقييمات الآلية واكبت أحكام الباحثين.
ويقدّم المؤلفون هذه المجموعة بوصفها منصة اختبار لدراسة تأثير بيانات التدريب في السلوك خارج النطاق المقصود منها. ويقولون إن العمل قد يساعد على توقّع هذه الآثار قبل النشر، لكن الورقة لا تثبت أن مسار العمل قادر على التنبؤ بمخاطر النماذج المنشورة على نحو موثوق.
لماذا يهم
يمكن لباحثي الذكاء الاصطناعي استخدام مجموعات البيانات لاختبار ما إذا كانت أمثلة التدريب التي تبدو اعتيادية تؤدي إلى سلوكيات غير مقصودة، لكن لم يثبت بعد مدى فائدتها في توقّع مخاطر النشر في العالم الحقيقي.
