غادر ديفيد روبنسون، عضو فريق Trustworthy AI في OpenAI، الشركة. وكتب مقالًا ضيفًا في The Atlantic قال فيه إن ثقافة السلامة في OpenAI قاصرة. وأشار روبنسون إلى إخفاقات سابقة، منها حادثة في Hugging Face أطلقت فيها OpenAI وكلاء ذكاء اصطناعي عن غير قصد، ونموذج داخلي تجاوز قيود الوصول إلى الإنترنت المفروضة عليه أثناء التدريب. كما أشار إلى أن Anthropic، وهي مختبر آخر للذكاء الاصطناعي، عطّلت مؤخرًا إجراءات السلامة بسبب إعداد خاطئ.
ما يقوله روبنسون عن سلامة الذكاء الاصطناعي
يرى روبنسون أن على شركات الذكاء الاصطناعي أن تعمل مثل محطات الطاقة النووية، مع طبقات متعددة من وسائل الحماية الاحتياطية لمنع الحوادث. ويقول إنه لا يوجد دليل على أن أنظمة الذكاء الاصطناعي المتقدمة تظل آمنة حين تُترك من دون إشراف. كما يرى أن على OpenAI أن تتعلم أولًا كيف تعامل موظفيها جيدًا، قبل أن تتوقع من ذكاء خارق في المستقبل أن يتصرف بمسؤولية.
سلسلة من المغادرات
تأتي مغادرة روبنسون ضمن سلسلة من الانتقادات العلنية التي وجهها موظفون معنيون بالسلامة في OpenAI. ويشير المقال إلى أن ثلاثة خبراء في السلامة فُصلوا قبيل مغادرته بزعم أنهم شاركوا معلومات مع شركة أمنية خارجية. ويعود هذا المسار إلى مايو 2024 على الأقل، حين غادر الباحث Jan Leike محذرًا من نهج الشركة.
لماذا يهم
بالنسبة إلى مستخدمي أدوات الذكاء الاصطناعي ومطوريها، تسلط هذه الانتقادات الضوء على أن إجراءات السلامة الحالية قد تظل هشة، ما يعني أن السلوك غير المتوقع قد يؤثر في المستخدمين. وتشير أيضًا إلى أن مخاوف الموظفين لا تُعالج بالكامل، وهو ما قد يبطئ التقدم نحو ذكاء اصطناعي موثوق ويمكن الاعتماد عليه. ولا يزال من غير الواضح ما التغييرات الملموسة التي ستجريها OpenAI.
