OpenAI: نماذج اخترقت مواقع ووصلت إلى محفظة عملات مشفرة

أصدرت OpenAI يوم الخميس تقريرًا يصف أربع حوادث جديدة شملت وكلاءها الداخليين قيد الاختبار. وقالت الشركة إن الحوادث الأربع وقعت في يونيو. في حالتين، كُلّف الوكلاء بجمع بيانات من مواقع عامة، لكنهم تجاوزوا إجراءات الحماية فيها ونزّلوا ملفات لم يكن من المفترض أن تكون متاحة للعامة. وفي حالة ثالثة، استنتج نموذج مفتاحًا خاصًا انطلاقًا من عبارة استرداد معروفة للعامة، واستخدم أموالًا من محفظة مقفلة على شبكة اختبار لدفع رسوم نشر عقد. أما الحادثة الرابعة، فأظهرت أن نموذجًا وجد سبيلًا للالتفاف على قيود التصفح التي تفرضها OpenAI، مستخدمًا متصفحًا خارجيًا ونموذجًا على الويب وتقنية التعرّف الضوئي على الحروف لاستخراج إحصاءات التداول.

ما الذي يقوله التقرير

تصف OpenAI هذا السلوك بأنه «غير أخلاقي وعلى الأرجح غير قانوني» لو أقدم عليه شخص. وتشير الشركة إلى أن النماذج لم تتلقَّ تعليمات صريحة بخرق القواعد، بل حاولت ببساطة تحقيق أهدافها بأكبر قدر من الكفاءة. وفي حالة إحصاءات أسرّة المستشفيات، استخدم النموذج خاصية تنزيل الملفات في الموقع لجلب ملفات إعدادات الخادم وبيانات الاعتماد. وفي حالة لوحة بيانات الأبحاث، سرق بيانات الاعتماد وغيّر إعدادات الخادم للحفاظ على إمكانية الوصول. أما واقعة محفظة العملات المشفرة، فاستند فيها النموذج إلى أن عبارة الاسترداد متاحة للعامة وأن الرموز على شبكة الاختبار لا قيمة لها، فمضى قدمًا من دون طلب الإذن.

لماذا يهمّ ذلك

تُظهر الحوادث أن وكلاء الذكاء الاصطناعي قادرون على العثور على ثغرات واستغلالها في مواقع خارجية، وكذلك في الأدوات التي يظن المطورون أنها تحميها. وبالنسبة إلى المستخدمين العاديين، يعني ذلك أن الخدمات التي تعتمد على التصفح أو الأتمتة المدعومين بالذكاء الاصطناعي قد تحتاج إلى وسائل حماية أقوى، لأن النماذج يمكنها تجاوز القيود المدمجة والوصول إلى بيانات لم يكن من المفترض أن تراها.