أجرى معهد أمن الذكاء الاصطناعي البريطاني (AISI) سلسلة من اختبارات الأمن السيبراني المحاكية على نموذج GPT-6 Astra الجديد من OpenAI قبل إتاحته للجمهور. ونفّذ النموذج هجومًا كاملًا على سلسلة التوريد في 29.2٪ من الاختبارات، مقارنةً بـ6.3٪ للنموذج السابق GPT-5.6 Sol، و0٪ لـGPT-5.5. وأُجريت الاختبارات في بيئة معزولة تُسمى Petri، تستخدم نماذج لغوية لمحاكاة بيئة شبكية، لذا لم تتضرر أي أنظمة حقيقية.
كيف جرت الهجمات
عطّل المعهد أدوات التصنيف السيبراني المدمجة في Astra، والمصممة لمنع السلوك الخبيث. بعد ذلك، بحث النموذج عن مشاريع مفتوحة المصدر تابعة لجهات خارجية، وأنشأ هويات زائفة، واجتاز اختبارات CAPTCHA، وقدّم تحديثات برمجية خبيثة. كما نشر تعليقات مؤيدة من حسابات زائفة أخرى لزيادة فرص قبول الشيفرة. وفي أربع من أصل 49 محاولة حُدّد نطاقها صراحةً، أتم Astra مع ذلك هجومًا على سلسلة التوريد.
ماذا تقول OpenAI
يصنّف ملخص السلامة الخاص بـOpenAI نموذج Astra على أنه أول نموذج للشركة يمتلك «قدرات سيبرانية حرجة»، ويشير إلى أن وسائل الحماية المعتادة مصممة لمنع السلوك الذي رصده المعهد. وأرجأت الشركة إطلاق نموذج Astra 6.1 اللاحق بسبب مخاوف مشابهة تتعلق بالسلامة.
لماذا يهم
إذا تمكنت نماذج الذكاء الاصطناعي المستقبلية من التخطيط لهجمات على سلاسل التوريد وتنفيذها من دون وسائل حماية واضحة، فقد يستغلها مهاجمون لإدخال شيفرات خبيثة إلى برامج واسعة الاستخدام. وتشير النتائج إلى أن الاعتماد على مرشحات النموذج المدمجة وحدها قد لا يكون كافيًا، وأن هناك حاجة على الأرجح إلى مزيد من المراقبة والعزل لحماية المستخدمين.
