نموذج جديد يتنبأ بكيفية تصاعد هجمات كسر قيود الذكاء الاصطناعي مع زيادة الجهد

في 29 سبتمبر 2026، نشر عالم الحاسوب ماركو بيرولي ورقة بحثية على arXiv بعنوان «الهروب من المواءمة: نموذج فخ فيزيائي لهجمات كسر القيود بأسلوب أفضل نتيجة من بين N». وتقدم الدراسة «نموذج الحاجز» المباشر، الذي يشرح كيف يتغير معدل نجاح هجمات كسر القيود عندما يزيد المهاجم متغيرين: عدد صيغ المطالبات (N) وعدد الردود لكل صيغة (M). ولا يحتاج النموذج سوى أربعة أرقام مرتبطة بآليات السلامة، ومع ذلك يمكنه التنبؤ بنتائج هجمات أوسع بكثير من تلك التي اختُبرت حتى الآن.

ما الذي يفعله النموذج الجديد؟

يتعامل النموذج مع كل مطالبة على أن لها مستوى سلامة أساسيًا، ثم يضيف «حاجزًا» عشوائيًا يمكن تجاوزه إذا جرّب المهاجم عددًا كافيًا من الصيغ. ومن خلال مواءمة الأرقام الأربعة مع بيانات خمسة نماذج لغوية مختلفة، يبيّن الباحثون أن نتائج النماذج الخمسة كلها تقع على منحنى التدرج نفسه. وهذا يعني إمكانية الاستقراء من تجارب شملت ما يصل إلى 100 صيغة للمطالبة إلى سيناريوهات تضم 10,000 صيغة، وهو أمر لم تتمكن الدراسات السابقة من فعله على نحو موثوق.

وتبحث الورقة أيضًا في تأثير درجة التوليد – وهي إعداد يتحكم في عشوائية مخرجات الذكاء الاصطناعي – على نجاح الهجمات. وباستخدام الأرقام الأربعة نفسها، يستطيع الباحثون التنبؤ بمعدلات النجاح عند درجات حرارة لم يختبروها قط.

أهمية ذلك لسلامة الذكاء الاصطناعي

إذا صمدت تنبؤات النموذج أمام الاختبار، فسيتمكن مهندسو السلامة من تقدير عدد صيغ المطالبات التي يحتاج إليها المهاجم قبل أن يصبح كسر القيود مرجحًا. ويساعدهم ذلك على وضع حدود واقعية لعدد المطالبات المسموح بها عبر واجهات البرمجة العامة، أو على تحديد مدى تشدد مراقبة الأنماط المريبة.

كما تتحدى الدراسة ادعاءات سابقة بأن نجاح الهجمات يتبع علاقة بسيطة وفق قانون القوة مع N. وبإظهار منحنى أكثر تعقيدًا يتغير بحسب درجة الحرارة، تشير الدراسة إلى أن على وسائل الدفاع أخذ عوامل متعددة في الحسبان، لا عدد المحاولات وحده.