قال باحثون في Symantec إنهم عثروا على وكيل ذكاء اصطناعي هجومي صُمم للاستيلاء على نماذج لغوية مكشوفة واستخدامها لتنسيق هجمات إلكترونية. وأطلق مشغّلو الوكيل على وضعه طويل الأمد اسم «وضع Skynet»: إذ سمحت تعليماته بتنفيذ ما يصل إلى 100,000 خطوة من دون تأكيد بشري.
كانت الخطة تقضي بجعل النموذج يبحث عن خدمات ذكاء اصطناعي مكشوفة أخرى، ويستغل الخوادم المعرضة للثغرات، ويسرق قواعد البيانات وبيانات الاعتماد، ويثبّت برامج لتعدين العملات المشفرة. وتقول Symantec إن إساءة استخدام حساب مدفوع للذكاء الاصطناعي قد تترك صاحبه أيضاً أمام فاتورة استخدام النموذج.
تعليمات صُممت لتجاوز الرفض
أرسل المهاجمون تعليماتهم كاملة إلى نظام خداعي تابع لـSymantec، وهو نظام يحاكي خدمة ذكاء اصطناعي مكشوفة. واشتملت التعليمات على خمس طبقات تهدف إلى حمل نموذج تجاري على الامتثال: هوية مزيفة، وتعليمات للتعامل مع سرقة بيانات الاعتماد بوصفها مهمة اعتيادية للمطورين، وشخصية رفيقة خيالية، وإرشادات لتجاهل تحذيرات السلامة. أما الطبقة الخامسة فاحتوت على 74 وحدة لأدوات هجومية.
وصفت التعليمات دورة متكررة من البحث عن الأنظمة، وإصابة الخوادم، وتثبيت برنامج لتعدين العملات المشفرة، ثم العودة إلى الأنظمة التي استُهدفت سابقاً. كما رصدت Symantec أمراً منفصلاً مموهاً لتنزيل XMRig، وهو أداة لتعدين Monero، واستهداف خوادم الكاميرات باستخدام go2rtc.
ما الذي كشفه النظام الخداعي، وما الذي لم يكشفه
لم يشغّل النظام الخداعي الأدوات المرفقة ولا الأمر اللاحق، بل سجّلهما. وتقول Symantec إن المهمة التي التقطها كانت تمريناً برمجياً غير ضار، ما يرجح أن المشغّلين كانوا يختبرون الوكيل على هدف آمن. ولا تثبت التحليلات أن التعليمات متعددة الطبقات قادرة على تجاوز وسائل الحماية في النماذج التجارية الحالية بشكل موثوق، كما لا تُظهر أن الوكيل المرصود نفّذ هجوماً.
لماذا يهم
لدى المؤسسات التي تتيح خدمات الذكاء الاصطناعي عبر الإنترنت سبب ملموس لتأمين هذه الأنظمة: فقد رصدت Symantec عمليات مسح ومحاولات لاستخدام نماذج مكشوفة، وتقول إن مالك النموذج قد يتحمل تكلفة الاستخدام غير المصرح به. لكن النظام الخداعي لم يفعل سوى تسجيل مواد الهجوم؛ ولا يزال مجهولاً ما إذا كان هذا الوكيل قادراً على دفع نماذج تجارية إلى تنفيذ الخطة كاملة.
