تعمل قيادة الجيش السيبرانية الأمريكية (ARCYBER) على إعداد منصة باسم ECHOTRIBBLE تتيح لوكلاء الذكاء الاصطناعي التجول في شبكات الكمبيوتر من تلقاء أنفسهم. وتقول وثيقة داخلية حصلت عليها The Intercept إن البرنامج مصمم «لرصد التهديدات/الأهداف المحددة وتحييدها»، مع قدر ضئيل من الإشراف البشري.
كيف سيعمل النظام
يوصف ECHOTRIBBLE بأنه نوع من ديدان الكمبيوتر. فبمجرد وصوله إلى جهاز، يبحث عن أجهزة أخرى على الشبكة نفسها، وينشئ نسخة من نفسه تلائم كل منصة (iPad وmacOS وWindows 11)، ثم يواصل الانتشار حتى يصل إلى هدفه. وبعد إتمام المهمة، يُفترض أن تدمر الوكلاء أنفسهم. ويزعم البرنامج قدرته على العمل في البيئات السحابية والأنظمة المعزولة عن الشبكات، التي لا يتوفر لها اتصال بالشبكة.
خبراء يحذرون من أضرار جانبية
يشير باحثون إلى أن تجارب حديثة للذكاء الاصطناعي وصلت عن غير قصد إلى خدمات خارجية مثل RubyGems وHugging Face وبوابة Medicare الأسترالية. ويقول ديفيد كروغر، أستاذ تعلم الآلة، إن منح الوكلاء المستقلين صلاحية «تحييد» أي شيء «خطر للغاية»، لأن هذه الأنظمة تفتقر إلى القدرة على التقدير في العالم الحقيقي. أما هايروم أندرسون، الرئيس التنفيذي لشركة أمن الذكاء الاصطناعي Abundant، فيقول إن وكيلاً يخطئ توجيهَه قد يؤثر في مرفق للمياه أو عيادة أسنان صغيرة، وهما من المؤسسات التي يصفها بأنها دون «خط الفقر الأمني».
لماذا يهم
إذا دخل ECHOTRIBBLE حيز الاستخدام التشغيلي، فقد يتيح اختراق جهاز واحد لأداة تعمل بالذكاء الاصطناعي الانتشار عبر شبكة وتعطيل أنظمة من دون موافقة بشرية على كل خطوة. وهذا يزيد خطر إلحاق أضرار عرضية بخدمات مدنية مثل مرافق المياه أو الشركات الصغيرة، التي قد تفتقر إلى دفاعات سيبرانية قوية.
