فرماندهی سایبری ارتش آمریکا (ARCYBER) در حال تدوین پلتفرمی به نام ECHOTRIBBLE است که به عامل‌های هوش مصنوعی امکان می‌دهد به‌تنهایی در شبکه‌های رایانه‌ای حرکت کنند. در سند داخلی‌ای که به دست The Intercept رسیده، آمده است این نرم‌افزار برای «شناسایی و خنثی‌سازی تهدیدها/اهداف شناسایی‌شده» طراحی شده و قرار است این کار را با نظارت اندک انسانی انجام دهد.
سازوکار سیستم
ECHOTRIBBLE نوعی کرم رایانه‌ای توصیف شده است. وقتی روی دستگاهی قرار می‌گیرد، دستگاه‌های دیگرِ همان شبکه را جست‌وجو می‌کند، نسخه‌ای از خود متناسب با هر پلتفرم (iPad، macOS، Windows 11) می‌سازد و تا رسیدن به هدف به حرکت ادامه می‌دهد. پس از انجام مأموریت، عامل‌ها باید خودشان را نابود کنند. این برنامه مدعی است که می‌تواند در محیط‌های ابری و روی سامانه‌های ایزوله از شبکه هم کار کند.
هشدار کارشناسان درباره خسارت‌های جانبی
پژوهشگران می‌گویند آزمایش‌های اخیر هوش مصنوعی ناخواسته به سرویس‌های بیرونی مانند RubyGems، Hugging Face و درگاه Medicare استرالیا دسترسی پیدا کرده‌اند. دیوید کروگر، استاد یادگیری ماشین، می‌گوید دادن اختیار «خنثی‌سازی» هر چیزی به عامل‌های خودمختار «به‌شدت خطرناک» است، چون این سامانه‌ها قدرت قضاوت درباره دنیای واقعی را ندارند. هایروم اندرسون، مدیرعامل شرکت امنیت هوش مصنوعی Abundant، می‌گوید یک عامل که به‌اشتباه هدایت شود ممکن است به یک شرکت آب‌رسانی یا مطب دندان‌پزشکی کوچکی آسیب بزند؛ سازمان‌هایی که به گفته او پایین‌تر از «خط فقر امنیتی» قرار دارند.
چرا مهم است
اگر ECHOTRIBBLE به مرحله استفاده عملیاتی برسد، یک دستگاه آلوده می‌تواند به ابزاری مبتنی بر هوش مصنوعی امکان دهد در شبکه گسترش پیدا کند و سامانه‌ها را بدون تأیید انسانی در هر مرحله از کار بیندازد. این موضوع خطر آسیب ناخواسته به خدمات غیرنظامی مانند شرکت‌های آب‌رسانی یا کسب‌وکارهای کوچک را افزایش می‌دهد؛ مراکزی که ممکن است دفاع سایبری قدرتمندی نداشته باشند.
