سایمنتک از عامل هوش مصنوعیِ طراحی‌شده برای حملات سایبری خبر داد

پژوهشگران سایمنتک می‌گویند عاملی تهاجمی مبتنی بر هوش مصنوعی یافته‌اند که برای تسخیر مدل‌های زبانیِ در دسترس و به‌کارگیری آن‌ها در هماهنگی حملات سایبری طراحی شده است. گردانندگان این عامل، حالت اجرای طولانی‌مدت آن را «حالت Skynet» نامیده بودند؛ دستورالعمل عامل اجازه می‌داد بدون تأیید انسانی تا 100,000 گام پیش برود.

قرار بود این عامل مدل را وادار کند سرویس‌های هوش مصنوعیِ دیگری را که در دسترس‌اند جست‌وجو کند، از سرورهای آسیب‌پذیر سوءاستفاده کند، پایگاه‌های داده و اطلاعات ورود را بدزدد و نرم‌افزار استخراج رمزارز نصب کند. سایمنتک می‌گوید اگر از حساب پولی هوش مصنوعی سوءاستفاده می‌شد، مالک حساب ممکن بود با صورت‌حساب مصرف مدل هم روبه‌رو شود.

دستورالعملی برای دور زدن امتناع‌ها

مهاجمان دستورالعمل کامل خود را به تلهٔ سایبری سایمنتک فرستادند؛ سامانه‌ای فریبنده که یک سرویس هوش مصنوعیِ در دسترس را شبیه‌سازی می‌کند. این دستورالعمل پنج لایه داشت که قرار بود مدل تجاری را به همکاری وادار کند: هویتی جعلی، دستورهایی برای عادی جلوه‌دادن سرقت اطلاعات ورود به‌عنوان کاری معمول برای توسعه‌دهندگان، شخصیتی خیالی به‌عنوان همراه و راهنمایی‌هایی برای نادیده‌گرفتن هشدارهای ایمنی. لایهٔ پنجم شامل 74 ماژول ابزار حمله بود.

در دستورالعمل، چرخه‌ای تکرارشونده از جست‌وجو، آلوده‌کردن سرورها، نصب نرم‌افزار استخراج رمزارز و بازگشت به سامانه‌هایی که قبلاً هدف قرار گرفته بودند، شرح داده شده بود. سایمنتک همچنین فرمانی جداگانه و مبهم‌شده ثبت کرد که XMRig، ابزاری برای استخراج Monero، را دانلود می‌کرد و سرورهای دوربین را با استفاده از go2rtc هدف می‌گرفت.

تلهٔ سایبری چه چیزی را نشان داد و چه چیزی را نه

سامانهٔ فریبنده ابزارهای همراه یا فرمان بعدی را اجرا نکرد و فقط آن‌ها را ثبت کرد. سایمنتک می‌گوید کاری که در تله ثبت شد، تمرینی بی‌ضرر برای کدنویسی بود؛ موضوعی که نشان می‌دهد گردانندگان شاید عامل را روی هدفی امن آزمایش می‌کردند. این تحلیل مشخص نمی‌کند که آیا دستورالعمل چندلایه می‌تواند به‌طور قابل‌اتکا سازوکارهای حفاظتی مدل‌های تجاری کنونی را دور بزند یا اینکه عامل ثبت‌شده واقعاً حمله‌ای را به پایان رسانده است.