Symantec araştırmacıları, internete açık dil modellerini ele geçirerek siber saldırıları koordine etmek için kullanmayı amaçlayan bir yapay zekâ ajanı bulduklarını söylüyor. Ajanın operatörleri, uzun süre çalışan moduna “Skynet mode” adını vermişti. Ajanın talimatı, insan onayı olmadan 100.000 adıma kadar ilerlemesine izin veriyordu.
Plan; modelin internete açık diğer yapay zekâ hizmetlerini taramasını, güvenlik açığı bulunan sunucuları istismar etmesini, veri tabanlarıyla kimlik bilgilerini çalmasını ve kripto para madenciliği yapan yazılımlar yüklemesini öngörüyordu. Symantec’e göre ücretli bir yapay zekâ hesabı kötüye kullanılırsa, hesabın sahibi modelin kullanım ücretini ödemek zorunda da kalabilirdi.
Ret yanıtlarını aşmak için hazırlanmış bir talimat
Saldırganlar, internete açık bir yapay zekâ hizmetini taklit eden tuzak sisteme tam talimat metnini gönderdi. Talimat, ticari bir modelin isteneni yapmasını sağlamak amacıyla beş katman içeriyordu: sahte bir kimlik, kimlik bilgisi hırsızlığını sıradan bir geliştirici işi gibi sunan yönergeler, kurgusal bir yardımcı karakter ve güvenlik uyarılarını yok sayma talimatları. Beşinci katmanda ise saldırı araçlarına yönelik 74 modül bulunuyordu.
Talimat; sunucuları tarama, sunuculara zararlı yazılım bulaştırma, kripto para madenciliği yazılımı yükleme ve daha önce hedef alınan sistemlere geri dönme adımlarını tekrarlayan bir döngü halinde tarif ediyordu. Symantec ayrıca, Monero madenciliği aracı XMRig’i indirecek ve go2rtc kullanarak kamera sunucularını hedef alacak ayrı, gizlenmiş bir komut da kaydetti.
Tuzak sistem neyi gösterdi, neyi göstermedi?
Tuzak sistem, paketteki araçları veya daha sonra kaydedilen komutu çalıştırmadı; yalnızca bunları kaydetti. Symantec, yakalanan görevin zararsız bir kodlama çalışması olduğunu ve operatörlerin ajanı güvenli bir hedef üzerinde test ediyor olabileceğini söylüyor. Analiz, katmanlı talimatların güncel ticari modellerin güvenlik önlemlerini güvenilir biçimde aşıp aşamayacağını ortaya koymuyor; ayrıca kaydedilen ajanın bir saldırıyı tamamladığını da göstermiyor.
Neden önemli
Yapay zekâ hizmetlerini internete açık tutan kuruluşların bu uç noktaları güvenli hale getirmek için somut bir nedeni var: Symantec, açık modelleri kullanma girişimlerinin yanı sıra tarama faaliyetleri de kaydetti ve model sahibinin yetkisiz kullanımın ücretini ödemek zorunda kalabileceğini belirtti. Ancak tuzak sistem yalnızca saldırı malzemelerini kaydetti; bu ajanın ticari modellere planın tamamını uygulatıp uygulatamayacağı hâlâ bilinmiyor.
