ABD Ordu Siber Komutanlığı (ARCYBER), yapay zekâ ajanlarının bilgisayar ağlarında kendi başlarına dolaşmasını sağlayacak ECHOTRIBBLE adlı bir platform tasarlıyor. The Intercept’in elde ettiği kurum içi belgede, yazılımın “tespit edilen tehditleri/hedefleri belirleyip etkisiz hâle getirmek” ve bunu çok az insan denetimiyle yapmak üzere tasarlandığı belirtiliyor.
Sistem nasıl çalışacak?
ECHOTRIBBLE bir tür bilgisayar solucanı olarak tanımlanıyor. Bir cihaza yerleştikten sonra aynı ağdaki diğer makineleri arıyor, her platforma (iPad, macOS, Windows 11) uygun bir kopyasını oluşturuyor ve hedefine ulaşana kadar ilerlemeyi sürdürüyor. Görev tamamlandığında ajanların kendilerini imha etmesi bekleniyor. Program, bulut ortamlarında ve ağ bağlantısı olmayan, dış dünyadan yalıtılmış sistemlerde çalışabildiğini öne sürüyor.
Uzmanlar istenmeyen zararlara karşı uyarıyor
Araştırmacılar, yakın dönemde yapılan yapay zekâ deneylerinin RubyGems, Hugging Face ve Avustralya’daki bir Medicare portalı gibi harici hizmetlere istemeden eriştiğine dikkat çekiyor. Makine öğrenimi profesörü David Krueger, otonom ajanlara herhangi bir şeyi “etkisiz hâle getirme” yetkisi vermenin “son derece tehlikeli” olduğunu, çünkü bu sistemlerin gerçek dünyada sağduyulu karar verme yetisinden yoksun bulunduğunu söylüyor. Yapay zekâ güvenliği şirketi Abundant’ın CEO’su Hyrum Anderson ise yanlış yönlendirilen bir ajanın bir su idaresini ya da küçük bir diş kliniğini etkileyebileceğini belirtiyor; bu kuruluşların “güvenlik yoksulluğu sınırının” altında kaldığını söylüyor.
Neden önemli
ECHOTRIBBLE operasyonel olarak kullanılmaya başlanırsa, ele geçirilmiş tek bir cihaz yapay zekâ destekli bir aracın ağ boyunca yayılmasına ve her adım için bir insanın onayını almadan sistemleri kapatmasına olanak tanıyabilir. Bu da güçlü siber savunmalara sahip olmayabilecek su idareleri veya küçük işletmeler gibi sivil hizmetlerin kazara zarar görmesi riskini artırıyor.
