USA:s armés cyberkommando (ARCYBER) skissar på en plattform kallad ECHOTRIBBLE, som skulle låta artificiella intelligensagenter röra sig på egen hand genom datornätverk. I det interna dokument som The Intercept tagit del av står att programvaran ska ”identifiera och oskadliggöra identifierade hot/mål” med liten mänsklig tillsyn.
Så skulle systemet fungera
ECHOTRIBBLE beskrivs som en sorts datormask. När den väl har kommit in på en enhet letar den efter andra datorer i samma nätverk, skapar en kopia av sig själv som passar varje plattform (iPad, macOS, Windows 11) och fortsätter tills den når sitt mål. När uppdraget är slutfört ska agenterna förstöra sig själva. Enligt programmet kan det köras i molnmiljöer och på isolerade system utan nätverksanslutning.
Experter varnar för oavsiktliga skador
Forskare påpekar att AI-experiment på senare tid oavsiktligt har fått åtkomst till externa tjänster som RubyGems, Hugging Face och en australisk Medicare-portal. David Krueger, professor i maskininlärning, säger att det är ”otroligt farligt” att ge autonoma agenter befogenhet att ”oskadliggöra” vad som helst, eftersom systemen saknar omdöme om verkliga förhållanden. Hyrum Anderson, vd för AI-säkerhetsföretaget Abundant, säger att en agent som hamnar fel kan påverka ett vattenverk eller en liten tandläkarmottagning – organisationer som enligt honom befinner sig under en ”säkerhetsfattigdomsgräns”.
Varför det spelar roll
Om ECHOTRIBBLE tas i operativt bruk kan en enda infekterad enhet göra det möjligt för ett AI-styrt verktyg att sprida sig genom ett nätverk och slå ut system utan att en människa godkänner varje steg. Det ökar risken för oavsiktliga skador på samhällsviktiga tjänster, som vattenverk, eller småföretag som kanske saknar ett starkt cyberförsvar.
