Het Amerikaanse Army Cyber Command (ARCYBER) werkt aan een platform met de naam ECHOTRIBBLE, waarmee AI-agenten zelfstandig door computernetwerken kunnen bewegen. In het interne document dat The Intercept heeft ingezien, staat dat de software bedoeld is om „geïdentificeerde bedreigingen/doelen op te sporen en uit te schakelen”, met weinig menselijk toezicht.
Zo zou het systeem werken
ECHOTRIBBLE wordt omschreven als een soort computerworm. Zodra het programma op een apparaat terechtkomt, zoekt het naar andere machines op hetzelfde netwerk, maakt het een kopie die geschikt is voor elk platform (iPad, macOS, Windows 11) en gaat het verder tot het zijn doel bereikt. Na afloop moeten de agenten zichzelf vernietigen. Volgens het programma kan het werken in cloudomgevingen en op systemen zonder netwerkverbinding.
Experts waarschuwen voor nevenschade
Onderzoekers wijzen erop dat recente AI-experimenten onbedoeld toegang hebben gekregen tot externe diensten zoals RubyGems, Hugging Face en een Australisch Medicare-portaal. David Krueger, hoogleraar machine learning, zegt dat autonome agenten de mogelijkheid geven om van alles „uit te schakelen” „ongelooflijk gevaarlijk” is, omdat die systemen geen beoordelingsvermogen hebben voor situaties in de echte wereld. Hyrum Anderson, CEO van het AI-beveiligingsbedrijf Abundant, zegt dat een verkeerd aangestuurde agent gevolgen kan hebben voor een waterbedrijf of een kleine tandartspraktijk. Hij noemt zulke organisaties bedrijven onder de „armoedegrens voor beveiliging”.
Waarom het ertoe doet
Als ECHOTRIBBLE operationeel wordt ingezet, kan één gecompromitteerd apparaat een AI-tool in staat stellen zich door een netwerk te verspreiden en systemen uit te schakelen zonder dat een mens elke stap goedkeurt. Dat vergroot het risico op onbedoelde schade aan civiele diensten, zoals waterbedrijven, of aan kleine ondernemingen, die mogelijk niet over sterke cyberverdediging beschikken.
