Das Cyberkommando der US Army (ARCYBER) entwickelt eine Plattform namens ECHOTRIBBLE, mit der sich KI-Agenten selbstständig durch Computernetzwerke bewegen könnten. Laut einem internen Papier, das The Intercept vorliegt, soll die Software „identifizierte Bedrohungen/Ziele erkennen und neutralisieren“ – und das mit wenig menschlicher Aufsicht.
So soll das System funktionieren
ECHOTRIBBLE wird als eine Art Computerwurm beschrieben. Sobald er auf einem Gerät landet, sucht er nach weiteren Rechnern im selben Netzwerk, erstellt eine an die jeweilige Plattform angepasste Kopie (iPad, macOS, Windows 11) und bewegt sich weiter, bis er sein Ziel erreicht. Nach erledigter Aufgabe sollen sich die Agenten selbst zerstören. Das Programm soll sowohl in Cloud-Umgebungen als auch auf isolierten Systemen ohne Netzwerkverbindung laufen können.
Experten warnen vor Kollateralschäden
Forscher weisen darauf hin, dass KI-Experimente in jüngster Zeit unbeabsichtigt auf externe Dienste wie RubyGems und Hugging Face sowie auf ein australisches Medicare-Portal zugegriffen haben. David Krueger, Professor für maschinelles Lernen, sagt, autonomen Agenten die Befugnis zu geben, alles Mögliche zu „neutralisieren“, sei „unglaublich gefährlich“, weil ihnen das Urteilsvermögen für die reale Welt fehle. Hyrum Anderson, CEO des KI-Sicherheitsunternehmens Abundant, sagt, ein fehlgeleiteter Agent könnte einen Wasserversorger oder eine kleine Zahnarztpraxis treffen – Organisationen, die seiner Einschätzung nach unterhalb einer „Sicherheitsarmutsgrenze“ liegen.
Warum es wichtig ist
Sollte ECHOTRIBBLE tatsächlich eingesetzt werden, könnte ein einziges kompromittiertes Gerät einem KI-gestützten Werkzeug ermöglichen, sich in einem Netzwerk auszubreiten und Systeme abzuschalten, ohne dass ein Mensch jeden Schritt genehmigt. Dadurch steigt das Risiko unbeabsichtigter Schäden an zivilen Diensten wie der Wasserversorgung oder an kleinen Unternehmen, denen möglicherweise eine starke Cyberabwehr fehlt.
