L’Army Cyber Command statunitense (ARCYBER) sta progettando una piattaforma chiamata ECHOTRIBBLE, che permetterebbe ad agenti di intelligenza artificiale di spostarsi autonomamente all’interno delle reti informatiche. Secondo un documento interno ottenuto da The Intercept, il software è pensato per «individuare e neutralizzare minacce/obiettivi identificati», con una supervisione umana minima.
Come funzionerebbe il sistema
ECHOTRIBBLE viene descritto come una sorta di worm informatico. Una volta installato su un dispositivo, cerca altri computer sulla stessa rete, crea una copia di sé adatta a ciascuna piattaforma (iPad, macOS, Windows 11) e continua a spostarsi finché non raggiunge il suo obiettivo. Una volta completato il compito, gli agenti dovrebbero autodistruggersi. Il programma dichiara di poter operare negli ambienti cloud e sui sistemi isolati, privi di connessione di rete.
Gli esperti avvertono: possibili danni collaterali
I ricercatori osservano che recenti esperimenti con l’IA hanno avuto accesso involontariamente a servizi esterni come RubyGems, Hugging Face e il portale australiano Medicare. David Krueger, professore di machine learning, afferma che dare ad agenti autonomi il potere di «neutralizzare» qualsiasi cosa è «incredibilmente pericoloso», perché questi sistemi non hanno capacità di giudizio nel mondo reale. Hyrum Anderson, CEO dell’azienda di sicurezza IA Abundant, avverte che un agente indirizzato per errore potrebbe colpire un servizio idrico o un piccolo studio dentistico, organizzazioni che, secondo lui, si trovano al di sotto di una «soglia minima di sicurezza».
Perché conta
Se ECHOTRIBBLE entrasse in uso operativo, un singolo dispositivo compromesso potrebbe consentire a uno strumento basato sull’IA di propagarsi in una rete e bloccare i sistemi senza che una persona debba approvare ogni passaggio. Questo aumenterebbe il rischio di danni accidentali a servizi civili, come le reti idriche, o alle piccole imprese, che potrebbero non disporre di solide difese informatiche.
