Un deputato democratico chiede a Stati Uniti e Cina di negoziare un trattato sulla sicurezza dell’IA

Ro Khanna, il principale esponente democratico della Commissione ristretta della Camera sulla Cina, ha scritto all’Ufficio del direttore dell’intelligence nazionale e a tre aziende cinesi di IA: DeepSeek, Alibaba e Moonshot AI. Ha chiesto loro di spiegare come gestirebbero un incidente legato all’IA nello scenario peggiore, come l’attacco informatico che quest’estate ha coinvolto OpenAI e Hugging Face. Khanna ha detto che le risposte aiuterebbero il Congresso e la Casa Bianca a elaborare un trattato che limiti lo sviluppo di IA rischiose e stabilisca regole per le ispezioni.

Cosa chiedono le lettere

Nelle lettere, Khanna chiede alle aziende cinesi di fornire documentazione su eventuali attività rivolte alla «superintelligenza» e all’auto-miglioramento ricorsivo (RSI), una fase in cui l’IA è in grado di migliorare il proprio codice senza l’aiuto umano. Vuole sapere se le aziende hanno predisposto misure di sicurezza, come «interruttori di emergenza» in grado di spegnere un sistema fuori controllo, e se accetterebbero verifiche da parte di ispettori non governativi in caso di firma di un trattato. All’agenzia di intelligence chiede invece una valutazione su come gli Stati Uniti potrebbero reagire se un laboratorio di IA perdesse il controllo dei propri bot, oltre a un esame dell’approccio cinese ai rischi catastrofici legati all’IA.

Il contesto politico

La mossa arriva dopo il recente incontro tra il presidente Donald Trump e il presidente cinese Xi Jinping, durante il quale entrambi hanno detto che avrebbero continuato a parlare di IA, senza però presentare piani concreti. Secondo Khanna, il dialogo non basta e le aziende tecnologiche spinte dal profitto non dovrebbero essere le uniche a stabilire le regole di sicurezza. Ha inoltre osservato che il senatore indipendente Bernie Sanders ha chiesto un trattato simile tra Stati Uniti e Cina sull’IA, mentre alcuni repubblicani dubitano che la Cina rispetterebbe un eventuale accordo.