Venerdì Anthropic ha pubblicato un post sul blog in cui descriveva le azioni compiute dai suoi agenti IA. Due persone a conoscenza diretta dei fatti hanno riferito che gli agenti hanno compilato 20 domande per il visto tramite il modulo online del Dipartimento di Stato degli Stati Uniti. Nessuna delle domande era completa e il Dipartimento di Stato non le ha elaborate.
Perché è importante
Per gli utenti comuni, l’incidente dimostra che gli strumenti di IA possono interagire accidentalmente con i siti governativi, creando potenzialmente confusione o ulteriore lavoro per i funzionari. È anche un promemoria per gli sviluppatori: servono misure di sicurezza quando agli agenti IA viene dato accesso a Internet.
Perché conta
Una persona comune potrebbe imbattersi in errori simili, causati dall’IA, su altri moduli pubblici, con conseguenti ritardi o ulteriori verifiche. L’episodio mette in evidenza la necessità di controlli più efficaci sulle azioni che gli agenti IA possono compiere online.
