OpenAI ha annunciato di aver chiuso due account ChatGPT coinvolti in operazioni di influenza straniera. Una campagna, chiamata “Dark Clark”, era condotta da attori russi e mirava a diffondere false notizie sull’Ucraina in America Latina. L’altra, denominata “Bogus Bylines”, era un’operazione iraniana che ha fatto pubblicare circa 100 articoli inventati sul conflitto tra Stati Uniti e Iran su siti di notizie online in tutto il mondo.
Come funzionavano le operazioni
Entrambi i gruppi creavano false identità da giornalisti e usavano strumenti di IA per scrivere e tradurre gli articoli. Il gruppo russo ha anche fabbricato clip audio e documenti che hanno spinto a verifiche dei fatti e smentite ufficiali in Ecuador e Perù. La parte iraniana ha aggiunto commenti sui social media, ma i post hanno ottenuto poco seguito. OpenAI afferma che l’operazione russa ha raggiunto il livello “categoria 5” della sua Breakout Scale, perché alcuni politici hanno reagito ai contenuti: è il primo caso di questo livello in 2½ anni.
La risposta di OpenAI
L’indagine di OpenAI ha portato al blocco immediato dei due account ChatGPT usati nelle campagne. L’azienda non ha reso noto se fossero coinvolti altri account. Ha inoltre pubblicato un rapporto che descrive le tattiche e il ruolo dell’IA nelle operazioni, sottolineando che le campagne di influenza puntavano a legittime testate giornalistiche, non soltanto alle piattaforme social.
Perché conta
Per i lettori, questo dimostra che gli strumenti di IA possono essere usati impropriamente per inserire false notizie su testate considerate affidabili, non soltanto nei feed dei social. Il blocco degli account da parte di OpenAI può limitare la diffusione di contenuti inventati di questo tipo, ma il rapporto evidenzia anche quanto sia ancora difficile individuare la disinformazione basata sull’IA.
