OpenAI maakte bekend dat het twee ChatGPT-accounts had afgesloten die onderdeel waren van buitenlandse beïnvloedingsoperaties. Een campagne, met de naam ‘Dark Clark’, werd uitgevoerd door Russische actoren en was erop gericht valse verhalen over Oekraïne in Latijns-Amerika te verspreiden. De andere campagne, ‘Bogus Bylines’, was een Iraanse operatie die ongeveer 100 verzonnen artikelen over het conflict tussen de VS en Iran op nieuwssites over de hele wereld plaatste.
Hoe de operaties te werk gingen
Beide groepen verzonnen journalistenidentiteiten en gebruikten AI-tools om artikelen te schrijven en te vertalen. Het Russische team vervalste ook audiofragmenten en documenten, die aanleiding gaven tot factchecks en officiële ontkenningen in Ecuador en Peru. De Iraanse groep plaatste daarnaast reacties op sociale media, maar die kregen weinig respons. Volgens OpenAI kreeg de Russische operatie op de Breakout Scale de beoordeling ‘categorie 5’, omdat politici op de inhoud reageerden. Het was in 2½ jaar tijd de eerste zaak die zo’n hoge categorie bereikte.
De reactie van OpenAI
Het onderzoek van OpenAI leidde ertoe dat de twee ChatGPT-accounts die bij de campagnes waren gebruikt onmiddellijk werden geblokkeerd. Het bedrijf heeft niet bekendgemaakt of er ook andere accounts bij betrokken waren. OpenAI publiceerde ook een rapport over de tactieken en de rol van AI bij de operaties. Daarbij benadrukte het bedrijf dat de beïnvloedingscampagnes zich richtten op legitieme nieuwsmedia, en niet alleen op sociale-mediaplatforms.
Waarom het ertoe doet
Voor gewone lezers laat dit zien dat AI-tools kunnen worden misbruikt om valse verhalen in betrouwbare nieuwsmedia te plaatsen, en niet alleen op sociale media. Het blokkeren van de accounts door OpenAI kan de verspreiding van zulke verzonnen inhoud beperken, maar het rapport maakt ook duidelijk dat AI-gestuurde desinformatie lastig op te sporen blijft.
