OpenAI meddelade att företaget hade stängt av två ChatGPT-konton som användes i utländska påverkansoperationer. Den ena kampanjen, som kallades ”Dark Clark”, drevs av ryska aktörer och syftade till att sprida falska uppgifter om Ukraina i Latinamerika. Den andra, med namnet ”Bogus Bylines”, var en iransk operation som fick in omkring 100 påhittade artiklar om konflikten mellan USA och Iran på nyhetssajter runt om i världen.
Så gick operationerna till
Båda grupperna skapade falska journalistprofiler och använde AI-verktyg för att skriva och översätta artiklarna. Det ryska teamet fabricerade också ljudklipp och dokument som ledde till faktagranskningar och officiella dementier i Ecuador och Peru. Den iranska sidan publicerade även kommentarer på sociala medier, men de fick liten spridning. Enligt OpenAI fick den ryska operationen betyget ”kategori 5” på företagets Breakout Scale eftersom politiker reagerade på innehållet. Det var första gången på 2½ år som ett fall nådde den här höga nivån.
OpenAIs svar
OpenAIs utredning ledde till att de två ChatGPT-konton som användes i kampanjerna omedelbart stängdes av. Företaget har inte uppgett om några andra konton var inblandade. OpenAI publicerade också en rapport om metoderna och AI:s roll i operationerna och betonade att påverkansförsöken riktade in sig på etablerade nyhetsmedier, inte bara sociala plattformar.
Varför det spelar roll
För vanliga läsare visar det här hur AI-verktyg kan missbrukas för att få in falska nyheter på betrodda nyhetssajter, inte bara i sociala medier. OpenAIs avstängningar av konton kan begränsa spridningen av sådant fabricerat innehåll, men rapporten visar också att det fortfarande är svårt att upptäcka AI-driven desinformation.
