OpenAI teilte mit, zwei ChatGPT-Konten gesperrt zu haben, die bei ausländischen Einflusskampagnen eingesetzt wurden. Eine Kampagne namens „Dark Clark“ wurde von russischen Akteuren betrieben und sollte Falschmeldungen über die Ukraine in Lateinamerika verbreiten. Die andere, „Bogus Bylines“, war eine iranische Aktion, bei der rund 100 erfundene Artikel zum Konflikt zwischen den USA und dem Iran auf Nachrichtenwebsites weltweit veröffentlicht wurden.
So gingen die Kampagnen vor
Beide Gruppen erfanden journalistische Identitäten und nutzten KI-Tools, um Artikel zu schreiben und zu übersetzen. Das russische Team fabrizierte außerdem Audioaufnahmen und Dokumente, die in Ecuador und Peru Faktenchecks und offizielle Dementis auslösten. Die iranische Seite veröffentlichte zusätzlich Kommentare in sozialen Medien, die jedoch kaum Resonanz fanden. Laut OpenAI erreichte die russische Kampagne auf der Breakout Scale die Einstufung „Kategorie 5“, weil Politiker auf die Inhalte reagierten. Es war der erste derartige Fall mit einer so hohen Einstufung seit 2½ Jahren.
OpenAIs Reaktion
Die Untersuchung von OpenAI führte dazu, dass die beiden bei den Kampagnen verwendeten ChatGPT-Konten umgehend gesperrt wurden. Das Unternehmen machte keine Angaben dazu, ob weitere Konten beteiligt waren. Zudem veröffentlichte es einen Bericht über die Vorgehensweisen und die Rolle von KI bei den Aktionen. Darin betont OpenAI, dass sich die Einflusskampagnen gegen etablierte Nachrichtenmedien richteten und nicht nur gegen soziale Plattformen.
Warum es wichtig ist
Für Leserinnen und Leser zeigt sich daran, dass KI-Tools missbraucht werden können, um Falschmeldungen in vertrauenswürdigen Nachrichtenmedien zu platzieren – und nicht nur in sozialen Feeds. Die Kontosperren von OpenAI könnten die Verbreitung solcher erfundenen Inhalte begrenzen. Der Bericht macht aber auch deutlich, dass KI-gestützte Desinformation weiterhin schwer zu erkennen ist.
