OpenAI a annoncé avoir fermé deux comptes ChatGPT liés à des opérations d’influence étrangères. Une campagne, baptisée « Dark Clark », était menée par des acteurs russes et visait à diffuser de fausses informations sur l’Ukraine en Amérique latine. L’autre, nommée « Bogus Bylines », était une opération iranienne qui a fait publier une centaine d’articles fabriqués de toutes pièces sur le conflit entre les États-Unis et l’Iran dans des sites d’information en ligne du monde entier.
Comment ces opérations fonctionnaient
Les deux groupes ont créé de fausses identités de journalistes et utilisé des outils d’IA pour rédiger et traduire les articles. L’équipe russe a également fabriqué des extraits audio et des documents qui ont donné lieu à des vérifications des faits et à des démentis officiels en Équateur et au Pérou. Le groupe iranien a aussi publié des commentaires sur les réseaux sociaux, mais ceux-ci ont suscité peu d’engagement. OpenAI affirme que l’opération russe a atteint le « niveau 5 » de son échelle Breakout, des responsables politiques ayant réagi aux contenus. C’est la première fois en 2½ ans qu’une opération atteint un niveau aussi élevé.
La réponse d’OpenAI
L’enquête d’OpenAI a conduit au bannissement immédiat des deux comptes ChatGPT utilisés dans ces campagnes. L’entreprise n’a pas précisé si d’autres comptes étaient concernés. Elle a également publié un rapport décrivant les tactiques employées et le rôle de l’IA dans ces opérations, soulignant que les campagnes d’influence visaient des médias d’information légitimes, et pas seulement les réseaux sociaux.
Pourquoi c'est important
Pour le grand public, cela montre que les outils d’IA peuvent servir à faire publier de fausses informations dans des médias auxquels on fait confiance, et pas seulement à les diffuser sur les réseaux sociaux. Les bannissements de comptes par OpenAI pourraient freiner la propagation de ces contenus fabriqués de toutes pièces, mais le rapport souligne aussi qu’il reste difficile de détecter la désinformation générée par l’IA.
