OpenAI anunció que había cerrado dos cuentas de ChatGPT vinculadas a operaciones de influencia extranjeras. Una campaña, llamada «Dark Clark», fue organizada por actores rusos y buscaba difundir noticias falsas sobre Ucrania en América Latina. La otra, denominada «Bogus Bylines», fue una operación iraní que publicó cerca de 100 artículos inventados sobre el conflicto entre Estados Unidos e Irán en sitios de noticias en línea de todo el mundo.
Cómo funcionaban las operaciones
Ambos grupos crearon identidades falsas de periodistas y usaron herramientas de IA para redactar y traducir los artículos. El equipo ruso también falsificó clips de audio y documentos que dieron lugar a verificaciones de datos y desmentidos oficiales en Ecuador y Perú. El grupo iraní añadió comentarios en redes sociales, pero esas publicaciones tuvieron poca interacción. OpenAI afirma que la operación rusa alcanzó la «categoría 5» en su escala Breakout porque algunos políticos reaccionaron al contenido, lo que marcó el primer caso de ese nivel en 2½ años.
La respuesta de OpenAI
La investigación de OpenAI llevó al bloqueo inmediato de las dos cuentas de ChatGPT utilizadas en las campañas. La empresa no ha revelado si hubo otras cuentas involucradas. También publicó un informe que describe las tácticas y el papel de la IA en las operaciones, y destaca que las campañas de influencia apuntaron a medios de noticias legítimos, no solo a plataformas de redes sociales.
Por qué importa
Para los lectores, esto demuestra que las herramientas de IA pueden usarse indebidamente para insertar noticias falsas en medios de confianza, no solo en redes sociales. El bloqueo de cuentas por parte de OpenAI podría limitar la difusión de este tipo de contenido fabricado, pero el informe también subraya que detectar la desinformación impulsada por IA sigue siendo un desafío.
