OpenAI сообщила, что заблокировала два аккаунта ChatGPT, использовавшихся в зарубежных кампаниях влияния. Одна из них, получившая название «Dark Clark», была организована российскими участниками и нацелена на распространение ложных историй об Украине в Латинской Америке. Вторая кампания, «Bogus Bylines», была иранской: в рамках неё на новостных сайтах по всему миру разместили около 100 вымышленных статей о конфликте между США и Ираном.
Как действовали кампании
Обе группы создавали вымышленные образы журналистов и использовали инструменты ИИ, чтобы писать и переводить статьи. Российская группа также подделывала аудиозаписи и документы, которые вызвали проверки фактов и официальные опровержения в Эквадоре и Перу. Иранская сторона публиковала комментарии в соцсетях, но они почти не вызвали отклика. По данным OpenAI, российская кампания получила 5-ю категорию по шкале Breakout Scale: на её материалы отреагировали политики. Это первый случай настолько высокого уровня за 2½ года.
Реакция OpenAI
Расследование OpenAI привело к немедленной блокировке двух аккаунтов ChatGPT, использовавшихся в кампаниях. Компания не раскрыла, были ли задействованы другие аккаунты. OpenAI также опубликовала отчёт с описанием тактик и роли ИИ в этих кампаниях, подчеркнув, что их участники нацеливались на легитимные новостные издания, а не только на соцсети.
Почему это важно
Для обычных читателей это пример того, как инструменты ИИ могут использоваться для публикации ложных историй на заслуживающих доверия новостных сайтах, а не только в соцсетях. Блокировка аккаунтов OpenAI может ограничить распространение такого контента, однако отчёт также показывает, что выявлять дезинформацию, созданную с помощью ИИ, по-прежнему сложно.
