OpenAI는 외국의 영향력 공작에 연루된 ChatGPT 계정 2개를 차단했다고 밝혔다. 러시아 측이 벌인 ‘Dark Clark’ 작전은 라틴아메리카에 우크라이나 관련 허위 보도를 퍼뜨리는 것이 목적이었다. ‘Bogus Bylines’라는 이름의 이란 작전은 미국·이란 분쟁을 다룬 조작 기사 약 100건을 세계 각지의 온라인 뉴스 사이트에 게재했다.
공작은 어떻게 이뤄졌나
두 조직 모두 가짜 기자 신원을 만들고 AI 도구로 기사를 작성하고 번역했다. 러시아 측은 오디오 클립과 문서도 조작해 에콰도르와 페루에서 팩트체크와 당국의 부인을 이끌어냈다. 이란 측은 소셜미디어 댓글도 달았지만, 반응은 거의 얻지 못했다. OpenAI에 따르면 러시아 작전은 정치인들이 해당 콘텐츠에 반응하면서 자사의 ‘Breakout Scale’에서 ‘category 5’ 등급을 받았다. 2½년 만에 처음 나온 이 같은 고강도 사례다.
OpenAI의 대응
OpenAI는 조사 결과에 따라 공작에 사용된 ChatGPT 계정 2개를 즉시 차단했다. 다른 계정도 연루됐는지는 공개하지 않았다. 또한 공작 수법과 AI의 역할을 설명하는 보고서를 발표하며, 이들 영향력 공작의 표적이 소셜미디어 플랫폼에 그치지 않고 정식 언론사에도 미쳤다고 강조했다.
왜 중요한가
일반 독자에게 이번 사례는 AI 도구가 소셜미디어뿐 아니라 신뢰받는 뉴스 사이트에도 허위 기사를 끼워 넣는 데 악용될 수 있음을 보여준다. OpenAI의 계정 차단은 조작 콘텐츠 확산을 억제할 수 있지만, AI를 활용한 허위정보를 찾아내는 일이 여전히 어렵다는 점도 보고서는 짚고 있다.
