미국 중간선거를 앞두고 OpenAI와 Anthropic이 자사 AI 도구를 이용한 허위정보 유포와 선거 개입을 막기 위한 감시를 강화하고 있다. OpenAI는 이번 주부터 모든 투표 집계가 끝날 때까지 ‘선거 운영 센터’를 가동한다. 여러 부서에서 수백 명의 직원이 참여해 ChatGPT 등 자사 도구가 선거 방해나 허위정보 유포에 이용되는지 살핀다.
센터는 외부 신고와 내부 탐지 사례를 검토한다. 이용 정책 위반이 확인되면 조치할 방침이다. OpenAI 시민·전략 위험 책임자 조시 로슨은 여러 팀을 모아 새로운 문제에 신속히 대응하고 정책을 집행하기 위한 조직이라고 설명했다. OpenAI는 실제 사진처럼 보이는 선거 관련 이미지 생성도 제한한다. 존재하지 않는 투표소 대기 줄을 사실적인 사진으로 만들어 달라는 요청에는 만화 형태로 바꾸는 방식을 적용한다.
개별 요청을 넘어 조직적 활동을 찾는다
Anthropic은 Claude를 이용한 선거 개입 감시에 초점을 맞췄다. 한 건씩 보면 정상처럼 보이는 요청이라도 여러 작업을 결합하면 조직적인 여론 조작으로 이어질 수 있어서다. 외부 기관과 진행한 시험에서는 Claude가 노골적인 선거 조작 요청을 거부했지만, 악의적인 계획을 여러 단계로 나누자 의도를 알아채지 못하는 사례가 확인됐다. 예를 들어 가짜 뉴스 사이트 제작, 콘텐츠 작성, 배포 계획을 따로 요청하면 각 작업만으로는 선거 개입 목적을 파악하기 어려웠다.
Anthropic은 가짜 소셜미디어 계정이나 언론사처럼 보이는 웹사이트 제작, 정치적 여론 조작, 허위 콘텐츠 생산을 탐지하는 기능을 추가했다. 외국 정부와 연계된 활동과 선거 관련 사이버 공격에 대한 대응도 강화했다. 회사는 외국에 기반을 둔 운영자들이 가짜 뉴스 사이트를 통해 중간선거 콘텐츠를 만들고 러시아·이란·북한의 입장에 부합하는 주장을 퍼뜨리려 한 사례를 확인해 관련 계정을 차단했다고 밝혔다.
유권자 안내도 함께 손본다
두 회사는 유권자가 선거 정보를 찾는 데 AI를 활용할 수 있도록 관련 기능도 제공하거나 개선하고 있다. OpenAI는 비당파 단체 Democracy Works와 협력해 유권자 등록과 투표소 위치를 안내하고, AP통신을 통해 최신 선거 결과를 제공한다. Anthropic은 공식 선거 정보를 바탕으로 투표소 위치와 일정, 개표 결과를 안내하고 정치 관련 답변의 편향 여부를 평가하고 있다.
이런 조치는 선거를 앞두고 AI가 허위 콘텐츠 제작뿐 아니라 조직적인 배포에도 쓰일 수 있다는 우려에 대응한다. 미국 브레넌센터는 주요 AI 도구 6개를 조사해 ChatGPT가 올해 5월 이후 선거 허위정보 대응에서 뚜렷한 개선을 보인 유일한 도구라고 평가했다. 다만 이번 보도에 인용된 Anthropic 시험의 구체적인 평가 방식이나 결과 수치는 공개되지 않았다.
왜 중요한가
유권자는 ChatGPT와 Claude에서 투표소 위치나 선거 일정을 확인할 수 있지만, 안내가 공식 정보에 근거하더라도 AI 답변만으로 중요한 결정을 내리기보다 선거 당국의 정보와 대조할 필요가 있습니다. 두 회사가 감시와 탐지 기능을 강화했다는 점은 확인됐지만, 여러 작업으로 나뉜 조작 시도를 얼마나 잘 막는지는 기사에 구체적인 성능 수치가 없어 알기 어렵습니다.
