Google이 개선된 SynthID 탐지기를 전 세계에 공개했다. Google, OpenAI 또는 Apple 계정으로 로그인하면 이미지, 동영상, 오디오 파일에 해당 업체의 AI 생성 도구가 삽입한 워터마크가 있는지 간편하게 확인할 수 있다. 계정당 하루 약 10회 확인할 수 있지만, 비슷한 파일을 많이 제출하면 정확한 이용 한도가 낮아질 수 있다. Google은 탐지기를 역설계해 워터마크 제거 도구를 만드는 일을 막기 위한 제한이라고 설명했다.
탐지할 수 있는 것과 없는 것
SynthID는 지원 업체들이 AI 생성 미디어에 삽입하는 워터마크를 찾는다. Meta처럼 다른 워터마크 방식을 쓰는 업체의 콘텐츠나, 워터마크를 전혀 넣지 않는 오픈 웨이트 모델이 만든 콘텐츠는 탐지하지 못한다. 웹사이트에는 많은 AI 생성 콘텐츠를 식별하지 못할 수 있다는 안내가 있다. Google은 이 시스템을 사용하더라도 숙련된 공격자가 결국 워터마크를 제거해 콘텐츠를 진짜처럼 보이게 할 수 있다고 덧붙였다.
일반 사용자에게 중요한 이유
이미지나 영상, 오디오가 AI로 만들어졌는지 확인하려는 사람은 SynthID를 통해 한곳에서 간편하게 검사할 수 있다. 하루 이용 한도 내에서 일반 사용자도 별도 소프트웨어 없이 빠르게 진위 여부를 가늠해 볼 수 있다. 다만 탐지 범위와 기능에 한계가 있으므로, 특히 잘 알려지지 않은 출처의 콘텐츠를 확인할 때는 이 도구만 믿어서는 안 된다.
왜 중요한가
일반 사용자도 별도 소프트웨어를 설치하지 않고 하루에 몇 개의 AI 생성 미디어가 어디서 왔는지 확인할 수 있게 됐다. 이용 횟수가 제한되고 세 업체의 콘텐츠만 다루는 만큼 유용한 첫 단계로 활용하되, 다른 AI 서비스에서 나온 콘텐츠는 주의해서 살펴야 한다.
