딥브레인AI가 인물 도용, 유해 콘텐츠 생성 유도 입력, 딥페이크 위험을 검사하는 ‘AI Guard’를 개발해 기업과 공공기관에 공급하기 시작했다. 이 엔진은 생성 요청의 프롬프트와 참고 이미지를 먼저 살핀 뒤, 만들어진 이미지와 영상도 다시 검사한다.
판정 과정에서 오류가 나거나 처리 시간이 초과되면 요청을 자동 차단한다. 딥브레인AI는 2025년 10월 외부 시험에서 합성 여부 판별 정확도 96%를 기록했다고 밝혔다. 이 수치는 해당 시험 조건의 결과이며, 모든 딥페이크나 실제 서비스에서 같은 성능을 보장하지는 않는다. 고객사 GPU에서 구동해 검사 데이터를 외부 서비스로 보내지 않는 구성도 가능하다.
왜 중요한가
자체 GPU 운영이 필요한 기업과 공공기관은 외부 AI API에 검사 데이터를 보내지 않는 구성을 검토할 수 있지만, 도입 비용과 실제 환경에서의 성능은 공개되지 않았다.
