Google DeepMind와 싱가포르 정부기술청(GovTech)이 스마트폰용 기기 내 사기 탐지 모델을 출시했다. 이 도구는 수신 메시지를 기기에서 직접 분석해 의심스러운 대화 패턴을 찾아내고 실시간 경고를 표시한다. 분석이 휴대전화 안에서 이뤄지므로 종단간 암호화 앱에서도 작동하며, 개인정보를 클라우드로 전송하지 않는다.
모델 작동 방식
시스템은 2단계 처리 방식을 사용한다. 1단계에서는 매우 가벼운 분류기가 배터리를 거의 소모하지 않으면서 수신 메시지를 하나씩 살핀다. 메시지가 위험해 보이면 2단계에서 DeepMind의 경량 Gemma 모델을 미세 조정한 버전이 대화 내용 중 더 긴 부분을 분석해 위협 여부를 확인한다. 모델은 개인 정보나 신원을 식별할 수 있는 정보가 포함되지 않은 익명화된 현지 사기 신고 자료로 학습됐다.
일상 사용자에게 중요한 이유
2019년 이후 싱가포르에서 사기로 인한 피해액은 S$4 billion을 넘어섰으며, 사기는 이제 전체 금융 범죄 피해액의 최대 80 %를 차지한다. 이 도구는 사용자가 행동에 나서기 전에 조작된 메시지를 탐지해 피해를 줄이는 동시에 암호화된 대화의 개인정보를 보호하는 것을 목표로 한다.
왜 중요한가
싱가포르의 일반 사용자는 기기 내 탐지기를 통해 사기범에게 돈이나 개인정보를 보내기 전에 경고를 받을 수 있어, 큰 피해를 막을 가능성이 있다. 분석 내용이 휴대전화 밖으로 나가지 않으므로 암호화 메시지의 개인정보 보호도 유지된다. 이 도구가 보급되면서 전체 사기 피해액이 실제로 줄어들지는 지켜봐야 한다.
