Google DeepMindとシンガポール政府技術庁（GovTech）は、スマートフォン向けの端末内詐欺検知モデルを公開した。このツールは受信メッセージを端末上でスキャンし、疑わしい会話のパターンを検知すると、リアルタイムで警告を表示する。分析は端末内で完結するため、エンドツーエンド暗号化アプリでも機能し、個人データがクラウドに送信されることはない。
モデルの仕組み
このシステムは2段階の処理を採用している。第1段階では、ごく少ないバッテリー消費で受信メッセージをふるいにかける軽量分類器が働く。メッセージにリスクがあると判断された場合、第2段階として、DeepMindの軽量モデルGemmaを追加学習したバージョンが会話のより長い部分を分析し、脅威を確認する。モデルは、個人情報や個人を特定できる情報を含まない、匿名化された現地の詐欺報告データで学習された。
日常のユーザーにとっての意義
シンガポールでは2019年以降、詐欺による被害額がS$4 billionを超え、現在では金融犯罪による損失の最大80 %を占めている。ユーザーが行動を起こす前に、人を巧みに操るメッセージを検知することで、暗号化されたチャットのプライバシーを保ちながら、被害の軽減を目指す。
なぜ重要か
シンガポールの一般ユーザーは、詐欺師に送金したり個人情報を渡したりする前に、端末内検知機能から警告を受けられるため、高額な詐欺被害を防げる可能性がある。分析データが端末の外に出ないので、暗号化メッセージのプライバシーも保たれる。導入が進むなかで、詐欺被害全体の減少にどれほどつながるかは、まだ分からない。
