Google DeepMind och Singapores myndighet för digital teknik, GovTech, har lanserat en modell för att upptäcka bedrägerier direkt i smarttelefoner. Verktyget analyserar inkommande meddelanden lokalt, känner igen misstänkta samtalsmönster och visar en varning i realtid. Eftersom analysen sker på telefonen fungerar det även med appar som har totalsträckskryptering, och inga privata uppgifter skickas till molnet.
Så fungerar modellen
Systemet använder en process i två steg. I steg 1 granskar en mycket lättviktig klassificerare varje inkommande meddelande och använder minimalt med batteri. Om ett meddelande verkar riskabelt körs steg 2: en finjusterad version av DeepMinds lättviktiga Gemma-modell analyserar ett längre utdrag ur konversationen för att bekräfta hotet. Modellen tränades på anonymiserade lokala bedrägerirapporter utan personliga eller identifierande uppgifter.
Därför spelar det roll för användarna
Bedrägerier har orsakat förluster på mer än S$4 billion i Singapore sedan 2019 och står nu för upp till 80 % av de samlade förlusterna till följd av ekonomisk brottslighet. Genom att upptäcka manipulativa meddelanden innan användarna agerar ska verktyget bidra till att minska förlusterna och samtidigt skydda privatlivet i krypterade chattar.
Varför det spelar roll
För användare i Singapore kan detektorn varna innan de skickar pengar eller personuppgifter till en bedragare och därmed kanske hindra dem från att drabbas av kostsamma bedrägerier. Eftersom analysen aldrig lämnar telefonen bevaras integritetsskyddet i krypterade meddelandetjänster. Det återstår att se hur mycket verktyget påverkar de totala bedrägeriförlusterna när det börjar införas.
