Google DeepMind en GovTech Singapore (de Government Technology Agency) hebben een model voor scamdetectie op smartphones uitgebracht. De tool scant binnenkomende berichten lokaal, herkent verdachte gesprekspatronen en geeft in realtime een waarschuwing. Omdat de analyse op de telefoon blijft, werkt de tool ook met apps die end-to-endversleuteling gebruiken en worden privégegevens niet naar de cloud gestuurd.
Hoe het model werkt
Het systeem werkt in twee stappen. In stap 1 controleert een zeer lichte classifier elk binnenkomend bericht en verbruikt daarbij minimaal batterijvermogen. Lijkt een bericht riskant, dan analyseert stap 2 een groter fragment van het gesprek met een verfijnde versie van DeepMinds lichte Gemma-model, om de dreiging te bevestigen. Het model is getraind met geanonimiseerde lokale scamrapporten, zonder persoonlijke of identificeerbare informatie.
Wat dit betekent voor gebruikers
Sinds 2019 hebben scams in Singapore meer dan S$4 miljard aan verliezen veroorzaakt. Inmiddels zijn ze goed voor maximaal 80 % van alle verliezen door financiële criminaliteit. Door manipulatieve berichten op te sporen voordat gebruikers erop reageren, moet de tool die verliezen helpen beperken en tegelijk de privacy van versleutelde chats beschermen.
Waarom het ertoe doet
Voor een doorsnee gebruiker in Singapore kan de detectietool op de telefoon waarschuwen voordat die geld of persoonlijke gegevens naar een oplichter stuurt, en zo mogelijk kostbare scams voorkomen. Doordat de analyse de telefoon niet verlaat, blijven de privacywaarborgen van versleutelde berichtenapps intact. Het valt nog te bezien wat de tool bij de uitrol doet voor de totale scamverliezen.
