Google DeepMind e la Government Technology Agency (GovTech) di Singapore hanno lanciato un modello per rilevare le truffe direttamente sugli smartphone. Lo strumento analizza i messaggi in arrivo sul dispositivo, individua schemi conversazionali sospetti e mostra un avviso in tempo reale. Poiché l’analisi resta sul telefono, funziona anche con le app che usano la crittografia end-to-end e non invia dati privati al cloud.
Come funziona il modello
Il sistema usa una procedura in due fasi. La fase 1 è un classificatore molto leggero, che esamina ogni messaggio in arrivo consumando poca batteria. Se un messaggio sembra rischioso, nella fase 2 viene eseguita una versione ottimizzata del modello leggero Gemma di DeepMind su un estratto più ampio della conversazione, per confermare la minaccia. Il modello è stato addestrato su segnalazioni locali di truffe anonimizzate, prive di informazioni personali o identificative.
Perché è importante per gli utenti
Dal 2019 le truffe hanno causato perdite per oltre S$4 miliardi a Singapore e rappresentano ormai fino all’80 % delle perdite dovute a reati finanziari. Individuando i messaggi manipolatori prima che gli utenti agiscano, lo strumento punta a ridurre queste perdite tutelando al contempo la privacy delle chat cifrate.
Perché conta
Per un utente comune a Singapore, il rilevatore sul dispositivo può lanciare un avviso prima che invii denaro o dati personali a un truffatore, aiutandolo potenzialmente a evitare perdite ingenti. Poiché l’analisi non lascia mai il telefono, gli utenti mantengono le garanzie di privacy offerte dalla messaggistica cifrata. Resta da vedere quale sarà l’impatto complessivo sulle perdite dovute alle truffe quando lo strumento verrà distribuito.
