Google DeepMind et l’Agence gouvernementale des technologies de Singapour (GovTech) ont lancé un modèle de détection des arnaques directement intégré aux smartphones. L’outil analyse les messages reçus sur l’appareil, repère les schémas conversationnels suspects et affiche une alerte en temps réel. L’analyse restant sur le téléphone, l’outil fonctionne même avec les applications à chiffrement de bout en bout et n’envoie aucune donnée privée dans le cloud.
Comment fonctionne le modèle
Le système repose sur un processus en deux étapes. La première est un classificateur très léger qui examine chaque message reçu en consommant un minimum de batterie. Si un message semble risqué, la deuxième étape utilise une version affinée du modèle léger Gemma de DeepMind pour analyser un extrait plus long de la conversation et confirmer la menace. Le modèle a été entraîné à partir de signalements locaux d’arnaques anonymisés, sans données personnelles ni informations permettant d’identifier qui que ce soit.
Pourquoi c’est important au quotidien
Depuis 2019, les arnaques ont entraîné plus de 4 milliards de S$ de pertes à Singapour et représentent désormais jusqu’à 80 % des pertes liées aux délits financiers. En repérant les messages manipulateurs avant que les utilisateurs n’agissent, l’outil vise à réduire ces pertes tout en préservant la confidentialité des conversations chiffrées.
Pourquoi c'est important
Pour un utilisateur ordinaire à Singapour, le détecteur intégré au téléphone peut l’avertir avant qu’il n’envoie de l’argent ou des informations personnelles à un escroc, et ainsi lui éviter potentiellement de lourdes pertes. Comme l’analyse ne quitte jamais le téléphone, la confidentialité des messageries chiffrées est préservée. L’effet réel de l’outil sur le montant total des pertes liées aux arnaques reste à mesurer à mesure que son déploiement progresse.
