Google DeepMind und die Government Technology Agency (GovTech) Singapurs haben ein Modell zur Betrugserkennung auf Smartphones veröffentlicht. Das Tool prüft eingehende Nachrichten direkt auf dem Gerät, erkennt verdächtige Gesprächsmuster und zeigt eine Warnung in Echtzeit an. Da die Analyse auf dem Smartphone bleibt, funktioniert das Modell auch mit Ende-zu-Ende-verschlüsselten Apps und überträgt keine privaten Daten in die Cloud.
So funktioniert das Modell
Das System arbeitet in zwei Stufen. Stufe 1 ist ein sehr schlanker Klassifikator, der jede eingehende Nachricht mit minimalem Akkuverbrauch prüft. Wirkt eine Nachricht riskant, analysiert Stufe 2 einen größeren Ausschnitt des Gesprächs mit einer speziell trainierten Version von DeepMinds leichtgewichtigem Gemma-Modell, um die Bedrohung zu bestätigen. Trainiert wurde das Modell mit anonymisierten lokalen Betrugsmeldungen, die keine persönlichen oder identifizierbaren Informationen enthielten.
Warum das für den Alltag wichtig ist
Betrugsfälle haben Singapur seit 2019 Verluste von mehr als S$4 Milliarden beschert und machen inzwischen bis zu 80 % aller Verluste durch Finanzkriminalität aus. Indem das Tool manipulative Nachrichten erkennt, bevor Nutzer darauf reagieren, soll es die Verluste senken und zugleich die Privatsphäre verschlüsselter Chats schützen.
Warum es wichtig ist
Für Nutzer in Singapur kann der Schutz direkt auf dem Gerät warnen, bevor sie einem Betrüger Geld oder persönliche Daten schicken, und sie so womöglich vor kostspieligem Betrug bewahren. Da die Analyse das Smartphone nie verlässt, bleibt der Datenschutz verschlüsselter Nachrichten erhalten. Wie stark das Tool die Betrugsverluste insgesamt senken kann, wird sich zeigen, sobald es eingeführt wird.
