Google DeepMind y la Agencia de Tecnología del Gobierno de Singapur (GovTech) han presentado un modelo para detectar estafas directamente en los smartphones. La herramienta analiza los mensajes entrantes en el dispositivo, identifica patrones sospechosos en las conversaciones y muestra una alerta en tiempo real. Como el análisis se realiza en el teléfono, funciona incluso con aplicaciones cifradas de extremo a extremo y no envía datos privados a la nube.
Cómo funciona el modelo
El sistema utiliza un proceso de dos etapas. En la primera, un clasificador muy ligero examina cada mensaje entrante con un consumo mínimo de batería. Si el mensaje parece arriesgado, en la segunda etapa se ejecuta una versión ajustada del modelo ligero Gemma de DeepMind sobre un fragmento más amplio de la conversación para confirmar la amenaza. El modelo se entrenó con denuncias locales de estafas anonimizadas, sin información personal ni identificable.
Por qué importa para los usuarios
Desde 2019, las estafas han causado pérdidas de más de S$4 billion en Singapur y ahora representan hasta el 80 % de todas las pérdidas por delitos financieros. Al detectar mensajes manipuladores antes de que los usuarios actúen, la herramienta busca reducir esas pérdidas y, a la vez, proteger la privacidad de los chats cifrados.
Por qué importa
Para un usuario habitual de Singapur, el detector integrado en el dispositivo puede avisarle antes de que envíe dinero o datos personales a un estafador y ayudarle a evitar pérdidas costosas. Como el análisis no sale del teléfono, se mantienen las garantías de privacidad de la mensajería cifrada. Queda por ver el efecto real de la herramienta en las pérdidas totales por estafas a medida que se extienda su uso.
