Google DeepMind и Агентство государственных технологий Сингапура (GovTech) выпустили модель для обнаружения мошенничества, которая работает прямо на смартфонах. Она анализирует входящие сообщения на устройстве, выявляет подозрительные модели общения и выводит предупреждение в реальном времени. Поскольку анализ не покидает телефон, инструмент работает и с приложениями со сквозным шифрованием, не отправляя личные данные в облако.
Как работает модель
Система использует двухэтапную обработку. На первом этапе лёгкий классификатор проверяет каждое входящее сообщение, расходуя минимум заряда батареи. Если сообщение кажется подозрительным, на втором этапе запускается дообученная версия лёгкой модели Gemma от DeepMind, которая анализирует более крупный фрагмент переписки и подтверждает угрозу. Модель обучали на обезличенных местных сообщениях о мошенничестве, не содержащих личной или идентифицирующей информации.
Чем это полезно пользователям
С 2019 года мошенничество причинило Сингапуру убытки на сумму более S$4 billion и теперь составляет до 80 % всех потерь от финансовых преступлений. Выявляя манипулятивные сообщения до того, как пользователь на них отреагирует, инструмент призван сократить эти потери и при этом сохранить конфиденциальность переписки в зашифрованных чатах.
Почему это важно
Для обычного пользователя в Сингапуре детектор на устройстве может предупредить об опасности до того, как тот отправит мошеннику деньги или личные данные, и тем самым уберечь от серьёзных потерь. Поскольку анализ не покидает телефон, сохраняется конфиденциальность, обеспечиваемая шифрованием переписки. Насколько инструмент повлияет на общий уровень потерь от мошенничества, станет ясно по мере его внедрения.
