Google DeepMind и Сингапур научили модель ловить мошенников в переписке

Google DeepMind и государственное технологическое агентство Сингапура GovTech сделали модель, которая прямо на смартфоне читает переписку и предупреждает, если собеседник, похоже, выманивает деньги или данные. Проект 14 октября представила на Сингапурской международной неделе кибербезопасности (SICW) министр цифрового развития и информации Джозефин Тео.

Почему это важно: многие мессенджеры используют сквозное шифрование¹, поэтому проверять переписку на мошенничество на сервере нельзя. Новая модель ищет признаки обмана на самом телефоне, и сообщения никуда не уходят.

В цифрах: масштаб проблемы в Сингапуре:

• На мошенничество приходится больше половины преступлений, о которых сообщают в стране.
• С 2019 года жертвы потеряли больше 4 млрд сингапурских долларов.
• До 80% потерь дают схемы, где мошенник сначала долго убеждает жертву в переписке и только потом просит денег.

Как это работает: чтобы не разряжать батарею, проверка идёт в два этапа:

• Лёгкий классификатор² просматривает каждое входящее сообщение, почти не тратит заряд и отбирает подозрительные.
• Затем дообученная³ версия Gemma, открытой модели Google, читает больший кусок переписки и либо подтверждает угрозу, либо снимает ложную тревогу.
• Если угроза подтвердилась, на экране сразу появляется предупреждение: остановиться и не спешить отправлять деньги или личные данные.

Детали: модели общего назначения плохо узнают местные приёмы обмана, поэтому Gemma учили на сингапурском материале:

• В обучающих переписках мошенники выдают себя за госорганы, банки и известных в Сингапуре людей, есть и свежие схемы, популярные в регионе.
• Дообучение шло в изолированной среде Google Cloud, которой управляет GovTech, и обучающие данные оттуда не выходили.
• Личных данных граждан в обучении нет: модель учили на обезличенных заявлениях о мошенничестве и сводках об угрозах.
• Проверяли модель на искусственно созданных диалогах и местных наборах переписок с разными видами обмана.

Общая картина: модель сделана в рамках национального партнёрства по ИИ между Google и правительством Сингапура. В мае 2026 года его расширили на медицину, образование и безопасность.

Но: когда модель встроят в мессенджеры или телефоны и насколько точно она ловит мошенников, не сообщается. Google DeepMind предлагает встраивать её самим мессенджерам и разработчикам операционных систем.

Так уже было: в марте 2025 года Google встроила похожую проверку в Google Messages на Android: модель на телефоне ищет признаки мошенничества в переписке с теми, кого нет в контактах. Сначала функция появилась только на английском языке — в США, Великобритании и Канаде.