Социальная инженерия в личных чатах — новая головная боль для миллионов, и только Сингапур с 2019 года потерял на ней более 4 миллиардов сингапурских долларов. В ответ Google DeepMind вместе с правительством страны запустила новый инструмент: ИИ, который обнаруживает мошенничество прямо на смартфоне, не отправляя данные в облако.
Ключевая особенность решения — обработка всех данных на устройстве с помощью легковесных моделей Gemma. Это позволяет анализировать даже зашифрованные чаты и выявлять манипулятивные паттерны без компрометации личных данных. Традиционные облачные системы не могут получить доступ к таким разговорам, что делает их бессильными перед этим типом мошенничества.
Модель Gemma была специально дообучена на местных сингапурских мошеннических схемах, включая имитацию госучреждений и банков. Это позволяет ей эффективно отличать безобидное общение от реальных угроз. Для сохранения заряда батареи используется двухэтапный конвейер: сначала легкий классификатор проверяет входящие сообщения, используя минимум энергии, а затем более глубокий анализ контекста подтверждает угрозу или отсеивает ложное срабатывание.
При обнаружении подозрительных паттернов ИИ выдает пользователю предупреждение прямо на устройстве. Это советует проявить осторожность перед передачей чувствительной информации или средств, предоставляя возможность действовать до того, как произойдет финансовый ущерб.
Этот проект демонстрирует, как ИИ-модели могут быть адаптированы для решения острых социальных проблем, таких как мошенничество, при этом соблюдая строгие стандарты конфиденциальности. Однако не сообщается, когда и как широко этот инструмент будет доступен для граждан Сингапура, а также планируется ли его распространение за пределы страны.