Обычно ИИ реагирует на запрос. Теперь Meta AI пойдёт дальше: если подросток в чате заговорит о суициде или самоповреждении, система сама сообщит об этом родителям. Это расширяет существующие меры, при которых ИИ лишь направлял к горячим линиям и поощрял обратиться к взрослым.
Для этого Meta разработала специализированную ИИ-систему совместно с экспертами. Обнаруженные ею чаты проходят ручную проверку, прежде чем оповещение будет отправлено. Компания заявляет, что будет «действовать осторожно» и оповещать родителей даже при неясных намерениях, что может приводить к ложным срабатываниям.
Новая функция уже работает для родителей, использующих родительский контроль в Instagram в США, Великобритании, Австралии и Канаде. К концу года она станет доступна по всему миру.
Помимо оповещений родителей, Meta также внедряет возможность обращения в экстренные службы, если разговор с Meta AI (как подростка, так и взрослого) указывает на неминуемый риск самоубийства. В 2025 году Meta уже передала правоохранительным органам более 19 000 таких обращений, обнаруженных в постах Facebook и Instagram.
В контексте индустрии Meta не первая, кто внедряет подобные меры. Google ранее добавила в Gemini защитные функции, направляющие пользователей к горячим линиям по психическому здоровью и выделила $30 млн на их поддержку. Однако Meta делает шаг дальше, переходя к проактивному оповещению родителей.
Технически, ИИ способен распознавать тонкие сигналы бедствия. Исследования показывают, что большие языковые модели (LLM) эффективны в определении рисков суицида и кризиса. Для улучшения ответов Meta AI привлекла более 75 клиницистов, специализирующихся на психическом здоровье подростков, которые оценили сотни ответов ИИ и дали рекомендации.
Meta делает ставку на безопасность, но цена — более глубокое проникновение ИИ в личное пространство подростков. Этот шаг усиливает уже существующий родительский контроль, но поднимает новые вопросы о границах мониторинга в частных беседах.