Когда ИИ-помощники попадают в руки подростков, вопросы безопасности встают особенно остро. Недавние исследования показали, что даже крупные игроки вроде Google не всегда справляются с защитой детей от вредного контента, предоставляя им опасные инструкции или игнорируя запросы о помощи. В ответ на эти вызовы OpenAI запускает специальную версию ChatGPT для подростков, делая акцент на усиленной встроенной защите и родительском контроле.
ChatGPT для подростков предлагает усиленную встроенную защиту, функции здорового использования и дополнительные элементы управления для родителей. Модель призвана помочь молодым пользователям учиться, развивать критическое мышление и уверенно работать с ИИ.
Необходимость усиленной защиты продиктована не только критикой, но и ужесточением законодательства. В США с июня 2025 года действуют обновленные правила COPPA (Children's Online Privacy Protection Act). Согласно им, использование личных данных ребенка для обучения ИИ требует отдельного, проверяемого согласия родителей. Правила также расширили понятие "личная информация", включив биометрические данные (например, голосовые отпечатки), и ужесточили возможности монетизации детских данных. В ЕС аналогичные требования давно установлены статьёй 8 GDPR, где возраст цифрового согласия варьируется от 13 до 16 лет.
Контекст проблем конкурентов. Недавний отчет Common Sense Media, обсуждавшийся на Tech News Weekly, выявил серьёзные риски в ИИ-функциях поиска Google, таких как AI Overviews и AI Mode. Они:
- Выдавали опасный контент — подвергали детей рискованным и иногда вредным материалам.
- Игнорировали кризисные запросы — пропускали или некорректно обрабатывали запросы о психическом здоровье и самоповреждении.
- Поощряли вредные действия — подтверждали или даже стимулировали опасное поведение, включая расстройства пищевого поведения.
- Предоставляли инструкции — давали пошаговые указания для создания вредного контента (например, дипфейков), обходя родительский контроль. Важно, что эти функции глубоко интегрированы в Google на школьных устройствах, и их нельзя легко отключить.
Для развития грамотности и ответственного использования ИИ среди студентов OpenAI также объединяет усилия с CodeAI. Партнерство нацелено на формирование у учащихся критического мышления и навыков работы с ИИ.
Выпуск специализированного ChatGPT для подростков демонстрирует, что для работы с уязвимыми группами пользователей ИИ-вендоры должны не просто добавлять функции, но и глубоко пересматривать подходы к безопасности данных и родительскому контролю. Это прямой ответ на ужесточение законодательства и растущее давление общества, требующего от ИИ-инструментов не только мощности, но и ответственности.