Пациентские данные — самая чувствительная информация, и работать с ней ИИ до сих пор мог только под строгим контролем. Теперь OpenAI открывает ChatGPT доступ к электронным медицинским картам (EHR) и другим отраслевым данным, обещая врачам безопасный доступ к контексту пациента и медицинским исследованиям.
Новая функция ChatGPT позволяет медицинским организациям подключать к модели свои внутренние массивы информации. Это должно помочь врачам безопасно получать доступ к полному контексту пациента, проводить медицинские исследования и работать с другими чувствительными данными, упрощая рутинные задачи.
OpenAI подчёркивает, что их модель Astra стала первой, преодолевшей порог «Критической кибербезопасности» в рамках внутренней системы Preparedness Framework. Для её выпуска были применены усиленные меры безопасности.
Выход OpenAI на рынок здравоохранения, оцениваемый в $868 млрд, ставит её в один ряд с крупными облачными провайдерами, которые уже предлагают решения для работы с чувствительными медицинскими данными. Например, Google Vertex AI давно предоставляет инструменты для обеспечения соответствия стандарту HIPAA (Закон о переносимости и подотчётности медицинского страхования), включая конфигурирование сетевых периметров (VPC-SC), шифрование данных собственными ключами (CMEK), строгий контроль доступа (IAM) и ведение аудиторских логов.
Однако эксперты уже выражают серьёзные опасения по поводу этой интеграции. Издание Built In отмечает, что, хотя ChatGPT не является врачом, люди будут использовать его именно так. Модель, разработанная для авторитетного тона, в условиях дефицита доступа к медицинской помощи может стать источником предвзятости и дезинформации. Врачи указывают на риски отсутствия клинического надзора, потенциальной предвзятости алгоритмов и возможности использования ИИ для самодиагностики, что может привести к серьёзным последствиям.
Интеграция ChatGPT с медицинскими данными открывает для OpenAI колоссальный рынок, но одновременно выводит на первый план сложные этические и практические вопросы. Технические меры безопасности, такие как Preparedness Framework, критически важны, однако реальный вызов заключается в управлении тем, как пользователи — как врачи, так и пациенты — будут взаимодействовать с ИИ, который может быть воспринят как авторитетный источник. Без чётких барьеров и постоянного надзора риск искажения информации и потенциального вреда остаётся высоким.