Обычно, когда искусственный интеллект обрабатывает данные, они должны быть расшифрованы. Это создаёт риск утечки чувствительной информации. Cohere запустила в Канаде сервис Model Vault с возможностью сохранять данные зашифрованными даже во время работы модели.
Model Vault — это управляемая среда для запуска моделей Cohere, которая обеспечивает полную изоляцию инфраструктуры для каждого клиента. Это позволяет компаниям получить полный контроль над своими ИИ-моделями, масштабировать рабочие нагрузки автоматически и сократить общую стоимость владения.
Ключевой особенностью сервиса является уровень Encrypted tier, который использует технологии конфиденциальных вычислений, такие как Intel TDX или AMD SEV-SNP, в сочетании с GPU NVIDIA, работающими в конфиденциальном режиме. Это защищает данные не только при хранении или передаче, но и во время активной обработки в памяти. Клиенты сохраняют ключи для дешифровки ответов, а сам Cohere, облачные провайдеры и операторы кластеров остаются вне защищённой среды исполнения.
Каждый вывод модели сопровождается отчётом об аттестации, подтверждающим безопасность оборудования, ПО и политик. Это даёт возможность убедиться, что данные обрабатывались в защищённом контуре.
Model Vault — это ответ на растущий спрос компаний на полную конфиденциальность при работе с ИИ. Однако Cohere пока не уточнила, как часто генерируются отчёты об аттестации — при каждом запросе или только при запуске системы.