Качественный машинный перевод на множество языков обычно требует облачного API. Теперь Cohere предлагает North Small Translate — открытую модель, которая переводит на 50 языков и позволяет разработчикам сохранить полный контроль над данными и инфраструктурой.
North Small Translate — это открытая модель машинного перевода, разработанная для поддержки 50 языков. Она даёт исследователям, разработчикам и предприятиям гибкие способы развёртывания и оценки машинного перевода, сохраняя при этом контроль над их данными и инфраструктурой.
В основе модели лежит Sparse Mixture-of-Experts (MoE) архитектура с 25 миллиардами активных параметров и 218 миллиардами общих параметров. Она оптимизирована специально для машинного перевода и поддерживает контекст длиной до 16 тысяч токенов как на входе, так и на выходе.
Cohere предлагает несколько вариантов квантования весов, чтобы модель можно было развернуть на различном оборудовании:
- BF16 (16-бит) — требует 4x B200 или 8x H100 GPU.
- FP8 (8-бит) — требует 2x B200 или 4x H100 GPU.
- NVFP4 W4A16 (4-битные веса) — требует 1x B200 или 2x H100 GPU. Минимальные рекомендованные требования для развёртывания — две H100 или одна B200 GPU.
Веса модели доступны на Hugging Face. Кроме того, North Small Translate доступна через бесплатный API Chat V2, а также через Model Vault для коммерческого использования. Cohere отмечает, что эти варианты квантования соответствуют тем, что компания использует в продакшене для данной модели.
Идея Transformer-архитектуры изначально возникла для улучшения Google Translate, и Cohere подчёркивает, что никогда не переставала думать о переводе.
North Small Translate даёт инженерам гибкость и контроль, предлагая инструмент перевода вне облачных ограничений. Это указывает на растущий тренд к открытым моделям, но Cohere сохраняет за собой контроль над коммерческим применением через лицензирование или Model Vault.