Модели машинного перевода обычно требуют вычислительных ресурсов и облачных сервисов. Tencent Hunyuan выпустила семейство моделей Hy-MT2, которое меняет этот подход: благодаря глубокой оптимизации, их переводчик на 33 языка теперь способен работать локально на устройствах и даже обходит по качеству коммерческие API.
Tencent Hunyuan представила новую версию своей модели машинного перевода Hy-MT2-30B-A3B на Hugging Face. Это часть семейства Hy-MT2, которое включает три размера: 1.8B, 7B и 30B-A3B (MoE). Модели поддерживают перевод между 33 языками и эффективно следуют инструкциям.
Для развертывания на устройствах используется экстремальная квантизация AngelSlim 1.25-бит. Она уменьшает требования к хранилищу для модели 1.8B до 440 МБ и увеличивает скорость инференса в 1.5 раза. Модели доступны в формате GGUF на Hugging Face, что облегчает их локальное использование с такими инструментами, как llama.cpp.
Многомерные оценки показывают высокую производительность Hy-MT2. Модели 7B и 30B-A3B превосходят открытые аналоги, такие как DeepSeek-V4-Pro и Kimi K2.6, в режиме быстрого мышления. Легкая модель 1.8B обходит основные коммерческие API от Microsoft и Doubao.
Tencent также открыла исходный код IFMTBench — бенчмарка для оценки способности моделей следовать инструкциям по переводу. Для упрощения интеграции выпущен Hy-MT2-Translator Skill. Кроме того, Tencent Hy сотрудничает с WMT26 в рамках задач по машинному переводу и переводу субтитров видео.
Выпуск Hy-MT2 в формате GGUF с такой агрессивной квантизацией и заявленной производительностью открывает для разработчиков новые возможности для развертывания мультиязычного перевода прямо на устройствах, без зависимости от облака. Однако, хотя бенчмарк IFMTBench стал открытым, результаты сравнения с коммерческими API пока предоставлены самим Tencent, и независимые проверки еще предстоят.