Долгое время компактные мультиязычные модели страдали либо от ограниченного числа языков, либо от низкого качества работы, особенно в редких диалектах. Cohere Labs представила семейство моделей Tiny Aya, которое, несмотря на скромный размер, поддерживает более 70 языков и умеет рассуждать на языке пользователя.
Ключевая особенность Tiny Aya — это способность не просто отвечать, но и рассуждать на родном языке пользователя в 60 языках. Это достигается за счет смешивания данных в варианте L2-Thinker. Такая возможность критически важна для сложных задач, требующих глубокого понимания контекста, а не только поверхностного перевода.
Модель Tiny Aya, имея 3.35 миллиарда параметров, оптимизирована для работы на мобильных устройствах. После 4-битной квантизации (уменьшения точности данных) она занимает всего 2.14 ГБ и обрабатывает до 10 токенов в секунду на iPhone 13, сохраняя при этом высокую производительность и работая полностью офлайн.
Tiny Aya улучшает поддержку малоресурсных языков, превосходя конкурентов. В тестах на математическое рассуждение для африканских языков она показала 39.2%, тогда как Gemini3-4B — 17.6%, а Qwen3-4B — 6.25%. Это стало возможным благодаря сочетанию общей мультиязычной основы с региональными специализированными вариантами и использованию дистилляции (обучения) от более крупных учительских моделей.
Tiny Aya демонстрирует, что для создания высокоэффективных мультиязычных моделей для локального использования не всегда требуются огромные вычислительные ресурсы, если правильно подойти к сбору и смешиванию данных. Однако Cohere не предоставила подробных сравнительных бенчмарков по всем 70+ языкам, особенно для тех, что считаются "малоресурсными".