Большинство больших языковых моделей (LLM) предлагают контекст до 200 тысяч токенов. MoonshotAI выпустила Kimi K3.1 Pro с окном в 1 миллион токенов, которая теперь доступна через платформу OpenRouter, открывая новые возможности для обработки огромных объемов данных.
Ключевая особенность Kimi K3.1 Pro — контекстное окно размером 1 048 576 токенов. Это ставит её в один ряд с Gemini 1.5 Pro как одной из немногих моделей с таким объемом. Модель способна принимать на вход текст, изображения и видео, генерируя текстовый ответ.
Kimi K3.1 Pro демонстрирует прогресс в агентных задачах. Модель поднялась на 4-е место в индексе Artificial Analysis Intelligence Index, набрав 55 баллов, и показала лучшие результаты среди всех моделей в Terminal-Bench 4.0 (67% против 13% у Kimi K3). Уровень галлюцинаций снизился с 53% до 44%.
При этом MoonshotAI снизила стоимость токенов на 33% по сравнению с предыдущей версией Kimi K3. Новые расценки составляют $2/$10/$0.20 за 1 миллион входных/выходных/кэш-токенов соответственно, что делает модель более доступной для разработчиков.
Доступность Kimi K3.1 Pro на OpenRouter с её огромным контекстом и улучшенными агентными способностями создаёт инструмент для инженеров. Однако пока неясно, насколько эффективно модель решает проблему "потери информации в середине" для таких длинных контекстов, что является ключевым вызовом для всех моделей с миллионным окном.