Большинство больших языковых моделей с расширенным контекстом остаются платными, но OpenRouter сделал неожиданный ход. Модель Recursive: Flint с контекстным окном в 262144 токена теперь доступна на платформе совершенно бесплатно.
Ключевая особенность Flint — контекстное окно в 262144 токена. Это вдвое больше, чем у GPT-4 Turbo (128K токенов). Такой объём позволяет обрабатывать целые кодовые базы, сотни документов или длительные сессии агентов за один проход, без необходимости в сложных обходных путях вроде RAG (Retrieval Augmented Generation).
Модель Recursive: Flint имеет архитектуру Mixture-of-Experts (MoE) с 40 миллиардами общих параметров, из которых активируется всего 2.5 миллиарда на токен. Это делает её быстрой и эффективной. Изначально Flint была разработана для быстрого агентивного кодинга на локальном оборудовании и опережает MoE-модели до 50 миллиардов параметров в соответствующих бенчмарках.
Бесплатный доступ к такой модели на OpenRouter меняет правила для разработчиков. Он предоставляет инструмент, который по размеру контекста превосходит многие платные аналоги и позволяет экспериментировать с новыми сценариями использования без финансовых барьеров.
Выпуск Recursive: Flint бесплатно на OpenRouter демократизирует доступ к инструментам для работы с очень длинным контекстом, особенно для задач кодинга. Однако вендор не уточнил, будут ли какие-либо ограничения на использование бесплатной версии в будущем или для коммерческих проектов.