Агентное кодирование — это не только умные модели, но и молниеносная скорость на каждом шаге. Именно это сочетание теперь доступно разработчикам: GroqCloud открыл ограниченный предварительный доступ к новой открытой модели Meta Muse Spark, созданной Meta специально для таких задач.
Meta Muse Spark — это модель, изначально разработанная для агентного кодирования. Она способна планировать, действовать, наблюдать и корректировать курс в течение длительных задач, координировать субагентов и использовать внешние инструменты. Модель имеет 816B общих параметров (с 42B активными на токен) и контекстное окно в 131 072 токена, что позволяет ей работать с крупными кодовыми базами, включая зависимости и устаревший код.
Главное преимущество Muse Spark на GroqCloud — это скорость инференса: более 350 токенов в секунду на пользователя. Для агентных задач, состоящих из десятков последовательных вызовов модели, такая производительность критически важна. Каждый шаг ожидает завершения предыдущего, что напрямую влияет на время ожидания конечного результата. Высокая скорость позволяет сократить циклы разработки.
Модель обучена на реальных рабочих процессах разработчиков, включая рефакторинг нескольких файлов, отладку и длительные задачи. Muse Spark поддерживает ввод текста и изображений с текстовым выводом, что позволяет ей понимать сложные запросы и генерировать подробные решения. Перед каждым действием модель пишет краткое заявление о намерении, чтобы разработчики могли отслеживать её логику и процесс рассуждений.
Интеграция Meta Muse Spark на GroqCloud подчёркивает растущую важность специализированных моделей и высокоскоростной инфраструктуры для реальных задач разработки, где итеративность и скорость выполнения шагов критичны. Однако не сообщается, сколько будет стоить использование данной модели на платформе GroqCloud.