Большинство инженеров по умолчанию используют самые и дорогие модели для генерации медиа, чтобы не проиграть в качестве. Этот подход гарантирует результат, но сильно бьёт по бюджету. Runway выпустила Model Router, который позволяет сократить расходы до 66% при сохранении 95% пригодного качества топовых моделей.
Model Router — это сервис на платформе Runway Dev, который автоматически подбирает оптимальную модель для каждой задачи генерации медиа. Вместо того чтобы вручную выбирать модель, инженеры задают свои предпочтения по стоимости, качеству или задержке, а роутер сам находит подходящий вариант. Он анализирует входящие запросы и свои конфигурации, используя бенчмарки Runway по производительности моделей.
Runway провела эксперимент, сравнив работу роутера с базовой топовой моделью (Seedance 2.5). Тест включал 250 подсказок для преобразования изображения в видео, разделённых на 10 категорий, от человеческих действий до абстрактных эффектов. Оценка результатов проводилась вслепую, с применением статистического контроля.
Основные выводы исследования:
- Оптимизация по качеству с лимитом $1: Эта конфигурация сократила расходы на 66%, сохранив 74% пригодного качества, что составляет 95% от базового уровня топовой модели.
- Оптимизация по качеству без лимита: Даёт почти идентичное качество (77% против 78% у базовой модели) при экономии 29% за счёт перенаправления простых запросов на более дешёвые модели.
- Оптимизация по стоимости: Снижает затраты на 83%, но пригодное качество падает до 38%. Такая настройка подходит для ранних этапов работы, например, для мозгового штурма.
Runway отмечает, что привычка использовать топовые модели для всех запросов часто приводит к избыточным тратам. Для многих повседневных задач достаточно моделей среднего уровня, которые проходят проверку качества без высокой цены. Автоматическая маршрутизация избавляет команды от необходимости тратить время на постоянную оценку новых моделей.
Runway Model Router переводит выбор модели из ручной и затратной задачи в автоматизированный процесс, где приоритет отдаётся не максимальной мощности, а оптимальному соотношению цены и качества. Результаты выглядят убедительно, но независимых подтверждений заявленных цифр пока нет.