Выбор лучшей модели для генерации видео, изображений или аудио — это всегда компромисс между скоростью, ценой и качеством. Runway предлагает решить эту дилемму автоматически, представив новый инструмент — Model Router.
Runway внедрила Model Router в свой API. Он позволяет создавать сохранённые конфигурации маршрутизации для генерации контента. Система автоматически выбирает оптимальную модель для видео, изображений и аудио на основе заданных предпочтений.
Разработчику не нужно указывать конкретную модель. Достаточно передать configId и свои приоритеты: стоимость (cost), задержка (latency) или качество (quality). Это упрощает процесс разработки и снижает операционные издержки.
Среди дополнительных возможностей Model Router:
- Настраиваемые списки — разрешает или запрещает использование конкретных моделей.
- Лимиты кредитов — устанавливает отдельные ограничения для каждой модальности: видео, изображение, аудио.
- DryRun — позволяет предварительно просмотреть решение роутера перед реальной генерацией, не расходуя ресурсы.
Подобные решения уже есть на рынке. Например, Amazon Bedrock предлагает Intelligent Prompt Routing для больших языковых моделей (LLM), оптимизируя запросы по качеству и стоимости. Существуют и сторонние API-шлюзы вроде LiteLLM и Portkey, которые решают задачи маршрутизации для множества LLM-провайдеров.
Инструмент Runway следует общей тенденции в AI-индустрии, снимая с инженеров рутину выбора и управления моделями. Он позволяет сосредоточиться на творческой задаче, а не на технической оркестровке. Однако детали о том, какие именно модели доступны через Router и степень гибкости настройки их поведения, пока не раскрыты.