Компании, активно использующие AI-агентов, сталкиваются с растущим вопросом: сколько они стоят и окупаются ли? OpenRouter представил панели Activity и бета-версию Analytics API, которые дают детальную прозрачность и контроль над расходами на ИИ.
Панель Activity и бета-версия Analytics API позволяют командам отслеживать расходы на ИИ на всех уровнях: по каждому агенту, приложению, пользователю, модели и отдельному запросу. Доступны следующие метрики:
- Расходы — общая сумма, разбивка по моделям, пользователям, приложениям, а также эффективность кэширования и средняя стоимость за миллион токенов.
- Активность — количество запросов, объем токенов (запроса, ответа, кэшированных) и динамика их использования.
- Производительность — задержка и пропускная способность, с разбивкой по процентилям P50/P90/P99.
Вся аналитическая информация доступна через бета-версию Analytics API. Это позволяет командам интегрировать данные в собственные дашборды. Также можно дать AI-агентам возможность самостоятельно анализировать и оптимизировать свои расходы с помощью специального skill openrouter-analytics.
Эти инструменты помогают быстро находить неэффективных агентов или модели, которые превышают среднюю стоимость. Это позволяет оперативно вносить изменения. OpenRouter сообщил о внутреннем кейсе: один preview-модель расходовал около $6.2K в месяц, что в 25 раз превышало среднюю ставку. Проблема была решена заменой модели одной строкой кода.
Панель Guardrails показывает, какие правила безопасности сработали, предотвращая инъекции или утечку чувствительных данных. Это позволяет отслеживать попытки ввода конфиденциальной информации и оценивать эффективность защитных механизмов.
Новые инструменты OpenRouter расширяют его функциональность от простого роутера моделей до платформы для управления операционной эффективностью и безопасностью AI-развертываний. Теперь компании могут не только использовать ИИ, но и детально контролировать связанные с ним расходы. OpenRouter не уточнил, будут ли дополнительные тарифы за использование расширенной аналитики.