ИИ-стартапы, чтобы получить доступ к GPU, часто вынуждены тратить миллионы долларов на долгосрочные контракты ещё до запуска продукта. Этот барьер теперь снимают Together AI и Y Combinator: они запустили выделенный кластер, который предоставляет стартапам YC гибкие вычислительные ресурсы.
До недавнего времени запуск GPU-инстансов был простой задачей. Сегодня, с ростом качества моделей и ценности каждого токена, обеспечение достаточной вычислительной мощности стало одной из сложнейших проблем для молодых компаний. Многим стартапам приходится выбирать: либо привлекать дополнительные инвестиции специально под двухлетние контракты на GPU, либо оставаться без ресурсов для конкуренции.
Партнерство Together AI и Y Combinator призвано решить эту проблему. Вместо долгосрочных обязательств, стартапы YC могут использовать GPU для краткосрочных задач, получая при этом тарифы, сравнимые с долгосрочными. Кластер поддерживает широкий спектр потребностей: от однонодовых вычислений до масштабирования по мере роста.
Доступ к ресурсам осуществляется через самообслуживаемый портал Together AI, где основатели могут резервировать, выделять и управлять своими GPU. Вычислительные мощности готовы к работе за считанные минуты. Кластер, работающий на Kubernetes с поддержкой Slurm, уже используется на полную мощность, но компании могут планировать свои потребности на месяцы вперед. Кроме того, стартапы получают доступ к опыту инженеров и исследователей Together AI.
Together AI, недавно привлекшая $800 млн в рамках Series C, накопила 500 МВт вычислительной мощности и обслуживает более 8000 клиентов. Компания специализируется на оптимизации инференса и юнит-экономики вычислений. В отличие от программ, предлагающих гранты или кредиты на GPU (как, например, CoreWeave), партнерство с YC создает выделенную инфраструктуру, позволяющую стартапам более гибко управлять расходами без привязки к конкретным суммам кредитов.
Это партнерство меняет подход к обеспечению вычислительными ресурсами для развивающихся ИИ-компаний. Вместо того чтобы тратить время и капитал на инфраструктуру, стартапы могут сосредоточиться на разработке продукта. Вопрос в том, насколько быстро Together AI и YC смогут масштабировать кластер, чтобы удовлетворить растущий спрос со стороны новых поколений компаний.