Когда речь заходит о внедрении ИИ в крупный бизнес, большинство компаний выбирают проприетарные модели из-за их заявленной надёжности и производительности. Однако Together AI, IBM и NVIDIA делают ставку на открытые решения, объявив о запуске первого крупномасштабного кластера NVIDIA B300 GPU на IBM Cloud, который будет использоваться исключительно для инференса открытых моделей.
Новая инфраструктура создана для высокопроизводительного инференса: Together AI станет первым клиентом, использующим выделенный кластер NVIDIA B300 GPU на IBM Cloud. Он усилен сетевыми решениями NVIDIA Spectrum-X Ethernet и специально оптимизирован для задач инференса. Это первый такой кластер на IBM Cloud.
Партнерство нацелено на масштабирование открытого ИИ для корпораций. В рамках сотрудничества NVIDIA предоставляет чипы B300 и сетевые технологии, IBM — облачную инфраструктуру, а Together AI — платформу инференса. Цель — обеспечить надёжность, безопасность и управляемость, ожидаемые от корпоративных решений, но для открытых моделей.
Together AI утверждает, что открытые модели позволяют компаниям сохранять суверенитет над своими данными и предлагают производительность на уровне решений. При этом они дешевле по сравнению с проприетарными моделями, такими как OpenAI или AWS Bedrock, что становится особенно заметно при росте объёмов использования.
Это партнёрство подчеркивает растущий спрос на масштабируемые и надёжные решения для открытого ИИ в корпоративном сегменте, предлагая альтернативу доминирующим закрытым моделям. Однако, вендор не сообщил конкретных деталей ценообразования или доступности для сторонних компаний, кроме Together AI.