Новости Replicate
Платформа запуска и хостинга open-source ИИ-моделей через API (проект Cog).
13 материал(ов) · последние обновления
Replicate замедлилась из-за Hugging Face
Мелкие ошибки в настройках критически влияют на масштабирование, когда сервис зависит от внешнего хаба.
Replicate упёрся в потолок H100: модели стояли в очередях
Десять часов простоя показали, что даже крупные платформы уязвимы к дефициту топовых GPU.
Replicate сбоит: H100 GPU в дефиците, модели застряли в очередях
Дефицит GPU — проблема не новая, она бьёт по инференсу и обучению.
Дефицит H100 замедлил Replicate — очереди выросли
Даже провайдеры выделенных GPU сталкиваются с нехваткой ключевого железа, что напрямую бьёт по инженерам.
Replicate: H100 опять в дефиците
Сервис год назад анонсировал доступ к топовым GPU, но их хронически не хватает.
H100 снова в дефиците: Replicate не справляется со спросом
Спустя год после запуска H100 на платформе Replicate спрос всё ещё превышает предложение — это системная проблема всего рынка.
Replicate устранил очереди и задержки на кластерах L40S и H200
Конкуренция за модели замедляла запуски — теперь система работает штатно.
Cog v0.21.0-rc.2 закрывает тихий баг: `cog serve` наконец монтирует веса как `cog run`
В релиз-кандидате Cog v0.21.0-rc.2 исправлена ошибка, из-за которой cog serve не монтировал managed-веса в контейнер, хотя cog run делал это корректно — модели с весами падали при setup без очевидной причины.
Cog: потоки событий для предсказаний и новые предупреждения
Предварительный релиз Cog v0.21.0-rc.1 вводит Server-Sent Events для realtime-обновлений предсказаний, а также объявляет cog weights экспериментальным.
Снижение производительности flux-2-klein-4b
Наблюдалось снижение производительности модели flux-2-klein-4b, проблема была решена, и время ожидания вернулось к норме.
Agent skills для Replicate: учим ассистентов работать с моделями как про
Replicate представил Agent skills — набор инструкций в формате Markdown, который позволяет кодирующим ассистентам лучше понимать, как искать, сравнивать и запускать модели ИИ на платформе. Это шаг к тому, чтобы сделать…
**Разработчики предлагают несколько советов для получения наилучшего результата:**
Детально описывайте сцену. Вместо «автомобильная погоня» пишите «высокоскоростная ночная погоня по залитым дождём улиц Токио, неоновые отражения на мокром асфальте, фары прорезают туман». Описывайте не только…
Nano Banana Pro: обходит лимиты Google с резервной моделью
Генерация изображений с помощью nano-banana-pro теперь стала надежнее. Replicate представил механизм резервирования, который позволяет продолжить работу, даже если основной API Google достигнет своих лимитов. Это…