Обычно роботы обрабатывают ИИ-задачи на встроенных GPU. Microsoft показала, что этот подход ограничивает производительность, сокращает срок службы батареи и мешает масштабировать системы. Компания предлагает перенести тяжёлые ИИ-вычисления с самого робота на периферийные или облачные GPU.
Microsoft оспаривает распространённое мнение в робототехнике: полагаться исключительно на встроенные GPU для ИИ-инференса (вывода модели) неэффективно. Исследование компании выявило, что такой подход снижает производительность, сокращает автономность и ограничивает внедрение крупных ИИ-моделей. Вынос вычислений на внешние GPU (периферийные или облачные) даёт преимущества.
Такой подход показал измеримые улучшения по нескольким направлениям:
- Успешность задач — повысился процент успешного выполнения задач.
- Размер моделей — стало возможно использовать более крупные и сложные ИИ-модели.
- Скорость реакции — роботы стали эффективнее реагировать в динамичных реальных условиях.
- Срок службы батареи — замена энергоёмких бортовых вычислений на лёгкое оборудование с удалённым инференсом продлевает время работы робота от одного заряда.
Для реализации этого Microsoft представила новую возможность в своём Physical AI Toolchain. С помощью инструментов на базе Kubernetes разработчики теперь могут упаковывать в контейнеры, развёртывать и оркестрировать ИИ-нагрузки для роботов. Это позволяет распределять вычисления между самими роботами, периферийной инфраструктурой и облаком.
Исследование сосредоточилось на мобильных роботах-манипуляторах, выполняющих такие задачи, как "проверка кухни на мусор и его утилизация". Оценивались модели для семантического картирования и планирования, навигации и манипуляции. Выгрузка инференса с робота улучшила время его реакции и точность. Например, на некоторых небольших GPU картирование и планирование замедлялись до 383% по сравнению с облачными A100.
В тот же период GitHub Copilot также представил локальную "песочницу" для своего приложения, которая помогает ограничить доступ ИИ-агента к файлам, сети и учётным данным на локальной машине, снижая риски непреднамеренных команд. Эта функция по умолчанию отключена и находится на стадии публичного предварительного просмотра.
Microsoft делает ставку на распределённые ИИ-вычисления для роботов, предлагая готовую платформу для развёртывания. Это открывает путь к более сложным и автономным системам, но переносит основную сложность с аппаратной части робота на инфраструктуру развёртывания и управления. Количественных данных о росте производительности или экономии для конкретных сценариев вне лабораторных условий пока нет.