Запустить модель локально на устройствах Apple — задача нетривиальная из-за особенностей платформы и разрозненности инструментов. Hugging Face делает шаг навстречу разработчикам: компания наняла Джуна Кима, создателя и главного разработчика oMLX, фреймворка для локального ИИ, оптимизированного под Apple Silicon.
Джун Ким, создатель и мейнтейнер oMLX, теперь присоединился к Hugging Face. Его задача — усилить поддержку сообщества MLX, фреймворка Apple для локального ИИ, оптимизированного под чипы Apple Silicon. Hugging Face заявляет о полной приверженности локальному ИИ, считая MLX центральным элементом этой экосистемы.
Для самого oMLX это означает стабильность и ускорение разработки. Проект перестанет быть сайд-работой и получит полноценное финансирование и поддержку, что позволит Джуну Киму лучше направлять вкладчиков и строить долгосрочные планы. OMLX останется под лицензией Apache 2.0, а Джун сохранит за собой лидерство. Проект будет служить тестовой площадкой для новых идей, опираясь на существующие библиотеки вроде mlx-lm и mlx-vlm.
Hugging Face стремится снять барьеры для сообщества, чтобы локальный ИИ можно было запускать в любом виде, предоставляя необходимые инструменты и строительные блоки. В компании считают, что сильные библиотеки для моделирования и инференса принесут пользу сообществу, поэтому планируется углублять сотрудничество с такими проектами, как mlx-lm, mlx-vlm и LMStudio.
Одна из конкретных целей — ускорить переход от определений моделей из библиотеки Transformers к референсным реализациям MLX. Поскольку Transformers стал стандартом для описания моделей машинного обучения, Hugging Face хочет максимально упростить запуск новых моделей Transformers на MLX.
Этот шаг подчеркивает стратегическую ставку Hugging Face на развитие локального ИИ, особенно на Apple Silicon. Интеграция ключевого разработчика MLX и фокус на упрощении переноса моделей из transformers означает, что платформа стремится стать центральным узлом для всех, кто хочет использовать ИИ на устройствах Apple без лишних сложностей.