Apple и Meta сотрудничают для запуска модели Muse Spark Open на Mac Studio

Apple и Meta объявили о техническом сотрудничестве, позволяющем запускать новую ИИ-модель Meta Muse Spark Open с 816 миллиардами параметров локально на оборудовании Apple. Проект использует два соединенных Mac Studio на базе M5 Ultra, каждый из которых оснащен 512 ГБ объединенной памяти, для работы в качестве высокопроизводительного вычислительного кластера через фреймворк машинного обучения Apple MLX. Эта модель с открытыми весами предназначена для решения сложных задач, включая многошаговое рассуждение, программирование и агентные рабочие процессы. Запуская модель локально, компании стремятся решить проблемы конфиденциальности, поскольку Meta не имеет доступа к тому, как разработчики используют модель в своих системах. Хотя Muse Spark Open представляет собой значительный прогресс для локальной обработки ИИ, аппаратные требования в настоящее время ограничивают ее использование профессиональными настольными станциями, а не стандартными ноутбуками. Модель и необходимый адаптер MLX уже доступны разработчикам на GitHub.