Npunlock: Запуск пользовательских ядер C на NPU Intel

Npunlock — это новый проект с открытым исходным кодом, который позволяет разработчикам выполнять пользовательские ядра C на нейронных процессорах (NPU) Intel. Обходя стандартные ограничения драйверов, этот инструмент предоставляет механизм для низкоуровневого взаимодействия с оборудованием NPU, позволяя выполнять специализированные вычислительные задачи, выходящие за рамки стандартных нагрузок AI-инференса. Проект предназначен для разработчиков, стремящихся оптимизировать производительность путем написания специализированных ядер, работающих непосредственно на кремнии NPU. Обеспечивая мост между стандартным кодом C и проприетарной архитектурой NPU, Npunlock открывает новые возможности для исследований, тестирования производительности и пользовательского ускорения. Инструмент в настоящее время доступен на GitHub и предназначен для продвинутых пользователей, знакомых с программированием на уровне оборудования и взаимодействием с драйверами. Этот релиз является важным шагом для сообщества open-source в получении лучшего контроля над современным интегрированным оборудованием для ИИ, что потенциально может привести к более эффективному и гибкому развертыванию пользовательских операций нейронных сетей.