PPU Zhenwu 810E от Alibaba: как китайский AI-ускоритель справляется с LLM

В своей новой статье MLOps-инженер компании Selectel Дмитрий проводит детальный обзор и тестирование китайского AI-ускорителя Zhenwu 810E от Alibaba Group. В условиях стремительного развития рынка специализированных вычислительных устройств, автор задается целью оценить реальную производительность данного чипа при работе с большими языковыми моделями (LLM). Основное внимание уделяется применимости ускорителя в стандартных сценариях инференса, таких как использование в качестве узла для облачного Kubernetes или работа в составе выделенного сервера. Статья подробно описывает процесс тестирования, технические особенности устройства и потенциал его интеграции в современную облачную инфраструктуру. Этот материал будет полезен специалистам, интересующимся альтернативными решениями для задач машинного обучения и развитием китайского рынка полупроводников.