Эксперт сравнил стоимость рабочей станции AMD Radeon AI PRO R9700 с облачными AI-сервисами

Недавний анализ Puget Systems оценивает экономическую эффективность локального запуска ИИ-инференса с использованием рабочей станции с двумя GPU AMD Radeon AI PRO R9700 по сравнению с облачными моделями подписки. Система стоимостью $18 775 с общим объемом видеопамяти 64 ГБ показала, что интенсивное использование ИИ может значительно сократить операционные расходы. Благодаря технологии Multi-Token Prediction система достигла пропускной способности 320,2 токена в секунду, что позволило ей превзойти по стоимости такие дорогие облачные сервисы, как GPT-5.6 Sol, всего после 3,5 часов использования в неделю. Однако исследование отмечает, что локальное оборудование менее эффективно для легких нагрузок или более дешевых моделей, таких как GPT-5.6 Luna. Хотя локальные установки предлагают существенную экономию для активных пользователей, они могут уступать в качестве логических рассуждений топовым облачным моделям. Результаты показывают, что компаниям необходимо балансировать инвестиции в инфраструктуру с требованиями к производительности, чтобы определить, дает ли локальное ИИ-оборудование реальное финансовое преимущество.