Освоение локального ИИ: захватывающий, сложный и порой разочаровывающий опыт

The Verge исследует растущую тенденцию запуска моделей искусственного интеллекта локально, отказываясь от облачных сервисов ради защиты личных данных. Автор описывает свой путь настройки и экспериментов с мощными моделями с открытым исходным кодом, такими как Hermes и Qwen, на Mac Studio. Хотя использование ИИ локально обеспечивает значительные преимущества в плане конфиденциальности, процесс сопряжен с крутой кривой обучения. В статье подчеркивается контраст между восторгом от доступа к передовым возможностям и техническими трудностями, возникающими при настройке и оптимизации. Тестирование этих моделей на потребительском оборудовании дает реалистичное представление о текущем состоянии локального ИИ, подчеркивая, что, несмотря на растущую доступность, технология все еще требует определенного уровня технического терпения и навыков устранения неполадок, что может оказаться непростой задачей для обычного пользователя.