Локальный ассистент для Zoom: интеграция NVIDIA Nemotron 3 для ускорения диаризации

Автор продолжает цикл статей о создании локального ассистента для видеоконференций, фокусируясь на оптимизации процесса диаризации — разделения аудиопотока на реплики конкретных участников. Ранее для обработки двадцатиминутного звонка требовалось около семи минут с использованием связки sherpa-onnx и собственного алгоритма. Ситуация изменилась после выхода модели NVIDIA Nemotron 3 Diarization 23 сентября. Автор интегрировал новую модель в свою систему, что позволило сократить время обработки аналогичного аудиофайла до трех секунд. Этот значительный прирост производительности стал решающим фактором для замены текущего стека технологий. Статья подчеркивает важность оперативного внедрения передовых AI-решений для улучшения пользовательского опыта в задачах автоматической транскрибации и анализа встреч.