Речевая аналитика на домашнем «чайнике»

Автор статьи делится опытом создания локального пайплайна для анализа телефонных звонков, используя возможности одной игровой видеокарты. В материале рассматривается техническая реализация системы, способной обрабатывать аудиопотоки без отправки данных в облачные сервисы. Особое внимание уделяется вопросу использования LLM (больших языковых моделей) в задачах, где классическое распознавание речи «кто что сказал» отходит на второй план по сравнению с извлечением смысловых сущностей и анализом контекста диалога. Автор подробно описывает архитектуру решения, выбор инструментов и оптимизацию вычислительных ресурсов для работы на домашнем оборудовании. Статья будет полезна разработчикам, интересующимся вопросами MLOps, локальной обработки аудио и внедрением нейросетевых решений в прикладные задачи анализа коммуникаций.