Локальный ассистент для зумов, часть 4: что происходит после кнопки Стоп

В четвертой части цикла статей о разработке локального ассистента для видеозвонков автор анализирует процессы, происходящие после завершения записи. Основное внимание уделено проблеме «второго прохода» обработки данных: облачная ревизия выявила критические ошибки локальной модели, такие как ложные поручения и неверная интерпретация контекста. Автор подробно описывает, как удалось оптимизировать систему, чтобы вторая модель эффективно корректировала результаты первой, предотвращая попадание некорректных фактов в базу знаний. Статья также затрагивает вопросы стоимости аудита кода с использованием двух моделей, который обошелся в 79 центов, и объясняет причины отказа от использования второй памяти. Этот опыт демонстрирует сложности интеграции LLM в реальные рабочие процессы, где точность обработки транскриптов критически важна для автоматизации задач и ведения протоколов встреч.