Локальный ассистент для Zoom: опыт внедрения NLI-моделей

Автор продолжает серию статей о разработке локального ассистента для видеоконференций. В десятой части рассматривается практический опыт внедрения моделей NLI (Natural Language Inference) для анализа контекста встреч. Основная проблема, которую решает автор — неспособность стандартных эмбеддингов различать фразы с противоположным смыслом, например, «бюджет согласован» и «бюджет не согласован». В статье подробно описывается трехмесячный опыт эксплуатации NLI-модели в проекте «Чароит»: где она показала высокую эффективность, а где от её использования пришлось отказаться из-за технических ограничений или нецелесообразности. Автор анализирует стоимость внедрения таких решений и делится выводами о том, как правильно интегрировать логический вывод в системы обработки речи для повышения точности понимания намерений участников встречи.