Один пациент, противоречивые документы: может ли ИИ сохранить доказательства?

Недавний эксперимент ChartReplay исследует проблемы использования больших языковых моделей (LLM) для ведения точных медицинских записей, основанных на источниках. Исследование подчеркивает критическую проблему: при извлечении данных из множества противоречивых документов ИИ часто пропускает утверждения или не сохраняет историю происхождения информации. Тестирование моделей, таких как GPT-6 и Claude Sonnet 5, показывает, что даже если итоговая запись выглядит корректной, лежащая в ее основе история может быть неполной, скрывая неразрешенные конфликты или устаревшие данные. Автор утверждает, что для надежности ИИ в клинических условиях системы должны поддерживать четкую и проверяемую связь между итоговой записью и исходными документами. Результаты показывают, что, хотя полная реконструкция записей может повысить точность, текущий подход «извлечение плюс реестр» часто не справляется с сохранением целостности истории пациента, что создает серьезные риски для принятия медицинских решений на основе данных.