Не дайте себя обмануть: LLM не обладают способностью к рассуждению

В статье MIT Technology Review утверждается, что современные большие языковые модели (LLM) не обладают подлинными способностями к рассуждению, несмотря на их впечатляющую способность имитировать человеческие ответы. Автор сравнивает современный ИИ с AlphaGo, системой, которая победила Ли Седоля в игре в го. В то время как AlphaGo использовала двухсистемный подход, сочетая интуитивное распознавание образов с механизмом поиска, LLM полагаются почти исключительно на предсказание следующего токена. Этот процесс, описываемый как «Система 1», отлично справляется с дополнением паттернов, но не способен на пошаговое, проверяемое обдумывание, необходимое для истинного рассуждения. Автор утверждает, что даже методы «цепочки мыслей» являются лишь расширением вероятностного прогнозирования, а не отдельным механизмом логики. В результате статья предупреждает, что без разработки систем, способных к явному и проверяемому обдумыванию, ИИ останется ограниченным в своей способности предоставлять достоверные выводы в таких сложных областях, как наука и медицина.