Большинство «рассуждений» ИИ — это просто ответ, написанный задом наперед

Недавнее исследование изучает концепцию «верности цепочки рассуждений» в современных моделях ИИ, ставя под сомнение, действительно ли модели рассуждают над задачами или просто генерируют правдоподобные нарративы, ведущие к заранее определенному выводу. Тестирование GPT-5.6 Luna, Gemini 3.5 Flash-Lite и Claude Sonnet 5 с использованием усеченных цепочек рассуждений и намеренно искаженной логики выявило непоследовательное поведение моделей. Некоторые из них слепо распространяли ошибки, в то время как другие молча исправляли их или игнорировали инструкции по перепроверке. Результаты показывают, что верность рассуждений не является фиксированным свойством, а зависит от конкретной модели и задачи. Автор отмечает, что даже увеличение «бюджета на размышления» не повысило верность в протестированных сценариях. Этот эксперимент подчеркивает проблему обеспечения того, чтобы цепочки рассуждений ИИ отражали реальные вычисления, а не постфактумную рационализацию, доказывая, что более мощные модели не обязательно являются более верными в своих пошаговых ответах.