Я скормил ChatGPT всю свою кодовую базу. Результаты меня напугали — но не по той причине, о которой вы думаете

Разработчик провел эксперимент, загрузив всю свою кодовую базу в большую языковую модель, чтобы оценить её эффективность в качестве ревьюера кода. Хотя ИИ оказался исключительно полезен как «ищейка», выявив забытые эндпоинты, состояния гонки и устаревшие файлы конфигурации, он провалился в роли «свидетеля». Модель часто с высокой уверенностью галлюцинировала несуществующие уязвимости и, что более опасно, не заметила критическую ошибку потери данных в платежном вебхуке. Автор делает вывод, что, несмотря на мощь LLM в анализе архитектуры, им не хватает суждения, необходимого для финальной проверки кода. Главная опасность заключается в единообразном, уверенном тоне модели, из-за чего невозможно отличить реальные инсайты от вымышленных утверждений. Автор советует использовать ИИ как инструмент для поиска, а не как финальный авторитет, подчеркивая, что человеческий контроль и независимая проверка остаются обязательными для безопасной разработки ПО.