Проблема верификации в программном обеспечении, созданном ИИ

По мере того как ИИ-агенты для написания кода становятся все более эффективными, основной задачей разработки становится не написание кода, а его верификация. Автор утверждает, что, хотя ИИ может создавать функциональный код за считанные минуты, ему часто не хватает понимания граничных случаев, таких как обеспечение однократного использования ссылки для сброса пароля. Поскольку код, созданный ИИ, часто является временным и подвержен частым изменениям, фокус должен сместиться на поддержку долговечных и исполняемых спецификаций. Используя поведенческое тестирование в качестве контракта, разработчики могут отделить генерацию кода от его проверки. Автор предлагает цикл обратной связи, где инструменты детерминированного тестирования возвращают ИИ доказательства сбоев, позволяя ему итерировать до тех пор, пока программное обеспечение не будет соответствовать заданным требованиям. Конечная цель — не просто ускорить генерацию кода, а обеспечить создание корректного и надежного программного обеспечения.