Узкое место в обнаружении контрактов

По мере того как ИИ делает генерацию кода дешевле, основная задача в разработке ПО смещается от реализации к верификации и, что более важно, к обнаружению контрактов. Автор Кен Уолгер утверждает, что хотя ИИ может создавать функции на основе промптов, он часто не учитывает неявные требования, такие как однократное использование ссылок для сброса пароля или обработка параллельных запросов. Автор предполагает, что настоящим узким местом является определение того, что на самом деле означает «правильное» поведение. Поскольку у людей часто нет полной спецификации заранее, процесс разработки должен стать циклом итеративного уточнения, где обнаруженные инварианты фиксируются в долговечном и проверяемом контракте. Этот подход выходит за рамки простого тестирования, подчеркивая, что определение корректности должно быть независимым от реализации. В конечном итоге, по мере того как агенты берут на себя более автономные роли, создание явных поведенческих контрактов становится необходимым для предотвращения системных сбоев.