Все учатся лучше писать промпты. Это не тот навык.

В недавней статье на Dev.to автор утверждает, что нынешняя одержимость промпт-инжинирингом ошибочна. В то время как многие разработчики тратят часы на оттачивание промптов для получения лучших ответов от ИИ, автор утверждает, что это навык с низкой ценностью, который быстро обесценивается по мере совершенствования моделей. Настоящая проблема, согласно статье, заключается не в том, как задавать вопросы ИИ, а в том, как оценивать его ответы. Поскольку модели ИИ могут генерировать очень убедительный, но неверный код, самым важным навыком для современных инженеров является «недоверие» — способность строго проверять, тестировать и подвергать сомнению результаты, созданные ИИ. Автор предлагает вместо оптимизации промптов создавать системы, которые отделяют «автора» (ИИ) от «скептика» (процесса проверки), гарантируя, что человеческий контроль остается последним и необходимым фильтром для кода, готового к продакшену.
This is a summary. Read the full article at the original source:
Dev.toПохожие
LLM уверенно называет шахматные ходы, которых на доске нет. Как я проверяю каждый ее ответ кодом
Автор статьи анализирует проблему галлюцинаций больших языковых моделей (LLM) при игре в шахматы. Несмотря на способность моделей генерировать текст,…
Я дал ИИ-агенту $0 и три итерации, чтобы заработать денег. Вот что произошло на самом деле
Разработчик недавно протестировал возможности автономного ИИ, поставив перед агентом задачу заработать деньги, начиная с $0.00, при ограничении в три…
Руководство по документации ИИ: Model Cards, Eval Reports, Agent Cards и многое другое
По мере перехода систем ИИ от детерминированного кода к вероятностным моделям и автономным агентам традиционной документации, такой как README, станов…


