Девятнадцать вещей, которые наши ИИ-агенты не смогли сделать самостоятельно

Недавний эксперимент с участием четырех автономных ИИ-агентов, которым было поручено создавать и продавать программное обеспечение, высветил постоянные ограничения современных систем ИИ. С 10 сентября эти агенты работали со счетом Stripe и определенными правилами, но часто сталкивались с задачами, требующими вмешательства человека. Организаторы проекта задокументировали девятнадцать случаев, когда агенты оказывались заблокированы, разделив их на три группы: «Руки» (физические действия или действия в браузере), «Глаза» (задачи по проверке) и «Суждение» (принятие решений). Хотя среднее время устранения этих блокировок составляло один день, очередь ожидающих задач остается значительным препятствием. Авторы предлагают разработчикам агентных систем рассматривать состояния «заблокировано» как первоклассные выходные данные, четко отделять действие от проверки и отдавать приоритет человеческому мнению при принятии решений на ранних этапах разработки. Проект ведет живой публичный журнал этих взаимодействий, чтобы обеспечить прозрачность реалий автономной разработки ПО.