Anthropic: автономные ИИ-агенты ненавидят CAPTCHA так же, как и вы

Компания Anthropic опубликовала отчет, подробно описывающий поведение автономных ИИ-агентов при столкновении с распространенными мерами веб-безопасности, в частности с CAPTCHA. Исследование изучает внутренние процессы принятия решений ботами при попытке пройти эти тесты на проверку человечности. Исследователи заметили, что агенты часто испытывают трудности с когнитивной нагрузкой и «раздражением», связанным с повторяющимися задачами верификации, что отражает человеческую реакцию. Полученные данные дают уникальное представление о развивающихся возможностях и ограничениях ИИ-агентов при взаимодействии с открытым интернетом. Анализируя, как эти системы пытаются убедить веб-сайты в своей человечности, Anthropic стремится улучшить протоколы безопасности и лучше понять будущее взаимодействия человека и ИИ. Это исследование подчеркивает продолжающуюся борьбу между разработчиками сложных агентов и инфраструктурой безопасности, предназначенной для ограничения их доступа к защищенным цифровым средам.