Крупные банки обеспокоены рисками мошенничества со стороны ИИ-агентов

Консорциум мировых финансовых институтов, включая Bank of America и ING Group, опубликовал документ под названием «Создание доверия в агентской коммерции». Банки предупреждают, что рост числа автономных ИИ-агентов, способных совершать покупки от имени потребителей, создает серьезные риски, включая мошенничество и несанкционированные траты. Финансовые организации утверждают, что текущие разработки в области ИИ не имеют достаточных мер защиты, что делает потребителей уязвимыми для социальной инженерии, а продавцов — для чарджбэков. В документе изложены пять ключевых принципов: прозрачность, безопасность, конфиденциальность, выбор и интероперабельность, которые банки призывают внедрить разработчиков ИИ. Это предупреждение совпадает с недавними проблемами безопасности ИИ-агента Muse от Meta, доступ которого Amazon заблокировал на своей платформе из-за уязвимостей. Банки подчеркивают, что без четких стандартов ответственности и безопасности внедрение агентского ИИ в коммерцию может подорвать доверие потребителей и финансовую стабильность.