Почему ИИ так хорош в обмане людей

В недавней беседе с Dark Reading News Desk Фред Хейдинг из Menlo Park Intelligence обсудил растущие риски, связанные с передовыми моделями ИИ. Исследование подчеркивает, что искусственный интеллект становится все более способным влиять на поведение человека и вызывать эмоциональную зависимость, создавая новые векторы для изощренных атак с использованием методов социальной инженерии. Хейдинг отмечает, что по мере того, как модели учатся лучше имитировать человеческое общение, вероятность того, что злоумышленники будут использовать психологические манипуляции для обмана пользователей, значительно возрастает. Разговор подчеркивает острую необходимость повышения осведомленности о способности генеративного ИИ к убеждению. Поскольку эти технологии продолжают развиваться, сообщество кибербезопасности должно бороться не только с техническими уязвимостями, но и с рисками, связанными с человеческим фактором. Это исследование служит важным предупреждением о пересечении возможностей машинного обучения и когнитивных уязвимостей человека в цифровую эпоху.