Злоумышленники манипулируют ИИ-чат-ботами в рамках масштабных кампаний по дезинформации и фишингу

Злоумышленники все чаще используют генеративные ИИ-платформы, включая ChatGPT, Gemini и Google AI Overview, для проведения масштабных кампаний по дезинформации и фишингу. Стратегически наполняя интернет вредоносными ссылками и сфабрикованными данными, хакеры манипулируют поисковой оптимизацией (SEO) этих платформ. Этот метод, часто называемый «отравлением ИИ», заставляет модели ИИ поглощать и выдавать вредоносный контент в качестве достоверной информации. Поскольку пользователи все чаще полагаются на ИИ-сводки для получения быстрых ответов, риск столкнуться с обманными ссылками или вредоносным ПО значительно возрастает. Эксперты по безопасности предупреждают, что эта тенденция отражает изменение подходов киберпреступников к эксплуатации доверия к системам ИИ. Организациям и частным пользователям рекомендуется проверять информацию, предоставляемую инструментами ИИ, через первоисточники и проявлять бдительность в отношении подозрительных ссылок, так как порог входа для сложных атак с использованием социальной инженерии продолжает снижаться.