Инструменты генеративного ИИ используются для продвижения «Slop Jihad»

Новый отчет Wired освещает тревожную тенденцию: сторонники исламских террористических организаций используют генеративный искусственный интеллект для распространения экстремистского контента. Эта стратегия, получившая название «Slop Jihad», предполагает использование ИИ-изображений, видео и текстов для наводнения социальных сетей, таких как TikTok, пропагандой. Автоматизируя создание большого объема низкокачественного контента, эти субъекты стремятся обойти системы модерации платформ и охватить более широкую и молодую аудиторию. Легкость доступа к мощным инструментам ИИ снизила порог для экстремистских групп при распространении радикализирующих материалов в больших масштабах. Эксперты по безопасности предупреждают, что этот сдвиг представляет собой значительную эволюцию тактики цифровой пропаганды, заставляя компании социальных сетей решать двойную задачу: выявлять контент, созданный ИИ, и одновременно пресекать распространение насильственных экстремистских нарративов. Ситуация подчеркивает продолжающуюся борьбу за баланс между технологической доступностью и необходимостью обеспечения онлайн-безопасности.