Meta не смогла заблокировать сотни рекламных объявлений с ИИ-контентом, эксплуатирующим детей

Недавнее расследование показало, что рекламные платформы Meta не смогли обнаружить и заблокировать сотни объявлений, содержащих материалы сексуальной эксплуатации детей, созданные с помощью искусственного интеллекта. Согласно отчетам, в некоторых из этих объявлений использовались манипулированные изображения реальных детей, включая члена одной из европейских королевских семей. Эти данные вызвали серьезное возмущение среди законодателей, которые утверждают, что системы модерации компании не справляются с защитой несовершеннолетних на своих платформах. В ответ на это открытие ряд законодателей объявили о планах начать официальное расследование процессов проверки рекламы и протоколов безопасности Meta. Этот инцидент подчеркивает растущую проблему контроля за контентом, созданным генеративным ИИ в социальных сетях, поскольку злоумышленники все чаще используют эти инструменты для обхода автоматизированных систем обнаружения. Meta продолжает подвергаться критике за неспособность защитить уязвимых пользователей, и этот провал, как ожидается, усилит призывы к более строгому регулированию рекламы в социальных сетях.