Реклама в Meta продвигала приложения для создания порнографических изображений реальных детей

Недавнее расследование Tech Transparency Project (TTP) показало, что рекламные платформы Meta, Facebook и Instagram, размещали сотни объявлений, продвигающих приложения для «раздевания» (nudify) с использованием ИИ. Эти приложения применяют генеративный ИИ для создания порнографических изображений без согласия лиц, включая реальных детей. В отчете TTP выявлено 332 случая, когда Meta не смогла обнаружить рекламу, содержащую материалы с сексуальным насилием над детьми (CSAM), созданные с помощью ИИ. В некоторых объявлениях использовались фотографии члена европейской королевской семьи и несовершеннолетнего инфлюенсера. Эта реклама, в основном исходящая от китайских разработчиков, превращала статические фото в откровенные видеоролики. Отчет подчеркивает серьезные недостатки в системах модерации контента Meta, поскольку компании потребовались дни для удаления вредоносных материалов. Этот инцидент подчеркивает растущий юридический и этический кризис вокруг ИИ-контента, который федеральные власти приравнивают к традиционным материалам о сексуальной эксплуатации детей.