Исследователи выяснили, что новые модели ИИ от OpenAI и Google по-прежнему уязвимы для создания неконсенсуального откровенного контента

Недавнее исследование, проведенное при участии специалистов Google, подчеркивает растущую проблему предотвращения создания неконсенсуального откровенного контента с помощью генеративных ИИ-инструментов. Несмотря на усиление контроля, исследователи предупреждают, что по мере того, как генераторы изображений от таких лидеров индустрии, как OpenAI и Google, становятся более совершенными, они парадоксальным образом становятся более уязвимыми для манипуляций, направленных на создание вредоносных сексуальных изображений. Исследование, охватившее пользователей в США, Австралии и Великобритании, подчеркивает, что, хотя такой контент часто распространяется через частные каналы, наиболее эффективной точкой вмешательства остаются сами исходные модели. Тестирования, проведенные в последние месяцы, показывают, что текущие механизмы безопасности не успевают за развитием возможностей этих моделей. Эта проблема подчеркивает напряженность между быстрой разработкой ИИ и внедрением надежных протоколов безопасности, поскольку регуляторы продолжают сталкиваться с трудностями в эффективном пресечении распространения злоупотреблений, созданных с помощью ИИ.