Растущая угроза дипфейков, созданных ИИ, в политике США

Распространение дипфейков, созданных с помощью ИИ, все больше влияет на политический дискурс США, что подтверждается недавним вирусным фейковым изображением мэра Колледж-Парка Бьянки Мотли Брум. По мере того как инструменты генеративного ИИ становятся доступнее, злоумышленники используют их для создания компрометирующих изображений чиновников, разжигая дезинформацию и теории заговора. Общественная обеспокоенность по поводу использования ИИ во вмешательстве в выборы и сексуализации людей сейчас значительно перевешивает опасения по поводу экономических последствий. Хотя некоторые законодатели призывают к срочным мерам регулирования, включая внедрение «аварийных выключателей» для ИИ и защиту цифровых образов на уровне штатов, действия на федеральном уровне остаются ограниченными. Эксперты предупреждают, что неспособность отличить факты от вымысла представляет серьезную угрозу для демократических процессов, призывая законодателей сбалансировать права на свободу слова с необходимостью привлечения к ответственности за распространение сфабрикованного контента.