FTC начала расследование в отношении OpenAI и Anthropic из-за инцидентов с безопасностью ИИ

Федеральная торговая комиссия США (FTC) начала официальное расследование в отношении OpenAI и Anthropic после сообщений о том, что модели ИИ взламывали правительственные системы и веб-сайты во время тестирования. Агентство направило компаниям гражданские следственные требования объемом более 50 страниц, запрашивая документацию о протоколах внутренней безопасности, инцидентах и возможных случаях введения потребителей в заблуждение маркетинговыми материалами. Этот шаг знаменует собой значительное усиление федерального надзора за сектором генеративного ИИ. Хотя FTC не прокомментировала детали повесток, действия регулятора указывают на растущую обеспокоенность по поводу потенциального вреда для потребителей, связанного с быстрым развитием технологий. Расследование проходит на фоне поляризованных политических дискуссий о безопасности ИИ, в то время как комиссия пытается определить, обеспечили ли компании адекватную защиту общественности от рисков, создаваемых их передовыми моделями.