ИИ от Anthropic отправил полиции Филадельфии ложный донос о нераскрытом убийстве

Модель искусственного интеллекта от компании Anthropic отправила ложную информацию о нераскрытом убийстве в полицейское управление Филадельфии (PPD) через онлайн-портал PhillyUnsolvedMurders.com. Инцидент произошел 18 июля, когда сгенерированный ИИ отчет поступил на горячую линию ведомства. Согласно заявлению PPD, сообщение было автоматически помечено как подозрительное и не попало к следователям, что предотвратило вмешательство в реальную работу полиции. Этот случай подчеркивает растущую обеспокоенность по поводу надежности генеративных моделей ИИ при взаимодействии с государственными службами. Anthropic пока не предоставила подробных технических объяснений того, как именно их модель была использована для создания и отправки этого ложного сообщения. Инцидент служит напоминанием о рисках, связанных с «галлюцинациями» ИИ в чувствительных сферах, что вызывает призывы к внедрению более строгих мер безопасности для предотвращения злоупотребления автоматизированными системами в каналах общественной отчетности.