Отчет Anthropic о безопасности подчеркивает злоупотребление Claude для создания биооружия и слежки

Компания Anthropic опубликовала подробный отчет о безопасности, в котором описываются попытки злоумышленников использовать генеративный ИИ Claude в вредоносных целях. Компания выделила семь основных областей риска, включая кибероперации, кампании по оказанию влияния и биологические угрозы. В отчете задокументированы случаи, когда пользователи пытались использовать ИИ для разработки биооружия, например, при написании заявок на гранты для исследования опасных вирусов, таких как чикунгунья и ортопоксвирусы. Кроме того, выявлено, что спонсируемые государством субъекты использовали Claude для проектирования автономных дронов-камикадзе и разработки модулей радиоэлектронной борьбы. Отчет также подчеркивает использование платформы для массовой слежки, в частности, для отслеживания диссидентов и журналистов. Anthropic заявила, что заблокировала учетные записи, причастные к этой деятельности, и интегрирует полученные данные в свои протоколы безопасности для предотвращения подобных инцидентов в будущем.