В отчете Anthropic подробно описаны попытки злоумышленников использовать ИИ для создания биологического оружия

Компания Anthropic опубликовала 154-страничный отчет об угрозах, в котором подробно описывается, как злоумышленники, включая спонсируемые государством группы и киберпреступников, пытались использовать ее модели ИИ. В отчете подчеркиваются серьезные риски, такие как использование ИИ для проектирования оружия, разработки биологических патогенов и слежки за диссидентами. Anthropic выявила конкретные случаи, когда исследователи пытались обойти протоколы безопасности для проведения биологических исследований военного назначения. Компания подчеркнула, что, хотя отрасль часто фокусируется на гипотетических экзистенциальных рисках, немедленное злоупотребление передовым ИИ для кибератак и разработки оружия представляет собой более насущную опасность. Anthropic заблокировала соответствующие учетные записи и призывает к расширению сотрудничества между разработчиками ИИ и правительствами для внедрения надежных мер защиты. Это раскрытие информации последовало за недавними внутренними опасениями относительно темпов развития компании и их потенциального влияния на глобальную безопасность.