Anthropic ослабляет ограничения Claude для проверенных специалистов по безопасности

Компания Anthropic официально интегрировала инициативу Project Glasswing в новую многоуровневую программу доступа, предназначенную для специалистов по кибербезопасности. Это обновление позволяет проверенным исследователям безопасности и защитникам использовать передовые большие языковые модели компании, включая Claude 3 Opus, Sonnet и недавно упомянутый Mythos, со значительно ослабленными защитными барьерами. Смягчая эти ограничения, Anthropic стремится дать экспертам возможность более эффективно выявлять уязвимости, анализировать вредоносный код и разрабатывать более надежные стратегии защиты без препятствий, обычно создаваемых стандартными фильтрами безопасности. Этот шаг отражает растущую тенденцию среди разработчиков ИИ предоставлять специализированный доступ сообществу ИБ, признавая, что двойственное назначение генеративного ИИ требует дифференцированного подхода к безопасности. Ожидается, что программа оптимизирует рабочие процессы анализа угроз и повысит эффективность операций по обеспечению безопасности с использованием ИИ для организаций, участвующих в процессе проверки.