Anthropic предоставила внешним экспертам глубокий доступ к своим ИИ-системам

Компания Anthropic предприняла важный шаг в области безопасности ИИ, предоставив некоммерческой исследовательской организации METR доступ к своим внутренним системам и оборудованию на уровне сотрудников. Это сотрудничество позволяет внешним оценщикам напрямую анализировать риски, связанные с новейшими моделями Anthropic, включая потенциальные угрозы кибербезопасности и экономической стабильности. Разместив команду METR в своих офисах, Anthropic выполняет обязательство по повышению прозрачности и усилению стороннего контроля. Этот шаг отражает общую тенденцию в отрасли, когда ведущие ИИ-лаборатории привлекают независимых экспертов для проверки своих технологий до их публичного выпуска. На фоне растущих опасений по поводу непредсказуемого поведения продвинутого ИИ, подобные партнерства становятся критически важным компонентом ответственной разработки. Инициатива направлена на снижение катастрофических рисков, гарантируя, что стремительное развитие генеративного ИИ остается в рамках стандартов безопасности и общественных интересов.