Генеральный директор Anthropic: пора перейти от улучшения ИИ к его контролю

Генеральный директор Anthropic Дарио Амодеи призвал к стратегическому повороту в разработке передового искусственного интеллекта. Амодеи утверждает, что индустрия должна замедлить темпы совершенствования возможностей ИИ, чтобы меры безопасности и предотвращения рисков могли за ними поспевать. По мере того как генеративные модели ИИ становятся все более мощными, фокус должен сместиться в сторону надежных протоколов безопасности и механизмов контроля для предотвращения потенциальных злоупотреблений. Для предприятий этот сдвиг означает возможные изменения в том, как инструменты ИИ развертываются и регулируются. Организациям следует подготовиться к тому, что циклы разработки с приоритетом безопасности могут повлиять на доступность новых функций. Позиция Амодеи подчеркивает растущий консенсус среди лидеров в области ИИ о том, что неконтролируемое ускорение передовых моделей создает значительные угрозы безопасности, требуя более осторожного и регулируемого подхода к будущим достижениям в области ИИ.