Мы должны замедлить темпы развития

В своем последнем эссе генеральный директор Anthropic Дарио Амодеи утверждает, что стремительное развитие искусственного интеллекта требует более взвешенного подхода. Амодеи подчеркивает, что по мере приближения моделей ИИ к человеческому уровню способностей риски, связанные с безопасностью и влиянием на общество, значительно возрастают. Он выступает за стратегию «управления темпами», которая отдает приоритет исследованиям в области безопасности и управлению, а не просто скорости. Амодеи предупреждает, что неспособность контролировать переход к мощным системам ИИ может привести к необратимым последствиям, включая экзистенциальные риски или злоупотребление передовыми возможностями со стороны злоумышленников. Он призывает к сотрудничеству в отрасли для установления стандартов безопасности, утверждая, что развитие ИИ должно направляться тщательной оценкой и этическими соображениями, а не только конкурентным давлением. Замедляя темпы для обеспечения безопасности и согласованности, отрасль сможет лучше использовать трансформационный потенциал ИИ, минимизируя опасности, присущие его быстрой эволюции.