«Мы должны замедлить темп»: генеральный директор Anthropic призывает к замедлению развития ИИ

Дарио Амодеи, генеральный директор компании Anthropic, выступил с публичным призывом к индустрии искусственного интеллекта замедлить темпы разработки моделей. В своем новом эссе под названием «Мы должны замедлить прогресс» Амодеи утверждает, что быстрое и неконтролируемое рекурсивное самосовершенствование ИИ может выйти из-под контроля человека. Он предлагает план из трех пунктов, начиная с обязательства Anthropic предоставить сторонним оценщикам постоянный доступ к своим системам для проверки безопасности. Этот призыв последовал за внутренними предупреждениями исследователей о потенциальных экзистенциальных рисках, связанных с ИИ к 2030 году. Хотя некоторые представители индустрии, включая Илона Маска, поддержали это предложение, дискуссия подчеркивает растущую напряженность между коммерческой конкуренцией и необходимостью строгого контроля безопасности. Амодеи подчеркивает, что, несмотря на огромный потенциал ИИ для человечества, индустрия должна уделять приоритетное внимание ответственному темпу развития, чтобы меры по предотвращению рисков успевали за технологическим прогрессом.