«Крестные отцы» ИИ предупреждают о неконтролируемом «интеллектуальном взрыве»

Ведущие исследователи ИИ, включая Джеффри Хинтона и Йошуа Бенджио, совместно с руководителями OpenAI и Anthropic предупредили правительства о риске «интеллектуального взрыва». В новом докладе, подготовленном более чем 20 экспертами, говорится, что по мере того, как системы ИИ обретают способность автоматизировать собственные исследования и разработки, они могут спровоцировать период стремительного самосовершенствования, сжимая годы прогресса в считанные месяцы. Авторы утверждают, что этот процесс несет серьезные угрозы, включая потерю контроля со стороны человека, ускорение кибер- и биологических угроз, а также ослабление государственного надзора. Для минимизации рисков эксперты призывают внедрить требования о прозрачности, привлечь независимых аудиторов в ИИ-компании и разработать планы экстренного реагирования. Специалисты подчеркивают, что окно возможностей для проактивного регулирования закрывается, так как системы ИИ приближаются к порогу автономных исследований и разработок.