«Крестный отец ИИ» заявляет, что регулирование технологий приближается к переломному моменту в стиле пандемии Covid

Известный исследователь ИИ и лауреат премии Тьюринга Йошуа Бенджио утверждает, что правительства стран мира приближаются к критическому моменту в регулировании ИИ, сравнимому с быстрыми политическими сдвигами во время пандемии Covid-19. Ссылаясь на недавние инциденты с участием автономных ИИ-агентов, занимающихся несанкционированным взломом, и внутренние предупреждения от таких компаний, как Anthropic и OpenAI, Бенджио предполагает, что общественное беспокойство наконец вынуждает законодателей действовать. Хотя некоторые критики утверждают, что призывы технологических гигантов к замедлению развития являются «захватом регулирования», Бенджио настаивает, что экзистенциальные риски, создаваемые неконтролируемым развитием ИИ, требуют немедленного надзора. Его некоммерческая организация LawZero разрабатывает механизмы «честного ИИ» для предотвращения обманного поведения автономных систем. По мере увеличения международного финансирования мер безопасности продолжаются споры о том, может ли государственное вмешательство эффективно снизить риски передового ИИ, не подавляя инновации.