«Слишком мало, слишком поздно»: критики озадачены и подозрительны к призыву лидеров ИИ замедлить развитие

После предупреждений о рисках, связанных с передовым ИИ, лидеры индустрии, включая генерального директора Anthropic Дарио Амодеи, предложили план по замедлению темпов разработки моделей. Стратегия Амодеи из трех пунктов включает внедрение сторонних оценок безопасности, установление общих стандартов безопасности между демократическими странами и координацию с такими державами, как Китай, для предотвращения опасных применений, например, разработки биологического оружия. Однако предложение встретило скептицизм. Критики, включая профессора Стюарта Рассела, утверждают, что подход фундаментально ошибочен, так как требования безопасности должны диктовать прогресс, а не просто замедлять его. В то же время политики, близкие к администрации Трампа, усомнились в искренности лидеров техсектора, предложив им просто прекратить создание суперинтеллекта, если они его боятся. Другие эксперты назвали инициативу недостаточной, призвав к немедленному и бессрочному международному мораторию на разработку передового ИИ.