Является ли «аварийный выключатель» ИИ реальностью?

Губернатор Калифорнии Гэвин Ньюсом издал указ, направленный на усиление правил безопасности в сфере искусственного интеллекта, включая потенциальное внедрение «аварийного выключателя» для передовых моделей ИИ. Указ предписывает экспертной группе разработать руководящие принципы безопасности и изучить механизмы экстренного отключения для предотвращения катастрофических рисков. Хотя идея универсальной кнопки выключения обсуждается на законодательном уровне, эксперты остаются разделенными во мнениях. Критики, такие как Центр демократии и технологий, утверждают, что подобные меры могут быть неэффективными, легко обходимыми или привести к злоупотреблениям со стороны властей. Такие фигуры, как Джеффри Хинтон, также ставят под сомнение долгосрочную эффективность подобных решений против суперинтеллекта. Дискуссия продолжается, фокусируясь на том, является ли единый технический предохранитель жизнеспособным решением или лишь стремлением в быстро развивающейся среде разработки ИИ.