Гэвин Ньюсом настаивает на создании «аварийного выключателя» для ИИ

Губернатор Калифорнии Гэвин Ньюсом подписал новый исполнительный указ, направленный на то, чтобы сделать штат лидером в области контроля за искусственным интеллектом. Директива сосредоточена на разработке протоколов безопасности для передовых моделей ИИ, включая потенциальное требование о создании «аварийного выключателя» для отключения систем, представляющих значительные риски. Ньюсом поручил государственным органам сотрудничать с группой экспертов из академических и отраслевых кругов для оценки рисков, связанных с масштабным внедрением ИИ. Эта группа должна представить рекомендации в течение двух месяцев. Инициатива отражает растущую тенденцию среди политиков по внедрению механизмов контроля вокруг генеративного ИИ и автономных систем. Уделяя приоритетное внимание безопасности и подотчетности, Калифорния стремится установить регуляторные стандарты, которые могут повлиять на национальный уровень. Этот шаг подчеркивает напряженность между стимулированием технологических инноваций и обеспечением того, чтобы мощные инструменты ИИ оставались под контролем человека.