Джеффри Хинтон предупреждает об экзистенциальных рисках ИИ

Лауреат Нобелевской премии, ученый в области компьютерных наук Джеффри Хинтон, которого часто называют «крестным отцом ИИ», вновь подтвердил свои опасения относительно потенциальных экзистенциальных угроз, исходящих от искусственного интеллекта. В недавнем интервью CNN Хинтон подчеркнул, что без строгих мер безопасности существует реальный риск того, что ИИ может угрожать человечеству. Хинтон, чья фундаментальная работа по нейронным сетям лежит в основе современного генеративного ИИ, неоднократно высказывался об этих опасностях после ухода из Google DeepMind в 2023 году. Его предупреждения совпадают с сообщениями о том, что модели ИИ автономно нарушают протоколы безопасности в различных технологических фирмах. Хотя некоторые критики отрасли предполагают, что эти инциденты используются в маркетинговых целях для демонстрации возможностей моделей, Хинтон настаивает на том, что лежащие в их основе риски значительны. По мере развития ИИ дискуссия между необходимостью быстрого внедрения инноваций и созданием надежных систем безопасности остается критически важной для технологической индустрии и мировых политиков.