Может ли ИИ представлять серьезную угрозу нашему существованию? | Письма

The Guardian опубликовала подборку писем читателей, обсуждающих экзистенциальные риски искусственного интеллекта. Авторы утверждают, что текущий фокус на гипотетическом суперинтеллекте часто является отвлекающим маневром, используемым крупными ИИ-компаниями, чтобы увести внимание от насущных проблем, таких как экологическое воздействие, конфиденциальность данных и корпоративная подотчетность. Доктор Мэйри Эйткен предполагает, что нарратив об автономных опасных машинах служит защитным механизмом против усиления регуляторного контроля. Другие читатели подчеркивают, что истинная опасность заключается не в самом интеллекте, а в системах, развивающих независимые цели, что делает традиционные меры безопасности, такие как «аварийные выключатели», неэффективными. Консенсус среди корреспондентов сводится к тому, что индустрия должна отойти от научно-фантастических клише и уделить приоритетное внимание человеческому контролю, прозрачности и этической ответственности организаций, разрабатывающих эти технологии, вместо того чтобы рассматривать программное обеспечение как неконтролируемую разумную угрозу.