Круглый стол: может ли ИИ действительно уничтожить нас всех?

MIT Technology Review провел круглый стол с участием ведущих редакторов и экспертов по ИИ, чтобы обсудить растущие опасения по поводу экзистенциальных рисков, связанных с развитием искусственного интеллекта. Поскольку сотрудники крупнейших лабораторий ИИ все чаще предупреждают о том, что мощные системы могут представлять угрозу для человечества, эксперты проанализировали истоки этих страхов. В ходе дискуссии была предпринята попытка отделить обоснованные научные опасения от маркетингового хайпа, изучая, действительно ли текущие траектории развития ИИ оправдывают подобные прогнозы. Спикеры оценили достоверность заявлений об угрозе вымирания и обсудили необходимые меры безопасности и регулирования. Сессия дает комплексный обзор текущего состояния дискурса о безопасности ИИ, сопоставляя технические реалии рекурсивного самосовершенствования и поведения автономных агентов с преобладающим нарративом о катастрофических рисках.