Может ли ИИ действительно нас всех убить? Ответы на ваши вопросы.

Издание MIT Technology Review провело дискуссию, в ходе которой старший редактор по ИИ Уилл Дуглас Хевен и репортер Грейс Хакинс ответили на вопросы об экзистенциальных рисках, связанных с искусственным интеллектом. Эксперты проанализировали спектр угроз: от непосредственных опасностей, таких как кибератаки и автономное оружие, до долгосрочных сценариев, связанных с неконтролируемым суперинтеллектом. Хотя участники сошлись во мнении, что апокалиптический сценарий гибели всего человечества от рук ИИ остается областью научной фантастики, они подчеркнули, что риск вреда, опосредованного ИИ — например, создание новых патогенов или дестабилизация критической инфраструктуры — становится все более правдоподобным. Дискуссия подчеркнула важность исследований в области согласования ИИ (alignment), направленных на то, чтобы автономные системы действовали в соответствии с намерениями человека. Редакторы предостерегли, что, хотя подготовка к худшим сценариям разумна, чрезмерная катастрофизация не должна отвлекать внимание от решения реальных проблем, создаваемых существующими технологиями ИИ сегодня.