ИИ может уничтожить человечество в ближайшее десятилетие, предупреждают эксперты: насколько серьезно к ним стоит относиться?

Эксперты и политики все активнее обсуждают экзистенциальные риски, связанные с искусственным суперинтеллектом (ASI). Предупреждения таких фигур, как профессор Стюарт Рассел и бывший министр обороны Дес Браун, подчеркивают опасения, что ASI может привести к необратимым катастрофам. Напряженность возросла после увольнения исследователя Anthropic, заявившего, что компании ведут безрассудную гонку к опасным возможностям. В то время как некоторые инсайдеры оценивают вероятность вымирания человечества в ближайшее десятилетие как значительную, другие утверждают, что подобные сценарии отвлекают от насущных проблем, таких как дезинформация и сокращение рабочих мест. В Великобритании и США растут призывы к международному регулированию и внедрению протоколов безопасности. Пока такие компании, как Anthropic и OpenAI, сталкиваются с требованиями о координации усилий, дискуссия остается расколотой между теми, кто опасается экзистенциальной угрозы, и теми, кто считает эти предупреждения алармистской шумихой.