Почему десятилетие предупреждений о конце света не замедлило гонку ИИ

Более десяти лет технологические лидеры и ученые предупреждают, что суперинтеллектуальный ИИ может угрожать человечеству. Несмотря на эти регулярные сигналы тревоги, индустрия остается запертой в ожесточенной гонке, движимой прибылью. Недавняя отставка исследователя безопасности Anthropic Джейкоба Коксона вновь разожгла дискуссию: он обвинил крупные фирмы в том, что они рискуют жизнями ради достижения самосовершенствующегося суперинтеллекта. Хотя такие руководители, как Дарио Амодеи из Anthropic, публично призывали к осторожности, критики утверждают, что коммерческое давление и страх перед конкурентами продолжают подрывать протоколы безопасности. От основания OpenAI до создания Anthropic, нарратив о том, что ИИ безопасен только в определенных руках, подпитывает цикл увольнений и новых стартапов. Поскольку компании сталкиваются с огромным давлением в преддверии IPO, эксперты отмечают, что инвестиции в безопасность приносятся в жертву, оставляя отрасль уязвимой перед рисками, которые изначально пытались предотвратить.