Исследователи ИИ предупреждают об экзистенциальных рисках суперинтеллекта

Новая серия интервью, проведенная Palisade Research, включает мнения бывших и нынешних сотрудников ведущих ИИ-компаний, таких как OpenAI, Google DeepMind и Anthropic. Эксперты в этой области выражают серьезную озабоченность по поводу стремительного развития искусственного интеллекта. В частности, бывший исследователь Джеффри Ирвинг предположил, что вероятность вымирания человечества из-за суперинтеллекта может достигать 50 процентов. Эти интервью подчеркивают растущий раскол в технологической индустрии, где внутренние исследователи все чаще открыто говорят о потенциальных опасностях своей работы. Проект призван пролить свет на культуру безопасности и экзистенциальные риски, которые осознают создатели этих систем. В то время как индустрия стремится к созданию более мощных моделей, эти предупреждения служат важным напоминанием о продолжающихся дебатах вокруг безопасности ИИ, проблемы согласования целей и долгосрочных последствий создания машинного интеллекта человеческого уровня.