С кем согласовано?

Статья «С кем согласовано?» исследует сложную и зачастую неоднозначную природу согласования ИИ. Автор оспаривает распространенный в индустрии нарратив о том, что согласование ИИ — это чисто техническая проблема, направленная на то, чтобы модели следовали инструкциям человека. Вместо этого автор утверждает, что согласование является фундаментально политическим и экономическим вопросом, ставя под сомнение то, чьи ценности и интересы ставятся во главу угла при разработке мощных систем ИИ. В статье рассматривается, как корпоративные стимулы, динамика власти и социальные предубеждения формируют «согласованность» моделей, часто в ущерб общественным интересам. Анализируя цели крупных лабораторий ИИ, автор подчеркивает риски, связанные с тем, что небольшая группа заинтересованных сторон определяет этические параметры технологий, влияющих на глобальное общество. Статья служит критическим призывом расширить дискурс о безопасности ИИ, выйдя за рамки технических ограничений для решения проблем, лежащих в основе структур власти, управляющих разработкой ИИ.