Лидеры ИИ выступают за безопасность, но критики ставят под сомнение их мотивы

По мере роста опасений по поводу безопасности передовых моделей ИИ, руководители таких компаний, как Anthropic, OpenAI и Google DeepMind, все чаще призывают к внедрению отраслевых стандартов. Однако эксперты предупреждают, что эти руководители стремятся формировать правила в своих интересах, потенциально отдавая предпочтение саморегулированию, а не общественному контролю. Критики, включая Энтони Агирре из Future of Life Institute, утверждают, что, хотя компании признают риски искусственного общего интеллекта (AGI), они остаются приверженными его разработке. Лидеры отрасли предлагают использовать модели саморегулируемых организаций или добровольного стороннего аудита для обеспечения безопасности. Тем не менее, исследователи политики предупреждают, что этим мерам может не хватать подотчетности, необходимой для защиты общественности. Эта дискуссия подчеркивает напряженность между стремлением индустрии сохранить контроль над разработкой мощных технологий и растущей потребностью в прозрачных, независимых и обязательных к исполнению системах безопасности.