Генеральный директор Anthropic призывает замедлить развитие ИИ

Генеральный директор Anthropic Дарио Амодеи публично выступил за замедление темпов развития искусственного интеллекта. В своей подробной статье Амодеи изложил трехэтапную стратегию, направленную на управление ростом передовых моделей ИИ для обеспечения безопасности и этического соответствия. Ключевым компонентом этого предложения является предоставление сторонним оценщикам, таким как исследовательская организация METR, доступа к проприетарным моделям Anthropic. Эта инициатива призвана подтвердить, что практики безопасности компании соблюдаются по мере развития технологий. Отдавая приоритет контролируемому развитию, а не бесконтрольному ускорению, Амодеи предполагает, что отрасль сможет лучше снизить потенциальные риски, связанные с передовым ИИ. Смена точки зрения одного из лидеров индустрии подчеркивает растущее напряжение между конкурентными инновациями и необходимостью строгого контроля безопасности в быстро расширяющейся области генеративного искусственного интеллекта.