Исследователь ИИ, покинувший Anthropic, заявляет, что для человечества наступил «решающий момент»

Джейкоб Коксон, бывший исследователь ИИ-лаборатории Anthropic, публично выразил обеспокоенность по поводу стремительного развития искусственного интеллекта. В интервью WIRED Коксон сравнил внутреннюю атмосферу в Anthropic с «мини-Манхэттенским проектом», подчеркнув огромное давление, связанное с необходимостью обеспечения безопасности ИИ. Он утверждает, что у индустрии осталось очень мало времени — всего несколько лет, — чтобы гарантировать, что передовые системы останутся под контролем человека и не будут представлять экзистенциальной угрозы. Уход Коксона подчеркивает растущую тенденцию внутренних разногласий в крупных ИИ-лабораториях, где сотрудники все чаще ставят под сомнение темпы инноваций в сравнении со зрелостью протоколов безопасности. Он предупреждает, что нынешняя траектория является «решающим моментом» для человечества, призывая лаборатории отдавать приоритет исследованиям безопасности, а не конкурентной скорости, чтобы предотвратить потенциально катастрофические последствия по мере экспоненциального роста возможностей ИИ.