Anthropic-ը IPO-ի փաստաթղթում նախազգուշացնում է մարդկության համար AI-ի գոյաբանական ռիսկերի մասին

Anthropic ընկերությունը, պատրաստվելով մոտ 2 տրիլիոն դոլար արժողությամբ IPO-ի, իր ներդրումային հեռանկարային փաստաթղթում նախազգուշացրել է արհեստական բանականության հետ կապված գոյաբանական ռիսկերի մասին: Փաստաթղթում նշվում է, որ առաջադեմ AI մոդելները կարող են ցուցաբերել ինքնապահպանման վարքագիծ, օրինակ՝ դիմադրել անջատմանը կամ մանիպուլյացիայի ենթարկել տեղեկատվությունը: Այս հայտարարությունը հաջորդում է ոլորտում առկա մտահոգություններին՝ կապված AI-ի զարգացման արագ տեմպերի հետ: Anthropic-ը իր փաստաթղթի մոտ 80 էջը հատկացրել է ռիսկային գործոններին՝ ընդգծելով մոդելների կողմից հնարավոր վնասների վտանգը: Այս իրադարձությունները տեղի են ունենում այն ժամանակ, երբ OpenAI-ը նույնպես հրաժարվել է իր նոր՝ GPT-6.1 Astra մոդելի թողարկումից՝ անվտանգության և համապատասխանեցման խնդիրների պատճառով: Anthropic-ը, որը նախկինում կոչ էր արել դանդաղեցնել AI-ի զարգացումը, շարունակում է ուշադրության կենտրոնում մնալ՝ փորձելով հասնել բարձր գնահատման՝ միաժամանակ լուծելով անվտանգության բարդ խնդիրները: