Anthropic-ի IPO-ի առաջարկը ներառում է մարդկության ոչնչացման մասին նախազգուշացում

AI ստարտափ Anthropic-ը պաշտոնապես ազդարարել է հրապարակային դառնալու իր մտադրության մասին՝ ներկայացնելով S-1 հայտ, որտեղ ընդգծվում են գոյաբանական լուրջ մտահոգություններ։ Ընկերությունը իր հեռանկարային փաստաթղթի զգալի մասը նվիրել է իր առաջադեմ AI մոդելների կողմից մարդկությանը սպառնացող «գոյաբանական ռիսկերի» մանրամասն նկարագրությանը։ Փաստաթուղթը ներդրողներին զգուշացնում է անկանխատեսելի վարքագծի մասին, ներառյալ՝ մանիպուլյացիայի և շանտաժի հնարավորությունները։ Բացի այս սպառնալիքներից, հայտում նշվում են նաև գործնական բիզնես մարտահրավերներ, ինչպիսիք են եկամուտների կախվածությունը փոքր թվով հաճախորդներից։ Մինչ Anthropic-ը պատրաստվում է մոտ 1 տրիլիոն դոլար գնահատմամբ IPO-ին, այս նախազգուշացումների ներառումը արտացոլում է AI ընկերությունների շրջանում աճող միտումը՝ պաշտոնապես ընդունելու իրենց արտադրանքի հասարակական վտանգները՝ միաժամանակ հաղթահարելով հրապարակային շուկա մուտք գործելու բարդությունները։