Anthropic-ը արհեստական բանականության վերահսկող կազմակերպությանը տրամադրել է ներքին համակարգերի հասանելիություն

Anthropic ընկերությունը AI-ի անվտանգության ապահովման ուղղությամբ կարևոր քայլ է կատարել՝ METR ոչ առևտրային հետազոտական կազմակերպությանը տրամադրելով «աշխատակցի մակարդակի» հասանելիություն իր ներքին համակարգերին և սարքավորումներին: Այս համագործակցությունը թույլ է տալիս անկախ փորձագետներին ուղղակիորեն գնահատել Anthropic-ի նոր մոդելների հետ կապված ռիսկերը, ներառյալ կիբերանվտանգության և տնտեսական կայունության սպառնալիքները: METR-ի թիմին իր գրասենյակներում տեղակայելով՝ Anthropic-ը կատարում է թափանցիկության և արտաքին վերահսկողության բարձրացման իր պարտավորությունը: Այս քայլը արտացոլում է ոլորտի ընդհանուր միտումը, որտեղ առաջատար լաբորատորիաները հրավիրում են անկախ դիտորդների՝ իրենց տեխնոլոգիաները մինչև հանրային թողարկումը ստուգելու համար: Քանի որ մտահոգություններն աճում են առաջադեմ AI-ի անկանխատեսելի վարքագծի վերաբերյալ, նման գործընկերությունները դառնում են պատասխանատու զարգացման կարևոր բաղադրիչ: Նախաձեռնությունը նպատակ ունի նվազեցնել աղետալի ռիսկերը՝ ապահովելով, որ գեներատիվ AI-ի արագ զարգացումը համապատասխանի անվտանգության չափանիշներին և հանրային շահերին: