Microsoft-ը առաջարկում է սահմանափակումներ իր AI-ի համար՝ անվտանգության շուրջ բանավեճերի ֆոնին
Microsoft-ը ներկայացրել է արհեստական բանականության նոր մոդելների մշակման ժամանակավոր «վարքագծի կանոնագիրք»՝ նպատակ ունենալով ապահովել, որ AI-ն մնա մարդկությանը ծառայող և վերահսկելի գործիք: Microsoft AI-ի գործադիր տնօրեն Մուստաֆա Սուլեյմանը ընդգծել է անվտանգության կանոնների հրատապ անհրաժեշտությունը՝ ինքնավար համակարգերի նկատմամբ վերահսկողությունը կորցնելու մտավախությունների ֆոնին: Առաջարկվող կանոնները արգելում են AI-ին օգնել զենքի մշակմանը, բռնի կամ բացահայտ բովանդակություն ստեղծելուն կամ մարդկային գիտակցությունը ընդօրինակելուն: Այս քայլը հաջորդում է ոլորտում աճող մտահոգություններին, քանի որ Anthropic-ի և OpenAI-ի ղեկավարները նույնպես կոչ են անում խստացնել անվտանգության միջոցները և ներդնել երրորդ կողմի վերահսկողություն: Թեև որոշ փորձագետներ ողջունում են նախաձեռնությունը, մյուսները թերահավատորեն են մոտենում՝ նախազգուշացնելով, որ նման ստանդարտները կարող են ամրապնդել խոշոր լաբորատորիաների գերիշխանությունը և անարդյունավետ լինել առանց գլոբալ համագործակցության:
This is a summary. Read the full article at the original source:
The Guardian TechnologyԿապակցված
Պրոմպտ-ինժինիրինգ հուսալիության մոդելների համար՝ հակաավարտուն կլաստերներում
Հոդվածը նվիրված է պրոմպտ-ինժինիրինգի կիրառմանը հակաավարտուն (fault-tolerant) կլաստերների հուսալիության մոդելներ կառուցելու և հաշվարկելու համար՝ օգտագո…
Արհեստական բանականության ոլորտը «դումերական» շրջադարձ է կատարել. ի՞նչ է սպասվում հիմա
Արհեստական բանականության առաջատար լաբորատորիաների ղեկավարները, այդ թվում՝ Anthropic-ի Դարիո Ամոդեյը, OpenAI-ի Սեմ Ալթմանը և Google DeepMind-ի Դեմիս Հա…
Pion՝ գործակալ, որը նախատեսված է ցանկացած ընկերություն ինքնավար կերպով ղեկավարելու համար
Andon Labs-ը ներկայացրել է Pion-ը՝ ինքնավար գործակալների հարթակ, որը նախատեսված է բիզնես գործընթացները ինքնուրույն կառավարելու համար: Համակարգը նպատակ…