Anthropic-ի գործադիր տնօրեն. ժամանակն է անցնել AI-ի բարելավումից դեպի վերահսկողություն
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին կոչ է արել ռազմավարական փոփոխություն կատարել առաջնային արհեստական բանականության զարգացման գործում: Ամոդեին պնդում է, որ ոլորտը պետք է դանդաղեցնի AI-ի հնարավորությունների արագ զարգացումը, որպեսզի անվտանգության և ռիսկերի կառավարման ջանքերը հասցնեն հարմարվել: Քանի որ գեներատիվ AI մոդելները դառնում են ավելի հզոր, ուշադրությունը պետք է կենտրոնանա անվտանգության կոշտ արձանագրությունների և վերահսկողության մեխանիզմների վրա՝ հնարավոր չարաշահումները կանխելու համար: Ձեռնարկությունների համար սա նշանակում է, որ AI գործիքների ներդրման և կառավարման մոտեցումները կարող են փոխվել: Ամոդեիի դիրքորոշումը ընդգծում է AI ոլորտի առաջատարների շրջանում աճող համաձայնությունը այն մասին, որ առաջնային մոդելների անվերահսկելի արագացումը լուրջ անվտանգային ռիսկեր է պարունակում, ինչը պահանջում է ավելի զգուշավոր և կարգավորվող մոտեցում ապագա տեխնոլոգիական առաջընթացի նկատմամբ:
This is a summary. Read the full article at the original source:
Dark ReadingԿապակցված
Պրոմպտ-ինժինիրինգ հուսալիության մոդելների համար՝ հակաավարտուն կլաստերներում
Հոդվածը նվիրված է պրոմպտ-ինժինիրինգի կիրառմանը հակաավարտուն (fault-tolerant) կլաստերների հուսալիության մոդելներ կառուցելու և հաշվարկելու համար՝ օգտագո…
Microsoft-ը առաջարկում է սահմանափակումներ իր AI-ի համար՝ անվտանգության շուրջ բանավեճերի ֆոնին
Microsoft-ը ներկայացրել է արհեստական բանականության նոր մոդելների մշակման ժամանակավոր «վարքագծի կանոնագիրք»՝ նպատակ ունենալով ապահովել, որ AI-ն մնա մար…
Արհեստական բանականության ոլորտը «դումերական» շրջադարձ է կատարել. ի՞նչ է սպասվում հիմա
Արհեստական բանականության առաջատար լաբորատորիաների ղեկավարները, այդ թվում՝ Anthropic-ի Դարիո Ամոդեյը, OpenAI-ի Սեմ Ալթմանը և Google DeepMind-ի Դեմիս Հա…