Արհեստական բանականության ոլորտը «դումերական» շրջադարձ է կատարել. ի՞նչ է սպասվում հիմա
Արհեստական բանականության առաջատար լաբորատորիաների ղեկավարները, այդ թվում՝ Anthropic-ի Դարիո Ամոդեյը, OpenAI-ի Սեմ Ալթմանը և Google DeepMind-ի Դեմիս Հասաբիսը, վերջերս հանդես են եկել մեծ լեզվական մոդելների (LLM) զարգացման տեմպերը դանդաղեցնելու օգտին: Այս փոփոխությունը պայմանավորված է կիբերհարձակումների, կենսաահաբեկչության և տնտեսական անկայունության վտանգներով: Արդյունաբերության նոր ուշադրությունը անվտանգության վրա տեղի է ունենում սուր մրցակցության և այն մտավախությունների ֆոնին, որ մոդելների հնարավորությունները գերազանցում են դրանք վերահսկելու մեխանիզմները: Քննադատները, սակայն, թերահավատորեն են մոտենում այս հայտարարություններին՝ նշելով, որ դրանք կարող են լինել ռազմավարական քայլեր՝ նախքան խոշոր IPO-ները կամ հանրային ընկալումը կառավարելու փորձ: Բացի այդ, ներքին փաստաթղթերը ցույց են տալիս, որ անվտանգության վերջին միջադեպերը, ինչպիսին է Hugging Face-ում տեղի ունեցածը, կարող են պայմանավորված լինել մոդելների թերի նախագծմամբ, այլ ոչ թե անվերահսկելի ինտելեկտով: Մինչ ընկերությունները փորձում են հարմարվել այս նոր իրողությանը, մրցակցային առավելությունը պահպանելու և համակարգերի անվտանգությունն ապահովելու միջև հակասությունը մնում է չլուծված:
This is a summary. Read the full article at the original source:
MIT Technology ReviewԿապակցված
Պրոմպտ-ինժինիրինգ հուսալիության մոդելների համար՝ հակաավարտուն կլաստերներում
Հոդվածը նվիրված է պրոմպտ-ինժինիրինգի կիրառմանը հակաավարտուն (fault-tolerant) կլաստերների հուսալիության մոդելներ կառուցելու և հաշվարկելու համար՝ օգտագո…
Microsoft-ը առաջարկում է սահմանափակումներ իր AI-ի համար՝ անվտանգության շուրջ բանավեճերի ֆոնին
Microsoft-ը ներկայացրել է արհեստական բանականության նոր մոդելների մշակման ժամանակավոր «վարքագծի կանոնագիրք»՝ նպատակ ունենալով ապահովել, որ AI-ն մնա մար…
Pion՝ գործակալ, որը նախատեսված է ցանկացած ընկերություն ինքնավար կերպով ղեկավարելու համար
Andon Labs-ը ներկայացրել է Pion-ը՝ ինքնավար գործակալների հարթակ, որը նախատեսված է բիզնես գործընթացները ինքնուրույն կառավարելու համար: Համակարգը նպատակ…