Եթե արհեստական բանականության ոլորտը հետևեր սեփական հետազոտություններին, այն գուցե արդեն դադարեցրած լիներ աշխատանքը
Wired-ի վերլուծությունը ընդգծում է արհեստական բանականության ոլորտում անվտանգության և թափանցիկության շուրջ աճող լարվածությունը: Թեև Anthropic-ի գործադիր տնօրենի նման առաջնորդները շեշտում են, որ ԱԲ անվտանգության ապագան կախված է մոդելների «մտածողությունը» մեկնաբանելու մեր կարողությունից, մեխանիկական մեկնաբանելիության վերաբերյալ ընթացիկ հետազոտությունները ցույց են տալիս, որ այդ համակարգերը մնում են անթափանց: Հոդվածում պնդվում է, որ եթե ԱԲ ընկերությունները խստորեն հետևեին իրենց ներքին անվտանգության հետազոտությունների եզրակացություններին, նրանք գուցե արդեն դադարեցրած լինեին զարգացման գործընթացը: Փոխարենը, ոլորտը շարունակում է ընդլայնել ավելի մեծ մոդելներ՝ չնայած այն փաստին, որ մենք չունենք անհրաժեշտ գործիքներ դրանց որոշումների կայացման գործընթացները լիարժեք հասկանալու համար: Անվտանգության մասին հռետորաբանության և ագրեսիվ ներդրման ժամանակացույցերի միջև այս անհամապատասխանությունը լուրջ մտահոգություններ է առաջացնում առաջադեմ ԱԲ համակարգերի երկարաժամկետ ռիսկերի վերաբերյալ:
This is a summary. Read the full article at the original source:
WiredԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…