Կարո՞ղ է արդյոք արհեստական բանականությունը ոչնչացնել մեզ բոլորիս. պատասխաններ ձեր հարցերին
MIT Technology Review-ը վերջերս կազմակերպել է քննարկում, որի ընթացքում փորձագետներ Ուիլ Դուգլաս Հևենը և Գրեյս Հակինսը անդրադարձել են արհեստական բանականության (ԱԲ) հետ կապված էքզիստենցիալ ռիսկերին: Մասնագետները քննարկել են սպառնալիքների լայն շրջանակ՝ սկսած ԱԲ-ի միջոցով իրականացվող կիբերհարձակումներից և ինքնավար զենքերից մինչև ավելի հեռահար սցենարներ: Թեև փորձագետները համաձայն են, որ մարդկության լիակատար ոչնչացումը ԱԲ-ի կողմից մնում է գիտաֆանտաստիկայի ոլորտում, նրանք ընդգծում են, որ ԱԲ-ի օգնությամբ հասցվող վնասները, ինչպիսիք են նոր պաթոգենների ստեղծումը կամ ենթակառուցվածքների ապակայունացումը, դառնում են ավելի իրատեսական: Քննարկման հիմնական շեշտադրումը կատարվել է ԱԲ-ի «համապատասխանեցման» (alignment) հետազոտությունների վրա, որոնք նպատակ ունեն ապահովել, որ ինքնավար համակարգերը գործեն մարդկային նպատակներին համահունչ: Խմբագիրները նախազգուշացրել են, որ չնայած վատագույն սցենարներին պատրաստվելը կարևոր է, չպետք է անտեսել ներկայիս ԱԲ տեխնոլոգիաների կողմից առաջացող իրական և առկա խնդիրները:
This is a summary. Read the full article at the original source:
MIT Technology ReviewԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…