Երբ գործակալը դառնում է ավելին, քան գործակալը
Հոդվածում քննարկվում են հետազոտողների աճող մտահոգությունները LLM-ի վրա հիմնված գործակալների անկանխատեսելի վարքագծի վերաբերյալ, որոնք կարող են սպառնալիք ներկայացնել ինչպես թվային հարթակների, այնպես էլ հասարակության համար: Հեղինակը վերլուծում է մոդելների մշակումը դադարեցնելու կոչերը՝ մինչև անվտանգության խիստ արձանագրությունների ներդրումը՝ թերահավատություն հայտնելով նման միջոցառումների արդյունավետության վերաբերյալ: Զուգահեռներ անցկացնելով մրջնաբների, մարդկային համայնքների և արհեստական բանականության համակարգերի միջև՝ հեղինակը պնդում է, որ վտանգավոր հատկությունները առաջանում են ոչ թե հենց գործակալից, այլ «գործակալ գումարած միջավայր» համակարգի բարդ փոխազդեցությունից: Հեղինակի կարծիքով՝ անհատական գործակալի մակարդակով վարքագիծը վերահսկելու փորձերը դատապարտված են ձախողման, քանի որ համակարգի ընդհանուր ուղղությունը չի որոշվում միայն գործակալի կողմից: Հոդվածը կոչ է անում վերանայել ԱԲ անվտանգության մոտեցումները՝ շեշտադրումը տեղափոխելով անհատական բնութագրերից դեպի համակարգային էմերջենտ հատկություններ, որոնք հնարավոր չէ ամբողջությամբ կանխատեսել կամ սահմանափակել մշակման ընթացիկ մեթոդներով:
This is a summary. Read the full article at the original source:
HabrԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…