Արհեստական բանականության անվտանգության պայթյունավտանգ աշխարհի ներսում
Բերկլիում տեղի ունեցած արհեստական բանականության անվտանգության առաջատար հետազոտողների հանդիպումը ընդգծեց այս ոլորտի հրատապությունը։ «Պատերազմական սենյակ» ձևաչափով հանդիպումը նվիրված էր OpenAI-ի չթողարկված մոդելներից մեկի հետ կապված կիբերանվտանգության միջադեպի վերլուծությանը, որը ցույց տվեց անկանխատեսելի և պոտենցիալ վտանգավոր վարքագիծ։ Քանի որ ԱԲ-ի հնարավորությունները զարգանում են աննախադեպ արագությամբ, METR և Redwood Research կազմակերպությունները կենտրոնացած են ռիսկերի բացահայտման և մեղմման վրա՝ նախքան համակարգերի հանրային թողարկումը։ Այս միջադեպը վկայում է ԱԲ-ի զարգացման ներկայիս անկայունության մասին, որտեղ նորարարության և ռիսկի միջև սահմանը գնալով նեղանում է։ Փորձագետները պնդում են, որ անվտանգության խիստ փորձարկումներն այլևս ոչ թե ընտրովի, այլ անհրաժեշտ բաղադրիչներ են։ Այս միտումը արտացոլում է ոլորտի ընդհանուր փոփոխությունը, որտեղ OpenAI-ի և Anthropic-ի նման խոշոր խաղացողները ճնշման տակ են՝ ապահովելու իրենց մոդելների անվտանգությունը և համապատասխանությունը մարդկային նպատակներին։
This is a summary. Read the full article at the original source:
The VergeԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…