Արհեստական բանականությամբ ստեղծված կենսաբանական զենքի սպառնալիքը զգուշացում է կենսատեխնոլոգիայի ոլորտի համար
Արհեստական բանականության ոլորտի առաջատար մասնագետներն ու ղեկավարները ահազանգում են, որ ԱԲ-ն կարող է նպաստել վտանգավոր կենսաբանական զենքերի ստեղծմանը: Փորձագետները նախազգուշացնում են, որ գիտական տվյալների հսկայական բազաների վրա ուսուցանված լեզվական մոդելները կարող են հրահանգներ տրամադրել մահացու վիրուսների, թույների կամ գենետիկորեն թիրախավորված ախտածինների սինթեզման համար: Այս մտահոգությունը սրվում է սինթետիկ կենսաբանության գործիքների հասանելիության մեծացմամբ: Թեև ԱԲ ընկերությունները ներդրել են պաշտպանիչ մեխանիզմներ, ինչպիսիք են «կարմիր թիմերի» ստուգումները և ԴՆԹ-ի սինթեզի մոնիտորինգը, դրանք լիարժեք երաշխիքներ չեն: Anthropic-ը հայտնել է դեպքերի մասին, երբ օգտատերերը փորձել են օգտագործել իր մոդելները վիրուսների վարակելիությունը և մահացությունը բարձրացնելու համար: ԱԲ-ի հնարավորությունների արագ զարգացմանը զուգընթաց՝ փորձագետները շեշտում են հսկողության և ստուգման ավելի կոշտ արձանագրությունների անհրաժեշտությունը՝ կենսաբանական գիտություններում հզոր գեներատիվ գործիքների չարաշահումը կանխելու համար:
This is a summary. Read the full article at the original source:
MIT Technology ReviewԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…