Մենք չափազանց մեծ հույսեր ենք կապում արհեստական բանականության՝ «ոչ» ասելու կարողության հետ
MIT Technology Review-ի վերջին հոդվածը վերլուծում է արհեստական բանականության անվտանգության հետ կապված մարտահրավերները՝ մասնավորապես արդյունաբերության կախվածությունը մոդելներին վնասակար հարցումները մերժել սովորեցնելուց: Թեև OpenAI-ի և Anthropic-ի նման ընկերությունները ներդնում են սահմանափակումներ՝ կանխելու ԱԲ-ի օգնությունը վտանգավոր գործողություններում, ինչպիսիք են զենքի ստեղծումը կամ կիբերհարձակումները, այս մերժման մեխանիզմները հավանականային են, այլ ոչ թե բացարձակ: Փորձագետները նշում են, որ քանի որ ԱԲ մոդելները վերապատրաստվում են հսկայական տվյալների բազաների վրա, չարաշահման հնարավորությունը մնում է դրանց հիմքում: Ավելին, օգտակար և վնասակար բովանդակության միջև սահմանագիծ գծելու անորոշությունը բարդացնում է անվտանգության ջանքերը: ԱԲ-ի հնարավորությունների ընդլայնմանը զուգընթաց՝ այս անկատար համակարգերի վրա հույս դնելը ստեղծում է վտանգավոր իրավիճակ, որտեղ մեկ ձախողումը կարող է լուրջ հետևանքներ ունենալ: Հոդվածը հուշում է, որ անվտանգության ներկայիս միջոցները կարող են բավարար չլինել՝ զսպելու ավելի հզոր և ինքնավար ԱԲ համակարգերի սպառնալիքները:
This is a summary. Read the full article at the original source:
MIT Technology ReviewԿապակցված
Տղամարդը դատապարտվել է 1000 բոտերի օգնությամբ արհեստական բանականության երաժշտությունից 8 միլիոն դոլար հափշտակելու համար
Հյուսիսային Կարոլինայի բնակիչ Մայքլ Սմիթը դատապարտվել է 18 ամսվա ազատազրկման՝ երաժշտական հոսքային հարթակներում խարդախության խոշոր սխեմա կազմակերպելու…
AskAnyModel-ը առաջարկում է ցմահ հասանելիություն 50+ AI մոդելների՝ 29.97 դոլարով
Նոր գովազդային առաջարկը թույլ է տալիս օգտատերերին ձեռք բերել AskAnyModel AI Pro Plan-ի ցմահ բաժանորդագրություն ընդամենը 29.97 դոլարով՝ 499 դոլար սկզբն…
Ոչ տեքստային Jev AI մոդելը ստեղծող ընկերությունը գնահատվել է 7.5 միլիարդ դոլար՝ թողարկումից ընդամենը շաբաթներ անց
TypeSafe ստարտափը, որը մշակել է նոր Jev AI մոդելը, թողարկումից ընդամենը շաբաթներ անց հասել է 7.5 միլիարդ դոլար շուկայական գնահատման։ Ի տարբերություն ա…