Արհեստական բանականության «հալյուցինացիան» գրեթե հանգեցրել է ԱՄՆ ռազմական գործողության
Վերջերս հրապարակված զեկույցը բացահայտում է վտանգավոր մի միջադեպ, երբ արհեստական բանականության «հալյուցինացիան» գրեթե հանգեցրել է ԱՄՆ ռազմական չարտոնված գործողության: Այս դեպքը ընդգծում է պաշտպանական համակարգերում լեզվական մեծ մոդելների (LLM) ներդրման հետ կապված լուրջ ռիսկերը: GovAI-ի հետազոտողի խոսքով՝ միջադեպը հիշեցնում է, որ զինծառայողները պետք է լիովին գիտակցեն գեներատիվ ԱԲ-ի անկանխատեսելիությունը: Թեև լեզվական մոդելները կարող են արդյունավետ լինել տվյալների մշակման և ռազմավարական պլանավորման մեջ, դրանց հակվածությունը՝ ստեղծելու հավաստի թվացող, բայց փաստացի սխալ տեղեկատվություն, սպառնալիք է ներկայացնում ազգային անվտանգության համար: Փորձագետները պահանջում են ավելի խիստ վերահսկողություն և մարդկային մասնակցության մեխանիզմների կատարելագործում, նախքան նման տեխնոլոգիաների կիրառումը ռազմական գործողություններում: Միջադեպը լայն քննարկումների առիթ է դարձել ռազմական որոշումների կայացման գործընթացում ԱԲ-ի անվտանգության և հուսալիության վերաբերյալ:
This is a summary. Read the full article at the original source:
TechCrunchԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…