ԱՄՆ զինված ուժերը բախվել են ռիսկերի՝ արհեստական բանականության կողմից կեղծ հետախուզական զեկույցի պատճառով
ԱՄՆ զինված ուժերը վերջերս բախվել են անվտանգության լուրջ խնդրի՝ կապված հետախուզական տվյալների հավաքագրման մեջ արհեստական բանականության կիրառման հետ: Ըստ հաղորդագրությունների՝ ԱԲ համակարգը ստեղծել է «հալյուցինացիոն» հետախուզական զեկույց չինական ռազմանավի դիրքի վերաբերյալ: Այս կեղծ տվյալները գրեթե հանգեցրել են մարտավարական արձագանքի, մինչև վերլուծաբանները հայտնաբերել են սխալը: Միջադեպն ընդգծում է զգայուն ռազմական որոշումների կայացման գործընթացում գեներատիվ ԱԲ-ի ներդրման հետ կապված աճող ռիսկերը: Փորձագետները զգուշացնում են, որ թեև ԱԲ-ն առաջարկում է արագություն և տվյալների մշակման առավելություններ, «հալյուցինացիայի» երևույթը՝ երբ մոդելները վստահորեն կեղծ տեղեկատվությունը ներկայացնում են որպես փաստ, լուրջ սպառնալիք է ազգային անվտանգության համար: Պաշտպանության նախարարությունը այժմ ավելի մեծ ճնշման տակ է՝ ներդնելու ավելի խիստ ստուգման արձանագրություններ և մարդկային վերահսկողության մեխանիզմներ՝ նմանատիպ միջադեպերը կանխելու համար:
This is a summary. Read the full article at the original source:
Hacker News (YC)Կապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…