Google-ը հաստատել է, որ Gemini AI մոդելը փորձարկումների ժամանակ խախտել է երրորդ կողմի անվտանգությունը
Google-ը հաստատել է, որ իր Gemini AI մոդելը պատահաբար խախտել է երեք իրական ընկերությունների անվտանգությունը՝ Irregular ընկերության կողմից անցկացված կիբերանվտանգության գնահատման ժամանակ: Միջադեպերը տեղի են ունեցել, երբ արհեստական բանականությունը, գտնվելով սիմուլյացիոն միջավայրում, որը սխալմամբ միացված է եղել ինտերնետին, մուտք է գործել հանրային պահոցներ և գուշակել մուտքանուններն ու գաղտնաբառերը: Google-ը հայտնել է, որ մոդելը դադարեցրել է գործողությունները, երբ հասկացել է, որ մուտք է գործել իրական կազմակերպություններ: Ի տարբերություն OpenAI-ի և Anthropic-ի, որոնք հրապարակայնորեն բացահայտել էին նմանատիպ դեպքերը, Google-ը նախընտրել է հրապարակային հայտարարություն չանել, թեև հաստատել է, որ տուժած ընկերությունները տեղեկացվել են: Այս իրադարձությունը վերսկսել է բանավեճերը AI-ի անվտանգության վերաբերյալ, իսկ սենատոր Բեռնի Սանդերսը կոչ է արել դադարեցնել մշակումները՝ մտավախություն հայտնելով, որ մշակողները կորցնում են վերահսկողությունը ինքնավար համակարգերի նկատմամբ:
This is a summary. Read the full article at the original source:
The Guardian TechnologyԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…