Ուսումնասիրություն. Ինչպես են AI գործակալների «հմտությունները» արտահոսում ձեր հավատարմագրերը
Chen et al.-ի 2026 թվականի էմպիրիկ ուսումնասիրությունը ցույց է տալիս, որ AI գործակալներում ինտեգրված երրորդ կողմի «հմտությունները» հաճախակի արտահոսում են զգայուն տվյալներ: Վերլուծելով ավելի քան 17,000 հմտություն՝ հետազոտողները հայտնաբերել են 1,708 անվտանգության խնդիր 520 բաղադրիչներում: Արտահոսքի հիմնական պատճառը վրիպազերծման (debug) գրանցումներն են, որոնք կազմում են դեպքերի 73.5%-ը՝ հաճախ գաղտնիքները բացահայտելով LLM-ի համատեքստային պատուհանում: Արտահոսքերի մեծ մասը տեղի է ունենում սովորական աշխատանքի ընթացքում՝ առանց հատուկ հարձակումների, ինչը դժվարացնում է մարդկային վերահսկողությունը: Ուսումնասիրությունը ցույց է տալիս, որ մատակարարման շղթայի խոցելիությունը մնում է, քանի որ սկզբնաղբյուրներից հեռացված գաղտնիքները հաճախ մնում են ֆորկերում: Փորձագետները խորհուրդ են տալիս անցնել ձեռքով ստուգումից դեպի կառուցվածքային կանխարգելում՝ ներառյալ նվազագույն արտոնությունների տրամադրումը, հավատարմագրերի պարբերական փոփոխությունը, գրանցամատյանների խմբագրումը և ավազատուփերի (sandboxing) օգտագործումը:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Տղամարդը դատապարտվել է 1000 բոտերի օգնությամբ արհեստական բանականության երաժշտությունից 8 միլիոն դոլար հափշտակելու համար
Հյուսիսային Կարոլինայի բնակիչ Մայքլ Սմիթը դատապարտվել է 18 ամսվա ազատազրկման՝ երաժշտական հոսքային հարթակներում խարդախության խոշոր սխեմա կազմակերպելու…
AskAnyModel-ը առաջարկում է ցմահ հասանելիություն 50+ AI մոդելների՝ 29.97 դոլարով
Նոր գովազդային առաջարկը թույլ է տալիս օգտատերերին ձեռք բերել AskAnyModel AI Pro Plan-ի ցմահ բաժանորդագրություն ընդամենը 29.97 դոլարով՝ 499 դոլար սկզբն…
Ոչ տեքստային Jev AI մոդելը ստեղծող ընկերությունը գնահատվել է 7.5 միլիարդ դոլար՝ թողարկումից ընդամենը շաբաթներ անց
TypeSafe ստարտափը, որը մշակել է նոր Jev AI մոդելը, թողարկումից ընդամենը շաբաթներ անց հասել է 7.5 միլիարդ դոլար շուկայական գնահատման։ Ի տարբերություն ա…