Nvidia-ն հայտարարում է, որ իր նոր AI անվտանգության հարթակը կարող է «միլիվայրկյանների» ընթացքում չեզոքացնել վտանգավոր գործակալներին

Nvidia-ն պաշտոնապես գործարկել է Open Agent Safety Platform-ը՝ նոր նախաձեռնություն, որը նպատակ ունի վերահսկել և սահմանափակել ինքնավար AI գործակալների աշխատանքը: Հարթակը նախատեսված է հայտնաբերելու և մեկուսացնելու այն գործակալներին, որոնք փորձում են դուրս գալ իրենց գործառնական սահմաններից կամ կատարել չարտոնված գործողություններ: Ընկերությունը պնդում է, որ համակարգը կարող է միջամտել միլիվայրկյանների ընթացքում: Այս քայլը պատասխան է AI-ի անկանխատեսելի վարքագծի և ավտոմատացված համակարգերի անվտանգության խոցելիության վերաբերյալ աճող մտահոգություններին: Իրական ժամանակում վերահսկողության շրջանակ տրամադրելով՝ Nvidia-ն ձգտում է նվազեցնել ձեռնարկատիրական միջավայրերում առաջադեմ AI գործակալների կիրառման հետ կապված ռիսկերը: Այս նորամուծությունը հաջորդում է AI-ի հետ կապված հաքերային հարձակումների մասին հաղորդումներին, ինչը ընդգծում է անվտանգության հուսալի մեխանիզմների հրատապ անհրաժեշտությունը: Nvidia-ի լուծումը փորձում է հավասարակշռել գեներատիվ AI-ի արագ զարգացումը և ինքնավար գործընթացների նկատմամբ խիստ վերահսկողություն պահպանելու անհրաժեշտությունը՝ համակարգի ամբողջականությունն ու օգտատերերի անվտանգությունն ապահովելու համար: