Ռոբոտների անվտանգության վերաիմաստավորումը արհեստական բանականության դարաշրջանում

Քանի որ ռոբոտներն ավելի ու ավելի են հիմնվում մուլտիմոդալ սենսորների և արհեստական բանականության մոդելների վրա որոշումներ կայացնելու համար, ավանդական անվտանգության արձանագրությունները դառնում են անբավարար: Վերջին հետազոտությունները ցույց են տալիս, որ ֆիզիկական ԱԲ համակարգերը խոցելի են հակառակորդի հարձակումների նկատմամբ, որոնք մանիպուլյացիայի են ենթարկում սենսորային տվյալները կամ օգտագործում համակարգային ենթակառուցվածքները: BadNets և BadVLA նման ուսումնասիրությունները ցույց են տալիս, թե ինչպես թաքնված գործարկիչները կարող են ստիպել ռոբոտներին շեղվել նախատեսված վարքագծից՝ առանց ուղղակի վերահսկողության: Բացի այդ, համակարգային մակարդակի խոցելիությունները, ինչպիսիք են UniPwn-ը, ցույց են տալիս, որ նույնիսկ ապահով մարզված մոդելները կարող են վտանգվել անապահով միջնորդ ծրագրերի կամ անլար արձանագրությունների միջոցով: Փորձագետները պնդում են, որ վավերացման ներկայիս մեթոդները հաճախ հաշվի չեն առնում այս հակառակորդային պայմանները: Այս ռիսկերը լուծելու համար հետազոտողները օգտագործում են սիմուլյացիոն գործիքներ, ինչպիսիք են NVIDIA Isaac Sim-ը՝ VicOne Radeis-ի հետ միասին, ռոբոտների վարքագիծը մանիպուլյացիայի ենթարկված մուտքային տվյալների դեմ փորձարկելու համար: