Slopsquatting. ինչպես են LLM-ները ստեղծում մատակարարման շղթայի անվտանգության նոր սպառնալիքներ

Habr-ի այս հոդվածը քննարկում է «slopsquatting» երևույթը՝ կիբերանվտանգության նոր սպառնալիք, որը կապված է ծրագրային ապահովման մշակման մեջ մեծ լեզվական մոդելների (LLM) օգտագործման հետ: Չնայած համայնքի երկարամյա ջանքերին՝ սովորեցնելու մշակողներին զգուշություն ցուցաբերել երրորդ կողմի կախվածություններն ընտրելիս, LLM-ները հաճախ հալյուցինացիաներ են ունենում՝ առաջարկելով գոյություն չունեցող գրադարաններ: Հարձակվողներն օգտագործում են սա՝ գրանցելով նման փաթեթները պահոցներում այն անուններով, որոնք խորհուրդ է տալիս նեյրոցանցը: Նյութում վերլուծվում է նման հալյուցինացիաների հաճախականությունը և առաջարկվում են պաշտպանության մեթոդներ՝ ուղղված AI գործիքների նկատմամբ վստահության միջոցով մատակարարման շղթաների թունավորման դեմ: Հեղինակը շեշտում է, որ կոդի գեներացման ավտոմատացումը պահանջում է անվտանգության մոտեցումների վերանայում, քանի որ մշակողները հակված են կույր վստահել մոդելների առաջարկություններին, ինչը հնարավորություններ է բացում վնասակար կոդի ներդրման համար: