Ինչպե՞ս կանխել LLM-ի կողմից գրված կոդում API բանալիների արտահոսքը. լռելյայն՝ գաղտնի

GoodBarber-ից Պիեռ-Լորան Մեդորին ներկայացնում է ռազմավարություն, որը կանխում է LLM-ների կողմից գեներացված կոդում API բանալիների պատահական արտահոսքը: Փոխանակ հիմնվելու օրինաչափությունների որոնման (pattern-matching) սկաներների վրա, որոնք հաճախ սխալ արդյունքներ են տալիս, թիմը ներդրել է «լռելյայն՝ գաղտնի» քաղաքականություն: Համակարգը պահանջում է, որ LLM-ը հայտարարագրի API բանալիները և դրանց փոխանցման եղանակները որպես փաստացի տվյալներ: Վավերացման շերտը ստուգում է, որ ցանկացած բանալի համարվի գաղտնի, եթե այն չի պատկանում մատակարարի կողմից հրապարակային հայտարարված կատեգորիային: Դասակարգման պատասխանատվությունը մոդելի դատողությունից կոդի վրա հիմնված խիստ կանոնների տեղափոխելով՝ հարթակը երաշխավորում է, որ գաղտնիքները անցնում են սերվերային պրոքսիի միջոցով: Այս մոտեցումը ցույց է տալիս, որ թեև մոդելները արդյունավետ են փաստեր գտնելու հարցում, դրանց չպետք է վստահել անվտանգության վերաբերյալ որոշումներ կայացնելիս՝ նվազագույնի հասցնելով հավատարմագրերի արտահոսքի վտանգը: