Guardrails գրադարան, որը հրապարակում է իր բացթողումները

Նոր jamjet-guardrails գրադարանը առաջարկում է LLM մուտքային և ելքային տվյալների վավերացման դետերմինիստական մոտեցում՝ թափանցիկությունը դնելով կատարողականի ցուցանիշներից վեր: Ի տարբերություն շատ գործիքների, որոնք տրամադրում են միայն ռիսկի երկուական գնահատականներ, այս գրադարանը հրապարակում է ճշգրտության և վերհիշման չափանիշներ յուրաքանչյուր ստուգման համար: Այն բացահայտ փաստաթղթավորում է իր սահմանափակումները՝ ներառյալ հայտնի ձախողումների կոնկրետ դեպքերի ID-ները, ինչը թույլ է տալիս մշակողներին հասկանալ, թե որտեղ կարող է գործիքը թերանալ: Գրադարանը ներառում է ինը ներկառուցված ստուգումներ՝ PII-ի, գաղտնիքների և կառուցվածքային ներարկումների համար՝ առանց գործարկման ժամանակի կախվածությունների: Պահանջելով, որ բոլոր կատարողական տվյալները ստուգվեն CI-ում, նախագիծը մշակողներին ստիպում է անմիջականորեն գնահատել իրենց պաշտպանիչ մեխանիզմների ճշգրտությունը: Այն նաև ապահովում է միգրացիայի հստակ ուղի llm-guard-ի օգտատերերի համար՝ առաջարկելով հուսալի և աուդիտի համար հարմար այլընտրանք LLM-ների անվտանգության ապահովման համար: