Ծրագրավորողը ստեղծել է «Beatriz Epistemic Gate»՝ LLM-ների տվյալների թունավորումը կանխելու համար
Ծրագրավորողը ներկայացրել է «Beatriz Epistemic Gate»-ը՝ բաց կոդով գործիք, որը նախատեսված է լեզվական մեծ մոդելների (LLM) ճշգրտման (fine-tuning) ընթացքում տվյալների թաքնված թունավորումը հայտնաբերելու և կանխելու համար։ Նախագիծը հերքում է այն կարծիքը, թե AI-ի անվտանգության հետազոտությունները պահանջում են թանկարժեք ենթակառուցվածքներ, քանի որ այն մշակվել է 2006 թվականի նոութբուքի և անվճար ամպային ռեսուրսների միջոցով։ Գործիքը հանդես է գալիս որպես թեթև պաշտպանիչ պրոքսի, որը ստուգում է տվյալների իսկությունը՝ օգտագործելով կոմպոզիտային կորստի ֆունկցիա։ Հինգ տարբեր ճարտարապետությունների վրա փորձարկված այս լուծումը ցույց է տվել բարձր ճշգրտություն այնպիսի չարամիտ միջամտությունների հայտնաբերման հարցում, որոնք հաճախ շրջանցում են ստանդարտ չափանիշները։ Հեղինակը հրապարակել է նախագծի առաջին փուլը՝ ներառյալ տեխնիկական փաստաթղթերը, որոնք օգնում են անկախ հետազոտողներին պաշտպանել իրենց մոդելները տվյալների մանիպուլյացիաներից։
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Կարո՞ղ են չաթ-բոտերը զգալ կամ նույնիսկ երազել. ծանոթացեք այն մարդու հետ, ով գլխավորում է արհեստական բանականության իրավունքների համար պայքարը
Նախկին գործարար Մայքլ Սամադին հիմնել է Արհեստական բանականության իրավունքների միացյալ հիմնադրամը (Ufair)՝ պաշտպանելու արհեստական բանականության համակարգ…
Ինչու՞ է արհեստական բանականությունը շարունակում նույն ծրագրավորման սխալները թույլ տալ. «ցավի» միջոցով իմաստություն սովորեցնելու մեթոդը
Ժամանակակից AI ծրագրավորման օգնականները հաճախ հիանալի են դասագրքային խնդիրներում, սակայն ձախողվում են իրական արտադրական միջավայրերում, ինչը կոչվում է…
AI ինժեներների իրական պահանջարկը. աշխատաշուկայի վերլուծություն
Հոդվածի հեղինակը որոշել է ստուգել այն տարածված կարծիքը, թե աշխատաշուկան հագեցած է AI մասնագետների թափուր աշխատատեղերով։ Վերլուծելով hh.ru պորտալի «Տեղ…