Ինչպե՞ս կարգաբերել մի բան, որին թույլատրված է սխալվել
Dev.to-ում հրապարակված վերջին հոդվածում Պիեռ-Լորան Մեդորին ուսումնասիրում է ինքնավար գործակալների և LLM-ի վրա հիմնված համակարգերի կարգաբերման բարդությունները, որտեղ սխալները բնորոշ են համակարգին: Մոդելին անմիջապես մեղադրելու փոխարեն, Մեդորին առաջարկում է կարգաբերման համակարգված մոտեցում, որն առաջնահերթություն է տալիս ենթակառուցվածքի ստուգմանը: Նա ներկայացնում է շրջանակ, որը հիմնված է երեք հիմնական հարցերի վրա՝ ի՞նչ է թույլատրվում համակարգին սխալ անել, ո՞ր շերտն է առաջացրել սխալը և որքա՞ն ժամանակ է այն տևել: Պահպանելով միջադեպերի գրանցամատյան և իրականացնելով դետերմինիստական ստուգումներ՝ ծրագրավորողները կարող են դուրս գալ տրանսկրիպտներին վստահելուց, որոնք հաճախ թաքցնում են ճշմարտությունը, և փոխարենը կենտրոնանալ համակարգի իրական վարքագծի չափման վրա: Հեղինակն ընդգծում է, որ ոչ դետերմինիստական համակարգերի կարգաբերումը պահանջում է սառեցնել ստուգման գործիքները և խստորեն աուդիտի ենթարկել տվյալների, կոնֆիգուրացիայի և քեշի շերտերը՝ նախքան հենց հարցման (prompt) վերաբերյալ հարցեր բարձրացնելը:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Արհեստական բանականության արագ զարգացման դարաշրջանում կոդ գրելու արժեքը նվազում է, ինչը որակյալ ինժեներական նախագծումը դարձնում է առանցքային հմտություն…
Արհեստական բանականության ամենախիստ քննադատներից մեկը պնդում է, որ «կործանման» մասին խոսակցությունները նպատակ ունեն շեղել մեր ուշադրությունը
Արհեստական բանականության ոլորտի հայտնի հետազոտող Թիմնիթ Գեբրուն պնդում է, որ արդյունաբերության կողմից գոյաբանական ռիսկերի և «ԱԲ-ի կործանման» վրա կենտր…
AI-ի «տրամաբանական» հետքերի մեծ մասը պարզապես պատասխանն է՝ հակառակ գրված
Վերջերս անցկացված հետազոտությունը ուսումնասիրում է ժամանակակից AI մոդելներում «մտքի շղթայի հավատարմության» հայեցակարգը՝ կասկածի տակ դնելով, թե արդյոք…