Կոդ | մոդել սահմանը որպես ճարտարապետական օբյեկտ
Հոդվածում քննարկվում է LLM-գործակալների անկայունության խնդիրը, որն առաջանում է, երբ մշակողները փորձում են բոլոր որոշումները՝ հարցման մեկնաբանումից մինչև պատասխանի ձևաչափի ընտրություն, թողնել մոդելի վրա: Հեղինակը նշում է, որ առաջադրանքների բարդացմանը զուգընթաց՝ համակարգային հուշումները (prompts) վերածվում են հակասական «կարկատանների» հավաքածուի, ինչը հանգեցնում է համակարգի անկանխատեսելի վարքագծի: Հիմնական թեզն այն է, որ կոդի և մոդելի միջև սահմանը պետք է լինի հստակ սահմանված ճարտարապետական օբյեկտ: Փոխանակ մոդելին ամեն ինչ վստահելուն՝ մշակողները պետք է հստակ տարանջատեն պատասխանատվության գոտիները. կոշտ կանոններն ու տվյալների արտածման տրամաբանությունը ավելի լավ է իրականացնել ծրագրային կոդով, իսկ մոդելին թողնել բնական լեզվի մեկնաբանողի դերը: Այս մոտեցումը բարձրացնում է համակարգի կայունությունը, կանխատեսելիությունը և մասշտաբայնությունը՝ գործակալների մշակումը վերածելով կառուցվածքային ինժեներական գործընթացի:
This is a summary. Read the full article at the original source:
HabrԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…