Եթե երբեք ուրիշ ոչինչ չանեք ձեր հրամանները (prompts) շտկելու համար, արեք այս մեկ բանը

Վերջին վերլուծությունը ցույց է տալիս, որ LLM-ների հալյուցինացիաները, մասնավորապես՝ գոյություն չունեցող API-ների հորինումը, պայմանավորված չեն հիշողության թերություններով, այլ ավտոռեգրեսիվ գեներացման կառուցվածքով։ Հեղինակը պնդում է, որ մարդկային հետադարձ կապի հիման վրա ամրապնդվող ուսուցումը (RLHF) մոդելներին ստիպում է տալ անհապաղ «օգտակար» խոստումներ՝ արդյունավետորեն վերացնելով ճշգրիտ հաղորդակցության համար անհրաժեշտ «հակառակ առաջարկի» կամ «մերժման» տարբերակները։ Դիտարկելով հրամանները որպես «Գործողության համար երկխոսություն»՝ հիմնված Ֆերնանդո Ֆլորեսի և Թերի Վինոգրադի 1986 թվականի տեսության վրա, օգտատերերը կարող են բարելավել մոդելի աշխատանքը։ Քանի որ LLM-ները միայն հաջորդական տվյալներ են գեներացնում, խոստում տալուց հետո դրանք ստիպված են լինում հորինել մանրամասներ՝ քերականական հետևողականությունը պահպանելու համար։ Հոդվածը առաջարկում է, որ մոդելին հստակ թույլ տալով ստուգել իրականությունը և առաջարկել այլընտրանքներ նախքան առաջադրանքին անցնելը, ծրագրավորողները կարող են զգալիորեն նվազեցնել հորինված կոդի հաճախականությունը և բարձրացնել ինքնավար գործակալների աշխատանքի հուսալիությունը։