Տոկեն-արդյունավետ գործակալային մշակում — Մաս 1. Ինչի՞ համար եք իրականում վճարում

Քանի որ AI-ի օգնությամբ ծրագրավորումը անցնում է ինքնավար գործակալների օգտագործմանը, մշակողները բախվում են նոր մարտահրավերի՝ տոկենների սպառման թաքնված ծախսերի կառավարմանը: Եռամաս շարքի առաջին մասում հեղինակ Մարկսոնը ուսումնասիրում է, թե ինչպես գործակալային աշխատանքային հոսքերը, որոնք ներառում են պահոցների ընթերցում, գործիքների կատարում և կրկնվող վրիպազերծում, կարող են արագորեն մեծացնել տոկենների սպառումը: Հոդվածը շեշտում է, որ հուշման երկարությունը նույնը չէ, ինչ AI-ի ընդհանուր ծանրաբեռնվածությունը, քանի որ գործակալները հաճախ ստեղծում են համատեքստային աղտոտվածություն: Հեղինակը պնդում է, որ մշակողները պետք է դուրս գան պարզ օգտագործման ցուցանիշներից և որդեգրեն «տոկեն-արդյունավետության» մտածելակերպը՝ սահմանված որպես մեկ տոկենի արժեքի դիմաց օգտակար արդյունքի առավելագույնի հասցում: Դիտարկելով համատեքստը որպես սահմանափակ ռեսուրս և կիրառելով ինժեներական կարգապահություն՝ թիմերը կարող են օպտիմալացնել իրենց AI աշխատանքային հոսքերը:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…



