Ձեր գործակալի ծախսերի խնդիրը մոդելը չէ։ Դա այն քայլերն են, որոնք դուք երբեք չեք չափել։
Գործակալական համակարգերի վերլուծությունը ցույց է տալիս, որ բարձր ծախսերը հազվադեպ են պայմանավորված առաջադեմ մոդելների ընտրությամբ, այլ ավելի շուտ՝ մանրամասն դիտարկման բացակայությամբ: Մշակողները հաճախ օգտագործում են թանկարժեք մոդելներ յուրաքանչյուր քայլի համար՝ առանց հետևելու առանձին թոքենների սպառմանը: Հեղինակը պնդում է, որ գործակալական հանգույցներում ծախսերի կառավարումը պահանջում է ծառայաձև մոտեցում՝ գրանցելով այնպիսի ցուցանիշներ, ինչպիսիք են քայլի ID-ն, գործիքների օգտագործումը և կրկնակի փորձերի քանակը: Իրականացնելով քայլ առ քայլ երթուղավորում և խելացի անվտանգության մեխանիզմներ՝ թիմերը կարող են օպտիմալացնել բյուջեն՝ առանց արդյունավետությունը զոհաբերելու: Փոխարենը կույր կերպով ավելի էժան մոդելների անցնելու, հոդվածը շեշտում է, որ ծախսերի վերահսկման ամենաարդյունավետ միջոցը երթուղավորման շերտի ստեղծումն է, որը կարող է չափել, վերագրել և դինամիկ կերպով փոխարինել մոդելները՝ ելնելով աշխատանքային հոսքի յուրաքանչյուր քայլի կոնկրետ պահանջներից:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Ինչո՞ւ «մոնիտորինգը» բավարար չէ AI գործակալների համար. ինչպե՞ս դարձնել պատվիրակումը կրիպտոգրաֆիկորեն ստուգելի
Քանի որ AI գործակալները ձեռք են բերում ինքնավարություն, ավանդական գրանցման և մոնիտորինգի համակարգերը դառնում են անբավարար հաշվետվողականությունն ապահով…
Claude-ի կարգավիճակը. Բարձրացված սխալների մակարդակ մի քանի մոդելներում
Anthropic ընկերությունը պաշտոնապես հաստատել է իր Claude AI հարթակում ծառայության խափանման մասին: Ընկերության կարգավիճակի էջի համաձայն՝ օգտատերերը բախվ…
AI «դերասանուհի» Թիլի Նորվուդը ուղիղ եթերում տեխնիկական խափանում է ունեցել
Թիլի Նորվուդը՝ արհեստական բանականությամբ ստեղծված թվային դերասանուհին, վերջերս ուղիղ եթերում տեղի ունեցած հարցազրույցի ժամանակ անսպասելի խնդիրների է բ…