Նեյրոպրոքսի գործակալների համար. Մաս 1՝ GigaChat

Հեղինակը կիսվում է Sber-ի GigaChat լեզվական մոդելը Hermes Agent գործակալային համակարգում ինտեգրելու իր փորձով։ Նախկինում որպես հիմնական LLM օգտագործվում էր DeepSeek-ը, սակայն առաջացավ ռուսերենի աջակցությամբ և ռուսական իրավասության պահանջներին համապատասխանող տեղական լուծումներ փորձարկելու անհրաժեշտություն։ Կարգավորման գործընթացում պարզվեց, որ կոնֆիգուրացիոն ֆայլում API բանալին պարզապես փոխարինելը բավարար չէ համակարգի ճիշտ աշխատանքի համար։ Հոդվածում մանրամասն նկարագրվում են այն տեխնիկական դժվարությունները, որոնք առաջացել են երրորդ կողմի գործակալային ֆրեյմվորքը GigaChat-ի սեփական API-ի հետ համատեղելիս։ Սա շարքի առաջին մասն է, որը նվիրված է ունիվերսալ նեյրոպրոքսիի ստեղծմանը, որը թույլ կտա գործակալներին անխափան անցում կատարել տարբեր մոդելների միջև՝ հարթելով API-ների և պատասխանների ձևաչափերի տարբերությունները։ Նյութը օգտակար կլինի գործակալային համակարգերի հետ աշխատող և իրենց LLM-ների բազմազանությանը ձգտող մշակողների համար։