nginx-ը հոսքային տվյալները փոխանցում է նորմալ, իսկ HAProxy-ն դրանք պահում է 206 մվ-ով

Վերջերս կատարված կատարողականի վերլուծությունը ուսումնասիրում է այն տարածված կարծիքը, թե nginx-ը բուֆերացնում է Server-Sent Events (SSE) հոսքերը, ինչը հաճախ ստիպում է մշակողներին անջատել proxy_buffering-ը։ Հետազոտությունը ցույց է տալիս, որ nginx-ը բն بطորոշ կերպով չի բուֆերացնում տոկենների հոսքերը։ Ի հակադրություն, HAProxy-ն իր լռելյայն կոնֆիգուրացիայում առաջին տոկենի համար ավելացնում է 206 մվ ուշացում՝ փոքր շրջանակները միավորելով ավելի մեծ փաթեթների մեջ։ Հեղինակը ցույց է տալիս, որ լայնորեն խորհուրդ տրվող «X-Accel-Buffering: no» վերնագիրը nginx-ի հատուկ կոնվենցիա է, որը որևէ ազդեցություն չունի HAProxy-ի վրա։ Թեև proxy_buffering-ը կարող է փոքր ուշացումներ առաջացնել մեծ ծավալի տվյալների դեպքում, այն տոկենների հոսքի ուշացման հիմնական պատճառը չէ։ Բացահայտումները շեշտում են, որ LLM տոկենների հոսքի դեպքում HAProxy-ի լռելյայն վարքագիծն է իրական խոչընդոտը, այլ ոչ թե nginx-ի կարգավորումները։