Ի՞նչն է խափանվում, երբ թողարկում եք 21 AI գործիք, որոնք երբեք չեն միանում սերվերին

FreeToolHub-ի մշակողները կիսվել են իրենց փորձով՝ ստեղծելով 21 AI գործիք, որոնք աշխատում են բացառապես բրաուզերում՝ WebML-ի միջոցով: Օգտագործելով @huggingface/transformers և onnxruntime-web գրադարանները՝ թիմը խուսափել է սերվերային ծախսերից և ապահովել օգտատերերի գաղտնիությունը: Այնուամենայնիվ, առանց սերվերի AI-ի անցումը բերել է տեխնիկական լուրջ մարտահրավերների: Հիմնական խնդիրները ներառում էին Cross-Origin-Embedder-Policy վերնագրերի կարգավորումը՝ SharedArrayBuffer-ը միացնելու համար, առանց երրորդ կողմի կախվածությունները խափանելու, բջջային օգտատերերի համար մեծ մոդելների ներբեռնման կառավարումը և ONNX runtime փաթեթների միջև տարբերակների կոնֆլիկտների լուծումը: Թիմը նաև պարզել է, որ բրաուզերային AI-ն ներկայումս հարմար չէ այնպիսի առաջադրանքների համար, որոնք պահանջում են կոշտ կառուցվածքային ելք, ինչպիսին է JSON-ի գեներացումը: Ի վերջո, նախագիծը ցույց է տալիս, որ հաճախորդային կողմում AI-ի տեղակայումը վերացնում է ենթակառուցվածքային ծախսերը, սակայն պահանջում է մանրակրկիտ ուշադրություն քվանտացման և քեշավորման ռազմավարությունների նկատմամբ: