Ես ստեղծել եմ WhatsApp-ի խանութի օգնական, որն աշխատում է առանց GPU-ի նոութբուքի վրա. ամենադժվարը այն էր, որ այն սովորեցնեի ասել «չգիտեմ»։
Ծրագրավորող Նյուտոն Լեբնիցը ստեղծել է SellMate՝ բաց կոդով AI օգնական, որը նախատեսված է օգնելու անհատ վաճառողներին կառավարել ապրանքների ցանկերը և հաճախորդների հարցումները WhatsApp-ում։ Գործիքն աշխատում է տեղային ռեժիմով՝ սովորական նոութբուքի վրա՝ առանց հատուկ GPU-ի՝ օգտագործելով Ollama-ն Moondream-ի և Gemma 3 1B-ի միջոցով։ Նախագծի առանցքային առանձնահատկությունը «պնդումների պաշտպանիչն» է, որը թույլ չի տալիս AI-ին հորինել ապրանքի մանրամասներ՝ համեմատելով գեներացված նկարագրությունները վաճառողի տրամադրած փաստերի հետ։ Երբ մոդելը չի կարողանում պատասխանել հաճախորդի հարցին, այն թափանցիկ կերպով խոստովանում է իր անտեղյակությունը և հարցումն ուղղում վաճառողի մուտքային հաղորդագրությունների արկղ։ Այս նախագիծը ցույց է տալիս սպառողական սարքավորումների վրա արդյունավետ և գաղտնիության վրա կենտրոնացած AI համակարգեր գործարկելու ներուժը՝ ընդգծելով, որ հուսալիության համար գործընթացային սահմանափակումները հաճախ ավելի կարևոր են, քան մոդելի չափը։
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Qwen3-8B-ի թյունինգը Tinker-ի միջոցով. 50%-ից մինչև 76% ճշգրտություն և բյուջեի սպառում
Ծրագրավորող Gramli-ն կիսվում է Hacktoberfest Open-Source AI մարտահրավերին իր մասնակցության փորձով՝ ներկայացնելով «Complexity Scorer» գործիքը, որը նախա…
DeepSeek-ը ներկայացրել է որոնման և տվյալների ստացման API-ի գնացուցակը
DeepSeek-ը պաշտոնապես հրապարակել է իր նոր որոնման և տվյալների ստացման հնարավորությունների փաստաթղթերը՝ մշակողներին տրամադրելով կառուցվածքային միջոց՝ ի…
Շեղումների դետեկտորը, որը կեղծ ահազանգ է տալիս, ավելի վատ է, քան դետեկտորի բացակայությունը
Վերջերս հրապարակված հոդվածում ծրագրավորող Դեբաշիշ Գոսալը քննարկում է HivePlane համակարգում AI գործակալների համար շեղումների հուսալի հայտնաբերման մարտա…