Արտադրական պատրաստվածության AI գործակալների ստեղծում Gemma-ի, Google ADK-ի և Cloud Run GPU-ների միջոցով
Այս հոդվածը ներկայացնում է ձեռնարկատիրական մակարդակի AI գործակալների տեղակայման համապարփակ ուղեցույց՝ օգտագործելով Google-ի բաց կշիռներով Gemma մոդելները: Հեղինակը մանրամասնում է Google Cloud-ում AI գործակալների կառուցման, միացման և մասշտաբավորման մոդուլային մոտեցումը: Ուղեցույցը ներառում է արտադրական կարևոր պահանջներ, ինչպիսիք են գործակալների հիմնավորումը Cloud Firestore-ի տվյալներով, սերվերազուրկ GPU մասշտաբավորումը Cloud Run-ում vLLM-ի միջոցով և անվտանգության ապահովումը Model Armor-ի միջոցով: «CloudGuard» անվանումը կրող նախագիծը ցույց է տալիս, թե ինչպես անցնել տեղային նախատիպավորումից դեպի կառավարվող արտադրական միջավայր: Հիմնական հնարավորությունները ներառում են ավտոմատացված CI/CD գնահատում Google Agent Development Kit-ի (ADK) միջոցով, Vertex AI-ում QLoRA-ի օպտիմալացված ճշգրտում և GPU ռեսուրսների FinOps մոնիտորինգ: Այս գործիքների շնորհիվ ինժեներական թիմերը կարող են ստեղծել անվտանգ և արդյունավետ AI գործակալներ՝ պահպանելով տվյալների ինքնիշխանությունը:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Տվյալների հավաքագրման հինգ խոշոր ապրանքանիշեր միավորվել են 3,6 միլիարդ դոլար արժողությամբ Source հովանու ներքո՝ AI գործակալներին սպասարկելու համար
Տվյալների հավաքագրման հինգ հայտնի ընկերություններ՝ Oxylabs-ը, Decodo-ն, Webshare-ը, ScrapingBee-ն և Honeygain-ը, միավորվել են Վիլնյուսում հիմնված Sour…
On-premise համակարգչային տեսողություն. «Գիշերային աչք» մոդելի օպտիմալացումը մինչև 4 ՄԲ
«Գիշերային աչք» (Night Eye) նախագծի մշակողները ներկայացրել են համակարգչային տեսողության համակարգի օպտիմալացման արդյունքները՝ տեղային հաշվարկային հզորո…
Anthropic ընկերությունը հրապարակել է նոր հետազոտություն, որտեղ մանրամասն ներկայացվում է, թե ինչպես է Claude արհեստական բանականության մոդելն օգտագործվե…