Base Labs-ը Hugging Face-ի և Goodfire-ի հետ գործարկում է AI անվտանգության գործընկերություն
Baseten-ից առանձնացած Base Labs հետազոտական խումբը հայտարարել է Hugging Face-ի և Goodfire-ի հետ նոր ռազմավարական համագործակցության մասին՝ ուղղված բաց կոդով արհեստական բանականության մոդելների անվտանգության չափանիշների բարելավմանը: Համագործակցության նպատակն է մշակել և հրապարակել ստանդարտացված մեթոդաբանություններ՝ բաց մոդելների ուսուցման, մոնիտորինգի և գնահատման համար՝ լուծելով AI համակարգերի թափանցիկության և անվտանգության հետ կապված աճող մտահոգությունները: Օգտագործելով Hugging Face-ի ենթակառուցվածքները և Goodfire-ի փորձը մեկնաբանելիության ոլորտում՝ Base Labs-ը մտադիր է մշակողների համայնքին տրամադրել հուսալի գործիքներ՝ AI-ի անվտանգությունն ապահովելու համար: Այս նախաձեռնությունը կարևոր քայլ է մոդելների անվտանգության ոլորտում լավագույն փորձի ներդրման գործում՝ թույլ տալով հետազոտողներին ավելի լավ հասկանալ լայնածավալ AI-ի ներքին մեխանիզմները: Գործընկերությունը նախատեսում է թողարկել բաց կոդով ռեսուրսներ, որոնք կօգնեն բացահայտել հնարավոր խոցելիությունները՝ նպաստելով գեներատիվ AI-ի զարգացման ավելի անվտանգ էկոհամակարգի ստեղծմանը:
This is a summary. Read the full article at the original source:
TechCrunchԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…