Ծանոթացեք Anthropic-ի ինժեների հետ, որն ապահովում է AI գործակալի հուսալիությունը

Anthropic-ի տեխնիկական անձնակազմի ավագ անդամ Գուրմիտ Սարանը կենտրոնացած է ընկերության Claude AI գործակալի հուսալիության և անվտանգության ապահովման վրա: Քանի որ լեզվական մեծ մոդելների (LLM) ոլորտը զարգանում է, Սարանը մշակում է կարևոր ենթակառուցվածքներ՝ մոդելի վարքագիծը վերահսկելու և տվյալների ամբողջականությունը պահպանելու համար: Հենվելով Yahoo, Intuit և Meta ընկերություններում տվյալների վերլուծության իր հարուստ փորձի վրա՝ Սարանը շեշտում է, որ գաղտնիությունն ու ճշգրտությունը պետք է լինեն ճարտարապետական հիմնարար տարրեր, այլ ոչ թե երկրորդական հավելումներ: Նրա աշխատանքը լուծում է LLM-ները թափանցիկ և վստահելի դարձնելու բարդ խնդիրը՝ ապահովելով, որ AI-ի արդյունքների հիմքում ընկած տրամաբանությունը ստուգելի լինի: Սահմանելով տվյալների խիստ չափանիշներ և մոնիտորինգի համակարգեր՝ Սարանը նպատակ ունի նվազեցնել խաբեբայական կամ ոչ էթիկական AI վարքագծի ռիսկերը՝ օգնելով Anthropic-ին իրականացնել հասարակության համար օգտակար և անվտանգ արհեստական բանականություն ստեղծելու իր առաքելությունը: