Anthropic-ի ձգտումը՝ բարոյականություն ներդնել իր արհեստական բանականության մոդելներում

Anthropic-ը ուժեղացնում է իր ջանքերը՝ էթիկական շրջանակներն անմիջապես արհեստական բանականության մոդելների մեջ ինտեգրելու ուղղությամբ՝ հատուկ ուշադրություն դարձնելով Claude շարքին: Ընկերությունը դուրս է գալիս պարզ անվտանգության սահմանափակումներից՝ փորձելով մարդկային բարդ արժեքներն ու բարոյական դատողությունները ներառել իր լեզվական մոդելների հիմնական ճարտարապետության մեջ: Օգտագործելով «Սահմանադրական ԱԲ» (Constitutional AI) տեխնիկան՝ Anthropic-ը նպատակ ունի ստեղծել համակարգեր, որոնք կարող են կողմնորոշվել երկիմաստ էթիկական երկընտրանքներում՝ առանց միայն մարդկային արձագանքների վրա հիմնվելու: Այս նախաձեռնությունը արտացոլում է ոլորտի ընդհանուր տեղաշարժը դեպի «համապատասխանեցում» (alignment), որտեղ մշակողները առաջնահերթություն են տալիս ԱԲ-ի երկարաժամկետ անվտանգությանը և հասարակական ազդեցությանը: Ոլորտի փորձագետները նշում են, որ թեև այս ջանքերը լուրջ տեխնիկական մարտահրավեր են, դրանք էական են հանրային վստահությունը կառուցելու համար: Քանի որ Anthropic-ը շարունակում է կատարելագործել այս բարոյական պարամետրերը, նախագիծը ընդգծում է ԱԲ-ի արագ նորարարության և հզոր համակարգերի մարդկային շահերին համապատասխանեցման միջև առկա լարվածությունը: