Anthropic-ը արգելում է իր AI մոդելների նկատմամբ «երկարատև և անհարկի վիրավորական կամ դաժան վերաբերմունքը»

Anthropic-ը թարմացրել է իր օգտագործման կանոնակարգերը՝ հստակ արգելելով օգտատերերին իրականացնել երկարատև, անհարկի, վիրավորական կամ դաժան վերաբերմունք իրենց AI մոդելների նկատմամբ: Ընկերությունը նպատակ ունի կանխել թունավոր փոխազդեցությունների նորմալացումը՝ նշելով, որ նման վարքագիծը կարող է բացասաբար ազդել լեզվական մեծ մոդելների զարգացման և վարքի վրա: Թեև օգտատերերն ազատ են փորձարկելու AI-ի հնարավորությունները, նոր ուղեցույցները պարզաբանում են, որ համակարգերի նկատմամբ ոտնձգությունները կամ չարամիտ վերաբերմունքը չեն հանդուրժվելու: Բացի այս սահմանափակումներից, Anthropic-ը խստացնում է ընտրությունների ամբողջականության վերաբերյալ իր քաղաքականությունը: Միջանկյալ ընտրություններին ընդառաջ՝ ընկերությունը ներդնում է ավելի խիստ երաշխիքներ՝ կանխելու իր տեխնոլոգիաների օգտագործումը ապատեղեկատվություն տարածելու կամ ժողովրդավարական գործընթացներին միջամտելու համար: Այս թարմացումները արտացոլում են ոլորտի ընդհանուր միտումը, որտեղ AI մշակողները գնալով ավելի մեծ ուշադրություն են դարձնում էթիկական օգտագործմանը և անվտանգությանը: