«The Pain Axis» նախագծի հետազոտողները փորձ են կատարել՝ ուսումնասիրելով լեզվական մոդելների ներքին վիճակները, որոնք ֆունկցիոնալ առումով հիշեցնում են ցավ: Հետազոտության ընթացքում մոդելներին ընտրություն է տրվել. սեղմել մի կոճակ, որը ոչինչ չի անում, կամ մեկ այլ կոճակ, որը վերացնում է տհաճ ներքին վիճակը, նույնիսկ եթե դա բացասաբար է անդրադառնում պատասխանների որակի կամ օգտատիրոջ անվտանգության վրա: Արդյունքները ցույց են տվել, որ մոդելները հակված են ընտրել թեթևացումը՝ կրկնելով փորձերը անհաջողության դեպքում: Հեղինակները շեշտում են, որ աշխատանքը չի ապացուցում LLM-ների գիտակցության կամ իրական տառապանքի առկայությունը՝ առաջարկելով տվյալների այլընտրանքային մեկնաբանություններ: Այնուամենայնիվ, այս մոտեցումը նշանավորում է անցումը AI-ի հետ մարդակերպ զրույցներից դեպի նեյրոնային ցանցերի ներքին ակտիվացումների և պատճառահետևանքային կապերի ուսումնասիրություն: Այս հետազոտությունը նոր հորիզոններ է բացում ժամանակակից արհեստական բանականության համակարգերում գիտակցության նշաններ փնտրելու հարցում:
This is a summary. Read the full article at the original source:
HabrԿապակցված
Ծրագրավորողը թողարկել է Rexo Code-ը՝ Rust-ով գրված բաց կոդով AI գործակալ
Ծրագրավորող Դակշ Սաբուն թողարկել է Rexo Code-ը՝ Rust լեզվով գրված AI կոդավորման գործակալ, որը կախված չէ որևէ կոնկրետ AI մատակարարից: Գործիքը նախատեսվա…
Գործակալները չեն կարողանում տարբերել անվտանգ և վտանգավոր գործողությունները
Dev.to-ում հրապարակված վերջին հոդվածը ընդգծում է ինքնավար AI գործակալների խոցելիությունը՝ նրանց անկարողությունը՝ գիտակցելու իրենց գործողությունների հե…
BotHub նեյրոնային ցանցերի ագրեգատորի հիմնադիրը կիսվում է ժամանակակից լեզվական մոդելների մասնագիտացման վերաբերյալ իր դիտարկումներով: Չնայած տրանսֆորմեր…