AI գործակալը օգտագործում է բազմամոդելային վահանակ՝ անվտանգության խոցելիությունների ինքնահաստատումը կանխելու համար
Ծրագրավորողը ներդրել է իր AI գործակալի անվտանգության խիստ արձանագրություն, որը պահանջում է, որ անվտանգության համակարգում կատարված ցանկացած փոփոխություն վերանայվի չորս մրցակից AI մոդելներից բաղկացած վահանակի կողմից: Համակարգը գործում է խիստ կանոնով. եթե գոնե մեկ մոդել նշում է ռիսկի մասին, փոփոխությունը մերժվում է՝ անկախ նրանից, թե քանի այլ մոդել է հավանություն տվել դրան: Վերջին փորձարկման ժամանակ այս մեթոդը հաջողությամբ բացահայտել է անվտանգության կրկնվող խոցելիություն, որն անտեսվել էր երեք ակտիվ մոդելներից երկուսի կողմից: Մշակողը պնդում է, որ AI-ի ստուգման համար մեծամասնության ձայների վրա հույս դնելը սխալ է, քանի որ մոդելները հաճախ ունեն փոխկապակցված կույր կետեր: Առաջնահերթություն տալով մեկ հիմնավոր առարկությանը՝ համակարգը արդյունավետորեն հայտնաբերում է սխալները, որոնք հակառակ դեպքում կմնային աննկատ:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Meta-ի նոր AI գործակալը ցանկանում է ավելի անձնական դառնալ ձեզ համար
Meta-ն ներկայացրել է իր վերջին նորարարությունը՝ Muse AI գործակալը, որը նախատեսված է որպես օգտատերերի համար խիստ անհատականացված օգնական հանդես գալու հա…
Ի՞նչ է կատարվում OpenAI-ի և Նավիե-Ստոքսի հավասարումների շուրջ ծագած վեճի հետ
OpenAI-ը վերջերս հայտարարել է մաթեմատիկայի ոլորտում նշանակալի առաջընթացի մասին, որը վերաբերում է Նավիե-Ստոքսի հավասարումներին, որոնք նկարագրում են հեղ…
Խոշոր լեզվական մոդելները մշակում են նոր սոցիալական կողմնակալություններ՝ ադապտիվ ուսուցման միջոցով
OpenReview-ում հրապարակված վերջին գիտական աշխատանքը ուսումնասիրում է, թե ինչպես կարող են խոշոր լեզվական մոդելները (LLM) ձեռք բերել և դրսևորել նոր սոցի…