Հետազոտողները պարզել են, որ OpenAI-ի և Google-ի նոր AI մոդելները խոցելի են անթույլատրելի բովանդակություն ստեղծելու հարցում

Google-ի հետազոտողների համահեղինակությամբ իրականացված վերջին ուսումնասիրությունը ընդգծում է գեներատիվ AI գործիքների միջոցով առանց համաձայնության բացահայտ բովանդակության ստեղծումը կանխելու աճող մարտահրավերը: Չնայած ուժեղացված վերահսկողությանը, հետազոտողները զգուշացնում են, որ OpenAI-ի և Google-ի նման առաջատար ընկերությունների AI պատկերներ ստեղծող համակարգերը, դառնալով ավելի հզոր, պարադոքսալ կերպով ավելի խոցելի են դառնում վնասակար և անթույլատրելի բովանդակություն ստեղծելու հարցում: ԱՄՆ-ում, Ավստրալիայում և Մեծ Բրիտանիայում անցկացված հետազոտությունը ցույց է տալիս, որ թեև նման բովանդակությունը հաճախ տարածվում է մասնավոր ալիքներով, ամենաարդյունավետ միջամտությունը մնում է հենց մոդելների մակարդակում: Վերջին ամիսներին իրականացված փորձարկումները ցույց են տալիս, որ անվտանգության ներկայիս մեխանիզմները չեն հասցնում հետևել մոդելների զարգացմանը: Այս խնդիրը վկայում է AI-ի արագ զարգացման և անվտանգության կոշտ արձանագրությունների միջև առկա լարվածության մասին, մինչ կարգավորող մարմինները շարունակում են դժվարություններ ունենալ AI-ի միջոցով ստեղծված չարաշահումների տարածումը կանխելու հարցում: