AI առաջնորդները հանդես են գալիս անվտանգության օգտին, սակայն քննադատները կասկածի տակ են դնում նրանց դրդապատճառները

Քանի որ առաջատար AI մոդելների անվտանգության վերաբերյալ մտահոգությունները մեծանում են, Anthropic, OpenAI և Google DeepMind ընկերությունների ղեկավարները ավելի հաճախ են կոչ անում սահմանել ոլորտային չափորոշիչներ: Այնուամենայնիվ, փորձագետները նախազգուշացնում են, որ այս գործադիրները ձգտում են կարգավորումները ձևավորել իրենց շահերին համապատասխան՝ հնարավոր է նախապատվությունը տալով ինքնակարգավորմանը, այլ ոչ թե հանրային վերահսկողությանը: Քննադատները, այդ թվում՝ Future of Life Institute-ից Էնթոնի Ագիրեն, պնդում են, որ թեև ընկերությունները գիտակցում են արհեստական ընդհանուր բանականության (AGI) ռիսկերը, նրանք շարունակում են հավատարիմ մնալ դրա զարգացմանը: Ոլորտի առաջնորդներն առաջարկում են անվտանգությունը կառավարելու համար օգտագործել ինքնակարգավորվող կազմակերպությունների կամ կամավոր աուդիտի մոդելներ: Սակայն քաղաքականության հետազոտողները զգուշացնում են, որ այդ միջոցառումները կարող են չունենալ հանրությանը պաշտպանելու համար անհրաժեշտ հաշվետվողականությունը: Այս բանավեճը ընդգծում է լարվածությունը հզոր տեխնոլոգիաների զարգացման նկատմամբ վերահսկողությունը պահպանելու արդյունաբերության ցանկության և թափանցիկ ու անկախ անվտանգության շրջանակների աճող անհրաժեշտության միջև: