Արհեստական բանականության հետազոտողները նախազգուշացնում են գերինտելեկտի գոյաբանական վտանգների մասին

Palisade Research-ի կողմից անցկացված հարցազրույցների նոր շարքում ներկայացված են OpenAI, Google DeepMind և Anthropic ընկերությունների նախկին և ներկա աշխատակիցների մտքերը: Ոլորտի փորձագետները լուրջ մտահոգություն են հայտնում արհեստական բանականության արագ զարգացման վերաբերյալ: Մասնավորապես, նախկին հետազոտող Ջեֆրի Իրվինգը նշել է, որ գերինտելեկտի պատճառով մարդկության ոչնչացման հավանականությունը կարող է հասնել 50 տոկոսի: Այս հարցազրույցներն ընդգծում են տեխնոլոգիական ոլորտում աճող տարաձայնությունները, որտեղ ներքին հետազոտողներն ավելի հաճախ են բարձրաձայնում իրենց աշխատանքի հնարավոր վտանգների մասին: Նախագիծը նպատակ ունի լույս սփռել անվտանգության ներքին մշակույթի և այն գոյաբանական ռիսկերի վրա, որոնք ընկալվում են այս համակարգերը ստեղծողների կողմից: Մինչ ոլորտը ձգտում է ավելի հզոր մոդելների ստեղծմանը, այս նախազգուշացումները կարևոր հիշեցում են ԱԲ անվտանգության և երկարաժամկետ հետևանքների շուրջ ընթացող բանավեճերի մասին: