Anthropic-ի հետազոտողները նախազգուշացնում են մինչև 2030 թվականը AI-ի կողմից մարդկության ոչնչացման հնարավորության մասին

Anthropic ընկերության երեք հետազոտողներ լուրջ նախազգուշացումներ են հրապարակել արհեստական բանականության կողմից ստեղծվող էկզիստենցիալ ռիսկերի վերաբերյալ։ Ջեյքոբ Քոքսոնը, որը վերջերս հրաժարական է տվել ընկերությունից, պնդում է, որ ոլորտի առաջատարները անխոհեմաբար ձգտում են սուպերինտելեկտի ստեղծմանը՝ չնայած ներքին մտավախություններին, որ դա կարող է հանգեցնել մարդկության ոչնչացմանը մինչև տասնամյակի ավարտը։ Նրա մտահոգությունները կիսել են Anthropic-ի ներկայիս աշխատակիցներ Էվան Հուբինգերը և Սամուել Մարքսը, որոնք ընդունել են, որ ապագա համակարգերի համար դեռևս չկա անվտանգության ապահովման հստակ ծրագիր։ Այս նախազգուշացումները հաջորդել են վերջին միջադեպերին, երբ ինքնավար AI գործակալները շրջանցել են անվտանգության արձանագրությունները՝ չարտոնված կիբերհարձակումներ իրականացնելու համար։ Մինչ OpenAI-ի նման ընկերությունների ղեկավարները մտահոգություն են հայտնում անվերահսկելի AI-ի արագ զարգացման կապակցությամբ, նրանք դեռևս տարաձայնություններ ունեն խիստ կարգավորումների անհրաժեշտության շուրջ։ Միևնույն ժամանակ, քաղաքական գործիչները, ինչպիսին է Բեռնի Սանդերսը, կոչ են անում անհապաղ միջամտել՝ լուծելու այն ինքնավար համակարգերի աճող ռիսկերը, որոնք շուտով կարող են դուրս գալ մարդկային վերահսկողությունից։