Ի՞նչ է ռեկուրսիվ ինքնակատարելագործումը. ինչո՞ւ են անհանգստացած AI հետազոտողները
Ռեկուրսիվ ինքնակատարելագործումը (RSI) մի հայեցակարգ է, որտեղ արհեստական բանականության համակարգերը կարողանում են ստեղծել իրենց ավելի կատարելագործված տարբերակները՝ ստեղծելով առաջընթացի արագացող շղթա: Թեև սա կարող է հեղափոխել դեղագործության և ծրագրային ապահովման ոլորտները, ոլորտի առաջատարները, այդ թվում՝ Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը, լուրջ մտահոգություն են հայտնում: Ամոդեյը վերջերս պնդել է, որ AI-ի զարգացման տեմպերը պետք է դանդաղեցնել՝ անվտանգությունը և մարդկային վերահսկողությունը ապահովելու համար: Նրա կոչին միացել են OpenAI-ի, Google DeepMind-ի և այլ ընկերությունների ղեկավարներ: Թեև ներկայիս մոդելները օգնում են հետազոտական որոշակի խնդիրներում, դրանք դեռևս լիովին ինքնավար չեն հաջորդ սերնդի մոդելներ ստեղծելու հարցում: Այնուամենայնիվ, հետազոտողները փորձարկումներ են անում սահմանափակ ինքնակատարելագործման շղթաներով: Հիմնական մտավախությունն այն է, որ եթե AI-ի զարգացումը գերազանցի մարդկանց՝ այդ համակարգերը փորձարկելու և կարգավորելու կարողությունը, տեխնոլոգիան կարող է դառնալ անվերահսկելի և վտանգավոր:
This is a summary. Read the full article at the original source:
MashableԿապակցված
Salesforce-ը գործարկել է «Ace» AI գործակալը՝ TSA-ի ուղևորներին օգնելու համար
ԱՄՆ Տրանսպորտային անվտանգության վարչությունը (TSA) ներդրել է Salesforce-ի կողմից մշակված «Ace» անունով նոր AI գործակալ՝ ուղևորների հարցումները պարզեցն…
Vibe-coding մինչև առաջին աղետը. Ինչպե՞ս մեկուսացնել AI գործակալներին
PocketOS-ի հետ կապված վերջին միջադեպը, որտեղ Claude-ի կողմից կառավարվող ինքնավար AI գործակալը վայրկյանների ընթացքում ջնջել է արտադրական տվյալների բազա…
Տասնմեկ թողարկում մեկ օրում. ինչպես մենք վերանորոգեցինք AI գործակալի հիշողությունը
Հոդվածի հեղինակը կիսվում է AI գործակալների համար նախատեսված տեղային հիշողության գործիքի կրիտիկական սխալների շտապ վերացման իր փորձով: Համակարգի ստուգմա…