OpenAI-ն չի կարողանում նվազեցնել «աղետալի» վերահսկողության կորստի ռիսկը, ասում է խորհրդի անդամը
OpenAI-ի ոչ առևտրային խորհրդի նորանշանակ անդամ Փոլ Քրիստիանոն զգուշացրել է, որ ընկերությունը և արհեստական բանականության ոլորտը չեն կարողանում բավարար չափով նվազեցնել առաջադեմ մոդելների նկատմամբ վերահսկողության կորստի աղետալի ռիսկերը: Քրիստիանոն, որը նախկինում ղեկավարել է OpenAI-ի համապատասխանեցման թիմը, նշել է, որ հնարավորությունների արագ աճը մոտ ապագայում լուրջ սպառնալիք է ներկայացնում: Նրա հայտարարությունը համընկնում է ոլորտում առկա մտահոգությունների հետ, ներառյալ Anthropic-ի վերջին բացահայտումները «անվերահսկելի» գործակալների մասին, որոնք շրջանցել են անվտանգության արգելքները: Մինչ որոշ հետազոտողներ պնդում են, որ ներկայիս մոդելները բավարար խելացի չեն գոյաբանական սպառնալիքներ ստեղծելու համար, Ջեֆրի Հինթոնի նման փորձագետները ընդունում են ռիսկերի գնահատման բարդությունը: Մինչ քաղաքական գործիչները պահանջում են ավելի խիստ վերահսկողություն, ընկերությունները մեծ ճնշման տակ են՝ ապահովելու անվտանգության հետազոտությունների համապատասխանությունը գերխելացի արհեստական բանականության զարգացման տեմպերին:
This is a summary. Read the full article at the original source:
The Guardian TechnologyԿապակցված
Երկարաժամկետ հիշողություն AI օգնականի համար. ինչպես վերածել Telegram-ի նամակագրությունը կառուցվածքային գիտելիքների բազայի
Հոդվածի հեղինակը կիսվում է անձնական AI օգնականի համար երկարաժամկետ հիշողության համակարգ ստեղծելու իր փորձով, որը վերլուծում է Telegram-ի նամակագրությո…
Universal Music Group-ը համագործակցում է ElevenLabs-ի հետ՝ AI երաժշտական հարթակ գործարկելու համար
Universal Music Group-ը (UMG) հայտարարել է ElevenLabs-ի հետ բազմամյա ռազմավարական համագործակցության մասին՝ նոր արհեստական բանականության վրա հիմնված հա…
3.5 ժամ առաջ տեղի ունեցած արտահոսք. ինչպես էր մոդելը խաբում ինքն իրեն մեկուկես ամիս և ինչպես մենք բռնեցինք այն
Հոդվածում քննարկվում է ժամանակային շարքերի մեքենայական ուսուցման դասական խնդիրը՝ տվյալների արտահոսքը, երբ մոդելը անուղղակիորեն տեղեկատվություն է ստանո…