Ես Jev-ը տեղադրեցի TLA+ սպեցիֆիկացիայի տակ և անցկացրեցի 1680 քաոսային թեստավորված դեղագործական որոշումներ. Զրո սխալ վճիռ.

Ծրագրավորողը ցույց է տվել արհեստական բանականության վրա հիմնված որոշումների կայացման վավերացման խիստ մոտեցում՝ դեղագործական համակարգերի նման պատասխանատու միջավայրերում: Օգտագործելով Jev-ը՝ լեզվական մոդել, որը տեքստի փոխարեն վերադարձնում է հավանականություններ, հեղինակը ստեղծել է համակարգ, որտեղ կոնսենսուսը կարող է ստուգվել մոդելային մակարդակով: TLA+ սպեցիֆիկացիայի միջոցով սահմանելով անվտանգության ինվարիանտներն ու քվորումի քաղաքականությունը՝ հեղինակը կառուցել է Rust-ի վրա հիմնված միջուկ, որը ԱԲ-ին դիտարկում է որպես աղմկոտ օրակուլ: Համակարգը ենթարկվել է 1680 դեղագործական որոշումների սիմուլյացիայի՝ քաոսային թեստավորման պայմաններում, ներառյալ հակառակորդի մուտքային տվյալները և համակարգային խափանումները: Արդյունքները ցույց են տվել զրո սխալ վճիռ, որտեղ համակարգը ճիշտ է գործել՝ անորոշ դեպքերը փոխանցելով մարդ-դեղագետներին: Այս նախագիծը ընդգծում է ԱԲ մոդելների «աղմուկի մակարդակը» չափելու և հուսալիությունն ապահովելու համար ֆորմալ մեթոդների կիրառման կարևորությունը՝ ապացուցելով, որ թեև ԱԲ-ն կարող է լինել անկանխատեսելի, դրա շուրջ կառուցված արձանագրությունները կարող են նախագծվել անվտանգության համար:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…



