Ես ստեղծեցի երկու գործակալային համակարգ. Յուրաքանչյուրը ապացուցեց մյուսի սխալ լինելը
Ծրագրավորող Դեբաշիշ Գոսալը ներկայացնում է LLM-ի վրա հիմնված երկու տարբեր գործակալային համակարգերի մշակման իր փորձը՝ եզրակացնելով, որ անվտանգության համար միայն հուշումների (prompts) վրա հույս դնելը սխալ մոտեցում է։ Իր «PlannerCritic» և «AdversarialDebate» նախագծերում Գոսալը փորձել է լուծել վարքագծային խնդիրները հուշումների միջոցով, սակայն երկու դեպքում էլ դա հանգեցրել է անվստահելի արդյունքների։ Նա պարզել է, որ անվտանգության սահմանները հուշումներից դեպի դետերմինիստական կոդ տեղափոխելն է միակ ճիշտ լուծումը։ Կառուցվածքային անփոփոխելի պայմաններ սահմանելով՝ նա հասել է ավելի հուսալի աշխատանքի։ Հեղինակը պնդում է, որ քանի որ LLM-ները բնույթով ոչ դետերմինիստական են, մշակողակավորները պետք է դադարեն փորձել դրանք դարձնել հուսալի հուշումների միջոցով և փոխարենը կառուցեն այնպիսի ճարտարապետություններ, որտեղ մոդելի ելքը կախված չի լինի համակարգի հիմնական անվտանգության սահմաններից։
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Mistral AI-ն ներգրավել է 3 միլիարդ եվրո Samsung-ի գլխավորությամբ. որքանո՞վ է այն ինքնիշխան
Փարիզում հիմնված Mistral AI-ն ներգրավել է 3 միլիարդ եվրոյի Series D ֆինանսավորում, ինչի արդյունքում ընկերության գնահատումը գերազանցել է 21 միլիարդ եվր…
Մտորումներ համընդհանուր արհեստական ոգևորության մասին
Հոդվածի հեղինակը վերլուծում է ծրագրային ապահովման մշակման մեջ գեներատիվ արհեստական բանականության գործիքների շուրջ առկա իրարանցումը: Տեքստում բարձրացվո…
Engram-ը սեմփլեր է, որը AI-ի «հալյուցինացիաները» վերածում է երաժշտության
Thoughtful Things երաժշտական ստարտափը մեկնարկել է Engram-ի Kickstarter արշավը՝ նորարարական սեմփլեր և գրուվբոքս, որն արհեստական բանականությունը ներառու…