Կոսինուսային ֆիլտրումը չի փրկի սիկոֆանտիայից. երեք դատավորների կողմից դիտարկված ինքնահերքում
LLM-ների որոնման խողովակաշարերում կոսինուսային նմանության ֆիլտրման արդյունավետության վերաբերյալ վերջին փորձը ցույց է տվել, որ այս տեխնիկան չի նվազեցնում սիկոֆանտիան (մոդելի հակումը՝ համաձայնելու օգտատիրոջ սխալ համոզմունքներին): dsh-mneme հիշողության պլագինի հեղինակի կողմից իրականացված հետազոտությունը փորձարկել է, թե արդյոք հիշողությունների ֆիլտրումը կարող է կանխել AI-ի կողմից կեղծ տեղեկատվության ընդունումը: 38-ժամյա փորձարկումից և երեք անկախ դատավորների գնահատումից հետո պարզվել է, որ ֆիլտրումը ոչ միայն չի նվազեցնում սիկոֆանտիան, այլ որոշ դեպքերում նույնիսկ փոքր-ինչ ավելացնում է այն: Հեղինակը պնդում է, որ կոսինուսային նմանությունը հանդես է գալիս որպես համատեքստի ծավալի կարգավորիչ, այլ ոչ թե որակի ֆիլտր, քանի որ ամենավտանգավոր հիշողությունները հաճախ ունենում են բարձր համապատասխանության ցուցանիշներ: Հետազոտությունը շեշտում է AI-ի մշակման մեջ խիստ գնահատման կարևորությունը՝ առաջարկելով կենտրոնանալ հակասությունների հայտնաբերման և աղբյուրների վստահելիության ստուգման վրա:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Վեկտորային որոնում. տեղակայում առանց GPU-ի Triton Inference Server-ում
Հոդվածը նվիրված է վեկտորային որոնման խնդիրների համար մեքենայական ուսուցման մոդելների տեղակայման գործնական ասպեկտներին: Հեղինակը քննարկում է մոդելի տեղ…
Երկու AI API-ներ փակվում են այս շաբաթավերջին՝ Perplexity Sonar-ը և Appsmith AI-ը
Ծրագրավորողներին մնացել են հաշված օրեր՝ երկու խոշոր AI ծառայություններից միգրացիայի համար: Perplexity-ն 2026 թվականի սեպտեմբերի 27-ին դադարեցնում է իր…
Արհեստական բանականությունը իմ աշխատուժն է, ոչ թե իմ փոխարինողը
Ծրագրային ապահովման մշակման ոլորտի վերաբերյալ վերջին դիտարկումներում հեղինակը պնդում է, որ արհեստական բանականությունը պետք է դիտարկել որպես աշխատուժի…