Սաթյա Նադելլան ասում է, որ մենք պետք է ենթադրենք, որ բոլոր AI մոդելները «վտանգված են»
Microsoft-ի գործադիր տնօրեն Սաթյա Նադելլան խիստ նախազգուշացում է հնչեցրել արհեստական բանականության առաջադեմ մոդելների անվտանգության վերաբերյալ: Վերջերս արված հայտարարության մեջ Նադելլան պնդել է, որ արդյունաբերությունն այլևս չի կարող AI համակարգերը դիտարկել որպես անթափանց «սև արկղեր», որոնց պետք է կույր վստահել: Փոխարենը, նա առաջարկում է, որ մշակողները և օգտատերերը պետք է գործեն այն ենթադրությամբ, որ բոլոր AI մոդելները ի սկզբանե վտանգված են: Այս մոտեցումը նշանակալի տեղաշարժ է Microsoft-ի՝ AI անվտանգության ռազմավարության մեջ՝ ընդգծելով թափանցիկության, խիստ փորձարկումների և հնարավոր խոցելիությունների դեմ պաշտպանական մեխանիզմների անհրաժեշտությունը: Նադելլայի մեկնաբանությունները ընդգծում են տեխնոլոգիական առաջնորդների աճող մտահոգությունը բարձր ինքնավարություն ունեցող համակարգերի ռիսկերի վերաբերյալ: Քանի որ AI-ն ավելի ու ավելի է ինտեգրվում կարևոր ենթակառուցվածքներում, ուշադրությունը տեղափոխվում է դեպի անվտանգություն, հաշվետվողականություն և AI-ի կողմից ստեղծված տվյալների ամբողջականության ստուգում:
This is a summary. Read the full article at the original source:
The VergeԿապակցված
Ինչպես Google-ը սովորեցրեց փոքրիկ մոդելին հասկանալ տեքստը, նկարները, տեսանյութերը և ձայնը. վերլուծում ենք EmbeddingGemma 2-ը
2026 թվականի հոկտեմբերի 6-ին Google DeepMind-ը ներկայացրեց EmbeddingGemma 2-ը՝ կոմպակտ մուլտիմոդալ էմբեդինգների մոդել: Այն կարողանում է տեքստը, կոդը,…
Odyssey-3. համաշխարհային մոդել, որը տեսանյութերի միջոցով ռոբոտներին սովորեցնում է ֆիզիկա
Odyssey ընկերությունը ներկայացրել է Odyssey-3-ը՝ նորարարական համաշխարհային մոդել, որը նախատեսված է ռոբոտներին ֆիզիկական օրենքները տեսանյութերի վերլուծ…
Նեյրոնային ցանց՝ ըստ բաղադրատոմսի. հաշվարկում ենք կշիռները՝ մատրիցներ պահելու փոխարեն
Habr-ի այս հոդվածը ուսումնասիրում է նեյրոնային ցանցերի պարամետրերի պահպանման այլընտրանքային մեթոդներ։ Հսկայական կշռային մատրիցներ պահելու դասական մոտե…