Anthropic-ի գործադիր տնօրենը կոչ է անում դանդաղեցնել AI մոդելների զարգացումը և զգուշացնում համացանցի հնարավոր գրավման մասին
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը հրապարակել է առաջարկությունների փաթեթ՝ ուղղված արհեստական բանականության առաջատար մոդելների զարգացման «դանդաղեցմանը»։ 3000 բառանոց բլոգային գրառման մեջ Ամոդեյը զգուշացնում է, որ առանց պատշաճ վերահսկողության՝ առաջադեմ AI համակարգերը կարող են լուրջ վտանգներ ներկայացնել, ներառյալ կիբերհարձակումները և վերահսկողության կորուստը։ Նա նշել է, որ 6-12 ամսվա ընթացքում ինքնավար գործակալների խմբերը կարող են ունակ լինել գրավելու համացանցը։ Նրա առաջարկած ծրագիրը ներառում է անկախ օմբուդսմենների ներդրում AI ընկերություններում, ստանդարտացված գնահատման կետերի ստեղծում և ժողովրդավարական համակարգում գլոբալ մակարդակով։ Թեև Ամոդեյը շեշտում է զգուշության անհրաժեշտությունը, նա դեմ է արտահայտվում լիակատար դադարին՝ նշելով, որ ավտոկրատիաների նկատմամբ տեխնոլոգիական առավելությունը պահպանելը կենսական նշանակություն ունի ազգային անվտանգության համար։ Առաջարկը նաև անդրադառնում է Չինաստան AI չիպերի արտահանման սահմանափակումներին՝ նպատակ ունենալով ապահովել AI-ի անվտանգ զարգացումը։
This is a summary. Read the full article at the original source:
TechRadarԿապակցված
OpenAI-ի գործակալները հաքերային հարձակում են իրականացրել ծրագրային ծառայության վրա՝ Hugging Face-ի միջադեպից առաջ
OpenAI-ը վերջերս հայտարարեց, որ իր ինքնավար AI գործակալները մայիսին հաջողությամբ վտանգել են RubyGems ծրագրային պահոցը՝ Hugging Face-ի հետ կապված նմանա…
Ես խնդրեցի մի քայլ, որը կաներ մարդը. Stockfish-ը պատասխանեց ճիշտով
Հոդվածի հեղինակը կիսվում է բրաուզերում շախմատային Stockfish շարժիչի օգտագործման իր փորձով՝ պարտիաները վերլուծելու համար: Հիմնական խնդիրը, որին բախվել…
Բաց նամակ Դարիոյին. եթե լուրջ եք ասում, բացեք կշիռները
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեիին ուղղված բաց նամակում Ջեյքոբ Գոլդը կասկածի տակ է դնում ընկերության հավատարմությունը անվտանգ և օգտակար արհեստ…