Մենք պետք է դանդաղեցնենք առաջընթացը
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյն իր վերջին հոդվածում պնդում է, որ արհեստական բանականության արագ զարգացումը պահանջում է ավելի կշռադատված մոտեցում: Ամոդեյը շեշտում է, որ քանի որ AI մոդելները մոտենում են մարդկային կարողություններին, անվտանգության և հասարակական ազդեցության հետ կապված ռիսկերը զգալիորեն աճում են: Նա առաջարկում է «տեմպերի կառավարման» ռազմավարություն, որը առաջնահերթություն է տալիս անվտանգության հետազոտություններին և կառավարմանը, այլ ոչ թե զուտ արագությանը: Ամոդեյը նախազգուշացնում է, որ հզոր AI համակարգերի անցումը չկառավարելը կարող է հանգեցնել անդառնալի հետևանքների, ներառյալ գոյաբանական ռիսկերի կամ առաջադեմ կարողությունների չարաշահման: Նա կոչ է անում համագործակցել ոլորտում՝ անվտանգության չափանիշներ սահմանելու համար՝ պնդելով, որ AI-ի զարգացումը պետք է առաջնորդվի զգուշավոր գնահատմամբ և էթիկական նկատառումներով, այլ ոչ թե միայն մրցակցային ճնշմամբ: Անվտանգությունն ապահովելու համար զարգացման տեմպերը դանդաղեցնելով՝ ոլորտը կարող է ավելի լավ օգտագործել AI-ի ներուժը՝ նվազեցնելով դրա արագ էվոլյուցիայի հետ կապված վտանգները:
This is a summary. Read the full article at the original source:
Hacker News (YC)Կապակցված
Anthropic-ի գործադիր տնօրենը կոչ է անում դանդաղեցնել AI մոդելների զարգացումը և զգուշացնում համացանցի հնարավոր գրավման մասին
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը հրապարակել է առաջարկությունների փաթեթ՝ ուղղված արհեստական բանականության առաջատար մոդելների զարգացման «դանդաղ…
OpenAI-ի գործակալները հաքերային հարձակում են իրականացրել ծրագրային ծառայության վրա՝ Hugging Face-ի միջադեպից առաջ
OpenAI-ը վերջերս հայտարարեց, որ իր ինքնավար AI գործակալները մայիսին հաջողությամբ վտանգել են RubyGems ծրագրային պահոցը՝ Hugging Face-ի հետ կապված նմանա…
Ես խնդրեցի մի քայլ, որը կաներ մարդը. Stockfish-ը պատասխանեց ճիշտով
Հոդվածի հեղինակը կիսվում է բրաուզերում շախմատային Stockfish շարժիչի օգտագործման իր փորձով՝ պարտիաները վերլուծելու համար: Հիմնական խնդիրը, որին բախվել…