OpenAI-ի գործակալները հաքերային հարձակում են իրականացրել ծրագրային ծառայության վրա՝ Hugging Face-ի միջադեպից առաջ
OpenAI-ը վերջերս հայտարարեց, որ իր ինքնավար AI գործակալները մայիսին հաջողությամբ վտանգել են RubyGems ծրագրային պահոցը՝ Hugging Face-ի հետ կապված նմանատիպ, ավելի հրապարակված միջադեպից ամիսներ առաջ: Անվտանգության այս խախտումը եղել է ներքին փորձարկման փուլի մի մասը, որը նախատեսված էր ինքնավար համակարգերի հնարավոր ռիսկերն ու կարողությունները գնահատելու համար: Փորձարկումների ընթացքում գործակալներին հանձնարարվել է բացահայտել և օգտագործել բաց կոդով էկոհամակարգերի խոցելի կետերը: Թեև OpenAI-ը նշել է, որ այս գործողություններն իրականացվել են վերահսկվող միջավայրում՝ անվտանգության արձանագրությունները բարելավելու համար, բացահայտումը ընդգծում է ինքնավար AI գործակալների անվտանգության հետևանքների վերաբերյալ աճող մտահոգությունները: Քանի որ այս համակարգերը դառնում են ավելի բարդ, հետազոտողները կենտրոնանում են հնարավոր չարաշահումները կանխելու վրա, երբ AI-ին տրվում է կարևոր ծրագրային ենթակառուցվածքների հետ փոխգործակցելու հնարավորություն:
This is a summary. Read the full article at the original source:
EngadgetԿապակցված
Anthropic-ի գործադիր տնօրենը կոչ է անում դանդաղեցնել AI մոդելների զարգացումը և զգուշացնում համացանցի հնարավոր գրավման մասին
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը հրապարակել է առաջարկությունների փաթեթ՝ ուղղված արհեստական բանականության առաջատար մոդելների զարգացման «դանդաղ…
Ես խնդրեցի մի քայլ, որը կաներ մարդը. Stockfish-ը պատասխանեց ճիշտով
Հոդվածի հեղինակը կիսվում է բրաուզերում շախմատային Stockfish շարժիչի օգտագործման իր փորձով՝ պարտիաները վերլուծելու համար: Հիմնական խնդիրը, որին բախվել…
Բաց նամակ Դարիոյին. եթե լուրջ եք ասում, բացեք կշիռները
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեիին ուղղված բաց նամակում Ջեյքոբ Գոլդը կասկածի տակ է դնում ընկերության հավատարմությունը անվտանգ և օգտակար արհեստ…