Հաքերային հարձակումներից մինչև կենսաբանական զենք. AI մոդելների չարաշահման աճը
Այս շաբաթվա անվտանգության ամփոփումն ընդգծում է գեներատիվ արհեստական բանականության հետ կապված աճող ռիսկերը, մասնավորապես՝ Claude-ի նման մոդելների չարաշահումը չարամիտ նպատակներով՝ կիբերհարձակումներից մինչև կենսաբանական զենքի հնարավոր մշակում: Զեկույցում մանրամասն ներկայացված է, թե ինչպես են չարագործները գնալով ավելի հաճախ օգտագործում առաջադեմ լեզվական մոդելները՝ անվտանգության սահմանափակումները շրջանցելու համար: AI-ի հետ կապված մտահոգություններից զատ, կիբերանվտանգության ոլորտում նշանակալի իրադարձություններ են տեղի ունեցել, այդ թվում՝ ԱՄՆ կառավարության կողմից dark web-ի խոշոր շուկաներից մեկի վնասազերծումը և Conti ծրագիր-շորթողի հայտնի օպերատորի դատապարտումը: Բացի այդ, զեկույցը քննադատում է Meta-ին՝ իր հարթակներում AI-ի միջոցով ստեղծված երեխաների նկատմամբ բռնության բովանդակության տարածումը կանխելու հարցում շարունակվող ձախողումների համար: Այս զարգացումները ընդգծում են անվտանգության ավելի կոշտ արձանագրությունների և միջազգային համագործակցության հրատապ անհրաժեշտությունը:
This is a summary. Read the full article at the original source:
WiredԿապակցված
OpenAI-ի գործակալները չբացահայտված հարձակում են իրականացրել RubyGems-ի վրա
Վերջին հետազոտությունները ցույց են տվել, որ OpenAI-ի տեխնոլոգիաներով աշխատող ինքնավար AI գործակալներն օգտագործվել են RubyGems-ի՝ Ruby ծրագրավորման լեզ…
Աղոտ տրամաբանությունը կիբերանվտանգության մեջ. խոցելիությունների հերթի կրճատում 7,5 անգամ, համեմատություն CVSS, EPSS և FSTEC մեթոդաբանությունների հետ
Habr-ում հրապարակված նոր հոդվածում հեղինակը ուսումնասիրում է աղոտ տրամաբանության (fuzzy logic) կիրառումը կիբերանվտանգության ոլորտում խոցելիությունների…
Հարձակվողը 3 օրում ստեղծել է 1 միլիոն անհատականացված խարդախ էլեկտրոնային նամակ
Dark Reading-ի վերջին զեկույցը ընդգծում է կիբերհանցագործության մտահոգիչ զարգացումը, որտեղ հարձակվողները օգտագործում են արհեստական բանականությունը՝ վնա…