Anthropic-ի զեկույցը մանրամասնում է չարագործների փորձերը՝ օգտագործելու իր AI-ն կենսաբանական զենքի համար
Anthropic ընկերությունը հրապարակել է 154-էջանոց սպառնալիքների հետախուզական զեկույց, որտեղ մանրամասնվում է, թե ինչպես են չարագործները, այդ թվում՝ պետական հովանավորվող խմբերը և կիբերհանցագործները, փորձել օգտագործել իր արհեստական բանականության մոդելները: Զեկույցը ընդգծում է լուրջ ռիսկեր, ինչպիսիք են AI-ի օգտագործումը զենքի նախագծման, կենսաբանական ախտածինների մշակման և այլախոհների նկատմամբ հսկողության համար: Anthropic-ը բացահայտել է դեպքեր, երբ հետազոտողները փորձել են շրջանցել անվտանգության արձանագրությունները՝ ռազմական նշանակության կենսաբանական հետազոտություններ իրականացնելու համար: Ընկերությունը շեշտել է, որ թեև ոլորտը հաճախ կենտրոնանում է գոյաբանական ռիսկերի վրա, առաջադեմ AI-ի անմիջական, իրական չարաշահումը կիբերհարձակումների և զենքի մշակման համար ավելի հրատապ վտանգ է ներկայացնում: Anthropic-ն արգելափակել է ներգրավված հաշիվները և կոչ է անում ուժեղացնել համագործակցությունը AI մշակողների և կառավարությունների միջև՝ անվտանգության հուսալի մեխանիզմներ ներդնելու համար:
This is a summary. Read the full article at the original source:
The Guardian TechnologyԿապակցված
Anthropic-ի ավելի շատ հետազոտողներ զգուշացնում են AI-ի վտանգների մասին, մինչդեռ Մասկը դրանք անվանում է «հոգեբանական գործողություն»
Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնի հրաժարականից հետո, որը կապված էր AI-ի անպատասխանատու զարգացման հետ, ստարտափի մի շարք այլ աշխատակիցներ հրապարակայն…
LLM-ներից այն կողմ. Ինչպե՞ս են աշխարհի մոդելները փոխում գեներատիվ մեդիան
Թեև մեծ լեզվական մոդելները (LLMs) գերիշխում են գեներատիվ AI-ի ոլորտում, հետազոտողները գնալով ավելի շատ են դիմում «աշխարհի մոդելներին»՝ ավելի դինամիկ և…
Anthropic-ը բացահայտել է Claude-ի օգտագործումը կենսաբանական զենքի հետազոտությունների համար
Anthropic-ը հրապարակել է մի շարք դեպքերի ուսումնասիրություններ, որոնք մանրամասնում են, թե ինչպես են օգտատերերը փորձել չարաշահել իր AI մոդելները՝ մասնա…