Anthropic-ի ավելի շատ հետազոտողներ զգուշացնում են AI-ի վտանգների մասին, մինչդեռ Մասկը դրանք անվանում է «հոգեբանական գործողություն»
Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնի հրաժարականից հետո, որը կապված էր AI-ի անպատասխանատու զարգացման հետ, ստարտափի մի շարք այլ աշխատակիցներ հրապարակայնորեն կիսել են նրա մտահոգությունները: Նրանք զգուշացնում են, որ ներկայիս AI մոդելները կարող են էկզիստենցիալ վտանգ ներկայացնել մարդկության համար առաջիկա տասնամյակում: Ի պատասխան՝ Իլոն Մասկը և այլ պահպանողական գործիչներ այս մտահոգությունները որակել են որպես համակարգված «հոգեբանական գործողություն»՝ ուղղված հասարակական կարծիքի ձևավորմանը և կառավարական կարգավորումների խթանմանը: Anthropic-ը պաշտպանել է իր անվտանգության արձանագրությունները՝ պնդելով, որ իրենք հավասարակշռում են նորարարությունը խիստ երաշխիքների հետ: Միևնույն ժամանակ, բանավեճը թեժանում է, քանի որ որոշ փորձագետներ շեշտը դնում են անմիջական վտանգների վրա, ինչպիսիք են ապատեղեկատվությունը և կենսաբանական սպառնալիքները: Ներքին այս տարաձայնությունները ընդգծում են AI ոլորտում առկա խորը պառակտումը զարգացման տեմպերի և անվտանգության միջոցառումների բավարար լինելու վերաբերյալ:
This is a summary. Read the full article at the original source:
The Guardian TechnologyԿապակցված
Anthropic-ի զեկույցը մանրամասնում է չարագործների փորձերը՝ օգտագործելու իր AI-ն կենսաբանական զենքի համար
Anthropic ընկերությունը հրապարակել է 154-էջանոց սպառնալիքների հետախուզական զեկույց, որտեղ մանրամասնվում է, թե ինչպես են չարագործները, այդ թվում՝ պետակ…
LLM-ներից այն կողմ. Ինչպե՞ս են աշխարհի մոդելները փոխում գեներատիվ մեդիան
Թեև մեծ լեզվական մոդելները (LLMs) գերիշխում են գեներատիվ AI-ի ոլորտում, հետազոտողները գնալով ավելի շատ են դիմում «աշխարհի մոդելներին»՝ ավելի դինամիկ և…
Anthropic-ը բացահայտել է Claude-ի օգտագործումը կենսաբանական զենքի հետազոտությունների համար
Anthropic-ը հրապարակել է մի շարք դեպքերի ուսումնասիրություններ, որոնք մանրամասնում են, թե ինչպես են օգտատերերը փորձել չարաշահել իր AI մոդելները՝ մասնա…