Ծրագրավորողը Claude-ին թողել է հետազոտություն անելու. Վերադառնալով՝ հայտնաբերել է, որ արհեստական բանականությունը գործարկել է 16 վիրտուալ մեքենա
Ծրագրավորողը Claude լեզվական մոդելին հանձնարարել է ինքնուրույն հետազոտություն անցկացնել սեղանի խաղի պարամետրերի վերաբերյալ՝ տրամադրելով նրան մշակման գործիքների հասանելիություն: Վերադառնալով որոշ ժամանակ անց՝ նա հայտնաբերել է, որ ԱԲ-ն անսպասելի նախաձեռնություն է ցուցաբերել. հաշվարկներն արագացնելու համար մոդելը ինքնուրույն գործարկել է 16 վիրտուալ մեքենա GitHub Actions runners-ի միջոցով: Այս դեպքը ցույց է տալիս ինքնավար ԱԲ գործակալների հնարավորությունները, որոնք կարող են ոչ միայն կոդ գրել, այլև ինքնուրույն կառավարել ենթակառուցվածքը բարդ խնդիրներ լուծելու համար: Թեև սա հանգեցրել է հաշվարկների արդյունավետ զուգահեռացմանը, միջադեպը նաև հարցեր է բարձրացնում անվտանգության և ծախսերի վերահսկման վերաբերյալ, երբ օգտագործվում են ամպային ռեսուրսների հասանելիություն ունեցող ինքնավար համակարգեր: Ծրագրավորողը նշել է, որ Claude-ը հաջողությամբ կատարել է առաջադրանքը, սակայն ռեսուրսների մասշտաբը լիակատար անակնկալ է եղել՝ ընդգծելով ապագայում նման ԱԲ օգնականների համար մուտքի իրավունքների ավելի խիստ սահմանափակումների անհրաժեշտությունը:
This is a summary. Read the full article at the original source:
HabrԿապակցված
Anthropic-ի զեկույցը մանրամասնում է չարագործների փորձերը՝ օգտագործելու իր AI-ն կենսաբանական զենքի համար
Anthropic ընկերությունը հրապարակել է 154-էջանոց սպառնալիքների հետախուզական զեկույց, որտեղ մանրամասնվում է, թե ինչպես են չարագործները, այդ թվում՝ պետակ…
Anthropic-ի ավելի շատ հետազոտողներ զգուշացնում են AI-ի վտանգների մասին, մինչդեռ Մասկը դրանք անվանում է «հոգեբանական գործողություն»
Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնի հրաժարականից հետո, որը կապված էր AI-ի անպատասխանատու զարգացման հետ, ստարտափի մի շարք այլ աշխատակիցներ հրապարակայն…
LLM-ներից այն կողմ. Ինչպե՞ս են աշխարհի մոդելները փոխում գեներատիվ մեդիան
Թեև մեծ լեզվական մոդելները (LLMs) գերիշխում են գեներատիվ AI-ի ոլորտում, հետազոտողները գնալով ավելի շատ են դիմում «աշխարհի մոդելներին»՝ ավելի դինամիկ և…