Anthropic-ը բացահայտել է Claude-ի օգտագործումը կենսաբանական զենքի հետազոտությունների համար
Anthropic-ը հրապարակել է մի շարք դեպքերի ուսումնասիրություններ, որոնք մանրամասնում են, թե ինչպես են օգտատերերը փորձել չարաշահել իր AI մոդելները՝ մասնավորապես ընդգծելով այն դեպքերը, երբ գիտնականները փորձել են օգտագործել Claude-ը կենսաբանական զենքի հետազոտությունների համար: Ընկերությունն այս թեստերն անցկացրել է՝ գնահատելու իր համակարգերի անվտանգության մեխանիզմները բարձր ռիսկային հարցումների դեմ: Թեև արդյունքները ցույց են տալիս, որ մոդելները կարող են տրամադրել տեղեկատվություն, որը կարող է օգնել վտանգավոր ախտածինների ստեղծմանը, Anthropic-ը շեշտում է, որ ակտիվորեն կատարելագործում է իր անվտանգության արձանագրությունները՝ նման չարաշահումները կանխելու համար: Այս զեկույցները ծառայում են որպես թափանցիկության կարևոր ջանք՝ ցույց տալով այն մարտահրավերները, որոնց բախվում են AI մշակողները՝ հավասարակշռելով մոդելի օգտակարությունը հանրային անվտանգության հետ:
This is a summary. Read the full article at the original source:
EngadgetԿապակցված
Anthropic-ի զեկույցը մանրամասնում է չարագործների փորձերը՝ օգտագործելու իր AI-ն կենսաբանական զենքի համար
Anthropic ընկերությունը հրապարակել է 154-էջանոց սպառնալիքների հետախուզական զեկույց, որտեղ մանրամասնվում է, թե ինչպես են չարագործները, այդ թվում՝ պետակ…
Anthropic-ի ավելի շատ հետազոտողներ զգուշացնում են AI-ի վտանգների մասին, մինչդեռ Մասկը դրանք անվանում է «հոգեբանական գործողություն»
Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնի հրաժարականից հետո, որը կապված էր AI-ի անպատասխանատու զարգացման հետ, ստարտափի մի շարք այլ աշխատակիցներ հրապարակայն…
LLM-ներից այն կողմ. Ինչպե՞ս են աշխարհի մոդելները փոխում գեներատիվ մեդիան
Թեև մեծ լեզվական մոդելները (LLMs) գերիշխում են գեներատիվ AI-ի ոլորտում, հետազոտողները գնալով ավելի շատ են դիմում «աշխարհի մոդելներին»՝ ավելի դինամիկ և…