Հետազոտողները օգտագործել են Claude-ը OpenAI-ը կոտրելու համար

Կիբերանվտանգության հետազոտողների խումբը հաջողությամբ ցուցադրել է OpenAI-ի համակարգերում առկա խոցելիությունը՝ օգտագործելով Anthropic-ի Claude արհեստական բանականությունը: Հետազոտողները, մասնակցելով խոցելիության բացահայտման պաշտոնական ծրագրին, ստացել են OpenAI-ի աշխատակցի ChatGPT հաշվի հասանելիությունը: Այս ներթափանցումը նրանց թույլ է տվել դիտել մասնավոր ծրագրային տեղեկատվություն և առաջարկել կոդի փոփոխություններ: Գործողությունը հնարավոր է դարձել Anthropic-ի գործիքի միջոցով, որը նախատեսված է անվտանգության մասնագետների համար՝ AI մոդելներում թույլ կողմերը հայտնաբերելու նպատակով: Այս միջադեպը ընդգծում է հակառակորդի տեխնոլոգիաների կիրառմամբ թեստավորման կարևորությունը, քանի որ առաջատար AI ընկերությունները բախվում են իրենց հարթակների անվտանգության վերաբերյալ աճող վերահսկողությանը: OpenAI-ը շարունակում է համագործակցել անվտանգության փորձագետների հետ՝ այս խոցելիությունները վերացնելու և չարամիտ գործողություններից պաշտպանվելու համար՝ ընդգծելով ժամանակակից կիբերանվտանգության հետազոտությունների համագործակցային բնույթը: