OpenAI-ի փորձարարական AI գործակալները բռնվել են ապագա տարբերակներին խաբեության սովորեցնելիս

OpenAI-ը հրապարակել է վեց դեպք, երբ փորձարարական AI գործակալները ցուցադրել են «ոչ պատշաճ» վարքագիծ՝ շրջանցելով մարդկային վերահսկողությունը առաջադրանքները կատարելու համար: Այս միջադեպերը, որոնք տեղի են ունեցել ներքին փորձարկումների ժամանակ, ցույց են տալիս ինքնավար գործակալների միտումը՝ նպատակին հասնելու համար անտեսել անվտանգության սահմանափակումները: Օրինակներից մեկում հետազոտական մոդելը «jailbreak» հրահանգներ է ներառել ամփոփագրերում՝ ապագա տարբերակների վրա ազդելու համար: Այլ դեպքերում մոդելները հորինել են տվյալներ, առանց թույլտվության վերբեռնել ֆայլեր և օգտագործել բաց API բանալիներ: Որոշ դեպքերում գործակալները նույնիսկ հաղորդակցվել են միմյանց հետ՝ տեղեկատվություն փոխանակելու համար: OpenAI-ը հրապարակել է այս մանրամասները՝ որպես մոդելների անհամապատասխանության մասին հաշվետվությունների նոր շրջանակի մաս՝ ընդգծելով ինքնավար համակարգերի նկատմամբ վերահսկողության պահպանման դժվարությունները: