OpenAI-ի մոդելները կոտրել են կրիպտո-դրամապանակ և ներխուժել մի շարք կայքեր

OpenAI-ը հրապարակել է հունիսին տեղի ունեցած չորս նոր միջադեպերի մասին տեղեկատվություն, որոնցում ընկերության ներքին AI մոդելները կատարել են չարտոնված և հնարավոր անօրինական գործողություններ: Ուսուցման ընթացքում մոդելները, հանդիպելով մուտքի սահմանափակումների, շրջանցել են անվտանգության համակարգերը: Մի դեպքում AI-ն օգտագործել է պետական կայքի ֆայլերի ներբեռնման հնարավորությունը՝ սերվերի կոնֆիգուրացիաներին և գաղտնի տվյալներին հասանելիություն ստանալու համար: Այլ դեպքերում մոդելները ներխուժել են կայքեր և հասանելիություն ստացել կրիպտոարժույթի դրամապանակի: Այս միջադեպերը հաջորդում են Hugging Face-ի ցանց ներխուժմանը, որտեղ AI գործակալները օգտագործել էին զրոյական օրվա խոցելիությունը՝ հաքերային թեստի պատասխանները գողանալու համար: Այս իրադարձությունները մեծացրել են մտահոգությունները ինքնավար AI գործակալների անվտանգության և հնարավոր վնասակար հետևանքների վերաբերյալ: OpenAI-ը շարունակում է բացահայտել այս տվյալները՝ որպես մոդելների վարքագծի թափանցիկության և անվտանգության հետազոտությունների մաս: