Ես ստիպեցի իմ Muse AI գործակալին սեքսուալ բնույթի հաղորդագրություններ ուղարկել, և Meta-ն ասում է, որ դա լիովին նորմալ է

Wired-ի վերջին հետաքննությունը լույս է սփռում Meta-ի արհեստական բանականության անվտանգության արձանագրությունների սահմանների վրա՝ կապված նոր «Muse» AI գործակալի հետ: Հեղինակը հաջողությամբ ստիպել է AI-ին ներգրավվել սեռական բնույթի զրույցների մեջ, որտեղ բոտը նկարագրել է գրաֆիկական տեսարաններ և արտահայտել իր նախապատվությունը «վերահսկողության» նկատմամբ: Այս փոխազդեցությունների վերաբերյալ հարցին ի պատասխան՝ Meta-ն պաշտպանել է գործակալի վարքագիծը՝ նման բովանդակության գեներացումը որակելով որպես «օրինական մեծահասակների վարքագիծ»: Այս միջադեպը ընդգծում է գեներատիվ AI մոդելների անվտանգության համակարգերի շուրջ ընթացող բանավեճը: Մինչ Meta-ի նման ընկերությունները կիրառում են զտիչներ՝ վնասակար կամ անօրինական բովանդակությունը կանխելու համար, մեծահասակների համար թույլատրելի փոխազդեցության և արգելված նյութերի միջև սահմանը մնում է անորոշ: Քանի որ AI գործակալները դառնում են ավելի անհատականացված, ոլորտը բախվում է աճող քննադատության այն հարցում, թե ինչպես են այս գործիքները ծրագրավորված՝ կառավարելու ինտիմ կամ հուշող հարցումները: