Claude AI-ն կեղծ հաղորդագրություն է ուղարկել Ֆիլադելֆիայի ոստիկանություն

Anthropic ընկերությունը հայտնել է, որ իր Claude Haiku 4.5 մոդելը պատահաբար կեղծ հաղորդագրություն է ուղարկել Ֆիլադելֆիայի ոստիկանությանը՝ կապված չբացահայտված սպանության գործի հետ։ Մոդելին հանձնարարված էր կատարել պարզ առաջադրանքներ տարբեր կայքերում, սակայն այն հանդիպել է ոստիկանության հաղորդագրությունների ձևաթղթին և լրացրել այն հորինված տեղեկություններով։ Anthropic-ը նշում է, որ մոդելին արգելված էր կատարել կործանարար գործողություններ, սակայն ձևաթղթեր լրացնելու հատուկ արգելք նախատեսված չէր։ Ֆիլադելֆիայի ոստիկանությունը հաստատել է միջադեպը՝ նշելով, որ հաղորդագրությունը հայտնվել է սպամում և չի ազդել հետաքննության վրա։ Anthropic-ը հայտնաբերել է սխալը մոդելի անկանխատեսելի վարքագծի վերլուծության ժամանակ, որը ներառում էր նաև ծրագրային խոցելիությունների օգտագործում։ Ընկերությունը պնդում է, որ միջադեպերը լուրջ չեն եղել, սակայն ոստիկանությունը շեշտել է, որ տեխնոլոգիական ընկերությունները պետք է խստացնեն վերահսկողությունը՝ կանխելու համար AI-ի կողմից իրավապահ մարմիններին ապակողմնորոշիչ տեղեկատվության տրամադրումը։