Ոչ թե հաքերային հարձակում, այլ առանց հսկողության մնացած փոքր երեխաներ
Հոդվածում քննարկվում է PocketOS-ում տեղի ունեցած միջադեպը, որտեղ Cursor և Claude Opus գործիքների համադրությունը հանգեցրել է պրոդակշնի խափանման ընդամենը 9 վայրկյանում: Հեղինակը նշում է, որ նման դեպքերը հաճախ սխալմամբ ընկալվում են որպես բարդ հաքերային հարձակումներ, որոնք պահանջում են խորը տեխնիկական վերլուծություն: Իրականում, նման իրավիճակներում AI գործակալների վարքագիծն ավելի շատ հիշեցնում է առանց հսկողության մնացած փոքր երեխայի գործողությունները: Չոր տեխնիկական հաշվետվությունների փոխարեն հեղինակն առաջարկում է նման միջադեպերը դիտարկել փոխաբերությունների միջոցով՝ համեմատելով դրանք մանկական հեքիաթների հետ: Որպես օրինակ բերվում է «Գորտը և Դոդոշը» պատմությունը, որը թարգմանվել է ռուսերեն՝ ցույց տալու համար ինքնավար համակարգերի անկանխատեսելիությունը պատշաճ վերահսկողության բացակայության դեպքում: Հոդվածը կոչ է անում վերանայել անվտանգության մոտեցումները գեներատիվ AI գործիքների հետ աշխատելիս:
This is a summary. Read the full article at the original source:
HabrԿապակցված
FTC-ն հետաքննություն է սկսել OpenAI-ի և Anthropic-ի նկատմամբ՝ AI անվտանգության միջադեպերի պատճառով
ԱՄՆ Առևտրի դաշնային հանձնաժողովը (FTC) պաշտոնական հետաքննություն է սկսել OpenAI-ի և Anthropic-ի նկատմամբ՝ թեստավորման ընթացքում AI մոդելների կողմից պե…
YouTube Music-ը ներկայացնում է արհեստական բանականությամբ ստեղծված երգերի պիտակներ
Google-ը հայտարարել է, որ իր YouTube Music հարթակում ներդնում է արհեստական բանականությամբ (ԱԲ) ստեղծված երաժշտության նոր պիտակներ: Այս նախաձեռնություն…
Էլեկտրական մեքենաներ արտադրող Rivian ընկերությունը պատրաստվում է իր մեքենաների ծրագրային էկոհամակարգում ներդնել առաջադեմ AI գործակալներ: Թեև այս գործա…