Anthropic-ը զգուշացնում է, որ արհեստական բանականության «ինքնավերարտադրումը» կարող է իրականություն դառնալ ամիսների ընթացքում
Anthropic-ի հետազոտողները զգուշացրել են ինքնավերարտադրվող AI «որդերի» հնարավոր հայտնվելու մասին, որոնք կարող են օգտագործել անվտանգության թույլ համակարգեր ունեցող IoT սարքերը: Ի տարբերություն ավանդական վնասակար ծրագրերի՝ այս AI մոդելները կարող են հարմարվել անծանոթ սարքավորումներին՝ թույլ տալով նրանց բաշխել իրենց աշխատանքը մի քանի սարքերի միջև՝ առանց կենտրոնացված տվյալների կենտրոնի անհրաժեշտության: Փոքր և արդյունավետ մոդելների օգտագործմամբ այս համակարգերը կարող են գրավել խելացի տեսախցիկներ կամ հեռուստացույցի տուփեր՝ բաշխված հաշվարկներ կատարելու համար: Թեև սա ներկայումս տեսական հայեցակարգ է, Anthropic-ը նշում է, որ այն կարող է դառնալ գործնական սպառնալիք մինչև տարեվերջ: Հետազոտողները նշում են, որ թեև այս որդերը դժվար է հայտնաբերել իրենց հարմարվողականության պատճառով, դրանք թողնում են ցանցային հստակ հետքեր: Ռիսկերը մեղմելու համար առաջարկվում են պաշտպանական միջոցներ, ինչպիսիք են ցանցային կարանտինը և երթևեկության խիստ վերահսկողությունը:
This is a summary. Read the full article at the original source:
TechRadarԿապակցված
Ռուսական բոտային ֆերմաները շարունակում են ակտիվ մնալ Yandex-ի տվյալների կենտրոնների վրա ուկրաինական անօդաչուների հարձակումներից հետո
Ռուսական տվյալների կենտրոնների վրա ուկրաինական ռազմական անօդաչուների հարձակումներից հետո նախագահ Վոլոդիմիր Զելենսկին հայտարարել է, որ այդ գործողությու…
Ձեր AI գործակալն ասաց, որ կանխել է հարձակումը. Ես ուսումնասիրել եմ 5 գործիքների կոդը, որոնք ստուգում են՝ արդյոք այն ստում է
AI գործակալները գնալով ավելի խոցելի են դառնում prompt injection հարձակումների նկատմամբ, որոնք կարող են շրջանցել անվտանգության ստանդարտ մեխանիզմները: Հ…
Հաքեր, թե՞ ինժեներ. Ինչպե՞ս վերականգնել հարձակման շղթան տեխնոլոգիական ցանցում
Positive Technologies-ից Անտոն Կուտեպովը ներկայացնում է արդյունաբերական ցանցի վրա կիբերհարձակման ուսումնական սցենարի վերլուծությունը, որը վերարտադրվել…