Հարձակվողները մանիպուլյացիայի են ենթարկում AI չաթ-բոտերը՝ ապատեղեկատվության և ֆիշինգի մասշտաբային արշավներում

Հարձակվողները ավելի հաճախ են թիրախավորում գեներատիվ AI հարթակները, ներառյալ ChatGPT-ն, Gemini-ն և Google AI Overview-ը՝ լայնածավալ ապատեղեկատվության և ֆիշինգային արշավներ իրականացնելու համար: Համացանցում չարամիտ հղումներ և կեղծ տվյալներ ռազմավարականորեն տարածելով՝ հարձակվողները մանիպուլյացիայի են ենթարկում այս հարթակների որոնողական օպտիմալացումը (SEO): Այս տեխնիկան, որը հաճախ անվանում են «AI-ի թունավորում», ստիպում է AI մոդելներին վերամշակել և վնասակար բովանդակությունը ներկայացնել որպես հավաստի տեղեկատվություն: Քանի որ օգտատերերն ավելի շատ են ապավինում AI-ի կողմից ստեղծված ամփոփումներին, խաբեբայական հղումների կամ վնասակար ծրագրերի հանդիպելու վտանգը զգալիորեն մեծանում է: Անվտանգության փորձագետները զգուշացնում են, որ այս միտումը վկայում է այն մասին, թե ինչպես են կիբերհանցագործները շահագործում AI համակարգերի հանդեպ ունեցած վստահությունը: Կազմակերպություններին և անհատ օգտատերերին խորհուրդ է տրվում ստուգել AI գործիքների տրամադրած տեղեկատվությունը առաջնային աղբյուրների միջոցով և զգոն լինել անսպասելի հղումների նկատմամբ: