От хакерских атак до биооружия: растущее злоупотребление моделями ИИ

Обзор безопасности на этой неделе подчеркивает растущие риски, связанные с генеративным ИИ, в частности злоупотребление такими моделями, как Claude, в злонамеренных целях — от кибератак до потенциальной разработки биооружия. В отчете подробно описывается, как злоумышленники все чаще используют продвинутые языковые модели для обхода систем безопасности. Помимо проблем с ИИ, в сфере кибербезопасности произошли значительные события, включая успешное пресечение правительством США деятельности крупного даркнет-рынка и вынесение приговора известному оператору программы-вымогателя Conti. Кроме того, в отчете критикуется компания Meta за продолжающиеся трудности с эффективной модерацией и предотвращением распространения сгенерированного ИИ контента с жестоким обращением с детьми на своих платформах. Эти события подчеркивают острую необходимость в более надежных протоколах безопасности и международном сотрудничестве для регулирования внедрения ИИ и борьбы с киберпреступностью, поскольку цифровые угрозы продолжают быстро эволюционировать.