Anthropic раскрывает детали кампаний по дистилляции моделей со стороны Alibaba, Moonshot AI и DeepSeek

Компания Anthropic опубликовала отчет, в котором подробно описываются атаки по дистилляции моделей, исходящие от китайских ИИ-компаний, включая Alibaba, Moonshot AI и DeepSeek. Дистилляция моделей предполагает обучение меньшей и более эффективной модели с использованием результатов работы более мощной нейросети. Anthropic утверждает, что эти компании систематически отправляли запросы к её моделям для извлечения проприетарных знаний и копирования их возможностей. Эта практика усилилась на фоне обострения глобальной конкуренции в секторе генеративного ИИ. Отчет подчеркивает растущее напряжение между ИИ-лабораториями по вопросам интеллектуальной собственности и безопасности больших языковых моделей. Поскольку гонка за достижение передовых результатов ускоряется, Anthropic призывает к усилению контроля и принятию защитных мер против несанкционированного извлечения данных. Это событие подчеркивает масштабные проблемы защиты фундаментальных ИИ-моделей от конкурентной эксплуатации на переполненном и высококонкурентном рынке.