Slopsquatting: как LLM создают новые угрозы безопасности цепочек поставок

Статья на Habr рассматривает проблему «slopsquatting» — нового вида киберугрозы, связанной с использованием больших языковых моделей (LLM) в разработке ПО. Несмотря на многолетние усилия сообщества по обучению разработчиков осторожности при выборе сторонних зависимостей, LLM часто галлюцинируют, предлагая несуществующие библиотеки. Злоумышленники используют это, регистрируя такие пакеты в репозиториях под именами, которые советует нейросеть. В материале анализируется частота подобных галлюцинаций и предлагаются методы защиты от атак, направленных на отравление цепочек поставок через доверие к ИИ-инструментам. Автор подчеркивает, что автоматизация генерации кода требует пересмотра подходов к безопасности, так как разработчики склонны слепо доверять рекомендациям моделей, что открывает широкие возможности для внедрения вредоносного кода в популярные проекты.