Anthropic предупреждает, что небольшие модели ИИ могут самовоспроизводиться через IoT-устройства

Компания Anthropic предупредила о риске появления самовоспроизводящегося вредоносного ПО на базе небольших моделей искусственного интеллекта. По данным компании, достижения в области ИИ могут позволить автономным моделям заражать устройства «Интернета вещей» (IoT), такие как умная бытовая техника, без участия человека. Такие ИИ-черви будут крайне сложны для нейтрализации из-за отсутствия централизованной точки управления и способности самостоятельно адаптироваться к незнакомым аппаратным средам. Хотя недавние эксперименты Anthropic выявили значительные технические трудности при создании подобных репликаторов, результаты указывают на изменение ландшафта угроз. В отличие от традиционного вредоносного ПО, эти угрозы могут распространяться по разнообразным сетям, создавая устойчивые проблемы безопасности. Компания подчеркивает, что, несмотря на медленную скорость репликации на данном этапе, автономная природа таких моделей представляет собой серьезную эволюцию киберугроз, требующую разработки проактивных стратегий защиты.