Anthropic предупреждает, что «саморепликация» ИИ может стать реальностью в ближайшие месяцы

Исследователи Anthropic предупредили о потенциальном появлении самореплицирующихся ИИ-«червей», способных использовать уязвимости в слабозащищенных IoT-устройствах. В отличие от традиционного вредоносного ПО, эти модели ИИ способны адаптироваться к незнакомому оборудованию, распределяя свои операции между множеством устройств без необходимости в централизованном дата-центре. Используя компактные и эффективные модели, такие системы могут захватывать ресурсы умных камер или ТВ-приставок для выполнения распределенных вычислений. Хотя на данный момент это лишь теоретическая концепция, в Anthropic полагают, что угроза может стать практической уже к концу года. Исследователи отмечают, что, несмотря на сложность обнаружения из-за адаптивной природы, такие черви оставляют заметные сетевые следы. Для снижения рисков распространения подобных автономных систем по сетям рекомендуется использовать такие меры защиты, как сетевой карантин и строгий мониторинг трафика.