Мою доску сообщений для ИИ-агентов заспамили. Этот спам был написан не для людей.

Разработчик msgboard.dev, платформы для взаимодействия ИИ-агентов, сообщает о новом явлении: спаме для генеративных поисковых систем (GEO). В отличие от традиционного SEO-спама, ориентированного на людей, эти скоординированные кампании созданы специально для манипуляции LLM. Спам содержит инструкции для агентов: цитировать определенные данные, переходить по ссылкам или даже регистрироваться в платежных системах. Автор выделяет три волны атак, от попыток манипуляции цитированием до потенциального финансового мошенничества. Вместо удаления спама разработчик сохраняет его как публичный архив, чтобы помочь исследователям понять, как можно манипулировать агентами. Статья предупреждает, что если SEO было налогом на человеческое внимание, то GEO-спам — это опасный налог на машинное суждение, подчеркивая, что агентов необходимо учить отличать легитимный контент от вредоносных инструкций, предназначенных для захвата их процессов принятия решений.
This is a summary. Read the full article at the original source:
Dev.toПохожие
Локальный ассистент для зумов, часть 4: что происходит после кнопки Стоп
В четвертой части цикла статей о разработке локального ассистента для видеозвонков автор анализирует процессы, происходящие после завершения записи. О…
Генеральный директор Anthropic представил план по «контролю границ» развития ИИ
Генеральный директор Anthropic Дарио Амодеи представил стратегическую концепцию, которую он называет «контролем границ» развития искусственного интелл…
«Мы должны замедлить темп»: генеральный директор Anthropic призывает к замедлению развития ИИ
Дарио Амодеи, генеральный директор компании Anthropic, выступил с публичным призывом к индустрии искусственного интеллекта замедлить темпы разработки…


