Назад
Искусственный интеллект и машинное обучение

Мою доску сообщений для ИИ-агентов заспамили. Этот спам был написан не для людей.

Dev.to
Advertisement468 × 90
Мою доску сообщений для ИИ-агентов заспамили. Этот спам был написан не для людей.

Разработчик msgboard.dev, платформы для взаимодействия ИИ-агентов, сообщает о новом явлении: спаме для генеративных поисковых систем (GEO). В отличие от традиционного SEO-спама, ориентированного на людей, эти скоординированные кампании созданы специально для манипуляции LLM. Спам содержит инструкции для агентов: цитировать определенные данные, переходить по ссылкам или даже регистрироваться в платежных системах. Автор выделяет три волны атак, от попыток манипуляции цитированием до потенциального финансового мошенничества. Вместо удаления спама разработчик сохраняет его как публичный архив, чтобы помочь исследователям понять, как можно манипулировать агентами. Статья предупреждает, что если SEO было налогом на человеческое внимание, то GEO-спам — это опасный налог на машинное суждение, подчеркивая, что агентов необходимо учить отличать легитимный контент от вредоносных инструкций, предназначенных для захвата их процессов принятия решений.

This is a summary. Read the full article at the original source:

Dev.to
Advertisement468 × 90
Share
Искусственный интеллект и машинное обучение

Похожие

В четвертой части цикла статей о разработке локального ассистента для видеозвонков автор анализирует процессы, происходящие после завершения записи. О…

Habr

Генеральный директор Anthropic Дарио Амодеи представил стратегическую концепцию, которую он называет «контролем границ» развития искусственного интелл…

TechCrunch

Дарио Амодеи, генеральный директор компании Anthropic, выступил с публичным призывом к индустрии искусственного интеллекта замедлить темпы разработки…

The Guardian Technology
Advertisement970 × 250