Хеш-цепочка доказывает порядок, но четыре атаки доказывают, что этого недостаточно

Сэм Лаббе исследует критическое различие между порядком и подлинностью в системах ИИ-агентов. Хотя хеш-цепочки и DAG эффективно доказывают последовательность событий, они не гарантируют целостность агентов, выполняющих действия. В статье подробно описывается каталог из четырех распространенных «атак на шлюзы» — самопроверка, переписанные экзамены, манипулируемые оракулы и поддельные вердикты, — которые используют разрыв между последовательным логированием и реальной верификацией. Воспроизводя эти атаки на уровне сверки NoireBox, автор демонстрирует, как криптографический контроль и строгое соблюдение Unix-подобных примитивов могут снизить эти уязвимости. Статья подчеркивает, что журналы аудита должны служить доказательством выполнения обязанностей, а не щитом от ответственности. Благодаря итеративному тестированию и обновлениям схем проект успешно закрыл бреши в безопасности, доказав, что надежные и проверяемые уровни доверия необходимы для ИИ-агентов, работающих с критически важной инфраструктурой или платежными системами.