Почему «мониторинга» недостаточно для ИИ-агентов — и как сделать делегирование криптографически проверяемым

По мере того как ИИ-агенты обретают автономность, традиционные системы логирования и мониторинга оказываются недостаточными для обеспечения подотчетности. Разработчик Киронов Лазиз-Дел утверждает, что серверные логи — это лишь заявления, а не доказательства, и предлагает перейти к криптографически проверяемому делегированию. Используя подписи Ed25519, агенты могут подписывать свои инструкции по делегированию, позволяя аудиторам независимо проверять цепочку полномочий, не доверяя серверу. Автор подчеркивает важность канонической сериализации для предотвращения ошибок при проверке подписей и отмечает, что безопасность на основе возможностей — когда агенты могут делегировать только подмножество своих прав — критически важна для многоагентных систем. Проект AI Control Tower доступен как инструмент с открытым исходным кодом, помогающий разработчикам внедрять эти меры проверяемой подотчетности, отвечая растущим регуляторным требованиям к прозрачности автономных систем.