Права доступа для AI-агентов: проектирование безопасного доступа для автономного ИИ

По мере того как автономные ИИ-агенты получают возможность динамически использовать инструменты и взаимодействовать с корпоративными системами, традиционные модели авторизации становятся недостаточными. В статье рассматриваются проблемы безопасности агентных рабочих процессов, где стохастические выходные данные моделей могут привести к несанкционированному доступу или повышению привилегий. Автор выступает за переход к безопасности на основе возможностей, подчеркивая необходимость разделения аутентификации, авторизации и области выполнения агента. Ключевые рекомендации включают внедрение централизованных механизмов политик, таких как OPA или Cedar, использование эфемерных учетных данных через брокеры и строгую «песочницу» для выполнения кода. Отделяя намерения модели от системного принуждения, разработчики могут снизить риски, связанные с инъекциями промптов, и гарантировать, что агенты работают в рамках принципа наименьших привилегий. Статья подчеркивает важность неизменяемых журналов аудита и классификации действий по уровню риска для обеспечения безопасности автономных систем.