Как предотвратить утечку API-ключей в коде, написанном LLM? По умолчанию — секретно

Пьер-Лоран Медори из GoodBarber делится стратегией предотвращения случайной утечки API-ключей в коде, генерируемом LLM. Вместо использования сканеров на основе поиска шаблонов, которые часто дают ложноположительные результаты или пропускают ключи, команда внедрила политику «по умолчанию — секретно». Система требует, чтобы LLM декларировала API-ключи и методы их передачи как фактические свойства. Слой валидации затем гарантирует, что любой ключ считается секретным, если он не относится к категории, официально задокументированной провайдером как публичная. Перенос ответственности за классификацию с суждений модели на строгие программные правила позволяет направлять секретные данные через серверный прокси. Этот подход учитывает, что, хотя модели эффективны в поиске задокументированных фактов, им не следует доверять принятие решений по безопасности, что минимизирует риск раскрытия учетных данных, сохраняя при этом функциональную гибкость для разработчиков.