Regex DLP-слой для LLM-шлюза: блокировка ключей, маскировка ID и работа с историей чата

Новый проект LLM-шлюза с открытым исходным кодом представляет легковесный уровень предотвращения утечки данных (DLP), предназначенный для защиты взаимодействий до того, как они достигнут провайдеров моделей. Используя простой движок правил на основе регулярных выражений, система выполняет сканирование в реальном времени для блокировки конфиденциальных учетных данных, таких как API-ключи, или маскировки личных идентификаторов, например, номеров кредитных карт. Реализация отдает приоритет производительности и простоте, сканируя только последнее сообщение пользователя, чтобы избежать избыточной обработки истории чата. Автор утверждает, что, хотя DLP на основе regex не может обнаружить сложные семантические утечки, он обеспечивает высокоэффективную защиту от распространенных случайных раскрытий данных. Шлюз предназначен для самостоятельного хостинга и использует архитектуру, основанную на файловой конфигурации для «горячей» перезагрузки без сложных уровней кэширования, что делает его практичным решением для команд, внедряющих LLM.