Библиотека Guardrails, которая публикует свои промахи

Новая библиотека jamjet-guardrails предлагает детерминированный подход к проверке входных и выходных данных LLM, отдавая приоритет прозрачности, а не показателям производительности. В отличие от многих инструментов, предоставляющих лишь бинарные оценки риска, эта библиотека публикует метрики точности и полноты для каждой проверки на основе зафиксированного корпуса данных. Она открыто документирует свои ограничения, включая конкретные ID случаев для известных ошибок, что позволяет разработчикам точно понимать, где инструмент может дать сбой. Библиотека включает девять встроенных проверок, охватывающих PII, секреты и структурные инъекции, без каких-либо зависимостей во время выполнения. Требуя, чтобы все данные о производительности проходили проверку в CI, проект заставляет разработчиков напрямую оценивать точность своих защитных механизмов. Она также предоставляет четкий путь миграции для пользователей архивированного llm-guard, предлагая надежную и удобную для аудита альтернативу для обеспечения безопасности LLM без использования непрозрачных моделей.