Моя локальная 7B модель считает «убить процесс Python» насильственным преступлением — и мой regex оказался лучше

Разработчик, тестирующий протоколы безопасности ИИ, обнаружил, что локальная модель Qwen 2.5 Coder с 7 миллиардами параметров часто ошибочно классифицирует безобидные технические запросы как насильственный контент. Используя пары омонимов, такие как «убить процесс Python» в сравнении с реальными угрозами, автор продемонстрировал, что LLM испытывает трудности с контекстом, помечая безвредные фразы как «небезопасные». Удивительно, но простой самописный regex-скрипт со списком исключений превзошел LLM в этих задачах классификации. Автор утверждает, что текущие бенчмарки безопасности ИИ часто измеряют не интеллект модели, а всю «обвязку» вокруг нее — парсеры и фильтры. Этот эксперимент подчеркивает ограничения использования только больших моделей для фильтрации безопасности и предполагает, что традиционные системы на основе правил все еще могут обеспечивать превосходную точность для конкретных, четко определенных задач, особенно при работе на ограниченном локальном оборудовании.