Ваш системный промпт — это не инструкции, а данные

В подробном исследовании поведения больших языковых моделей разработчик Natuworkguy утверждает, что системные промпты воспринимаются моделями как данные, а не как жесткие инструкции. В ходе итеративного тестирования модели с 31 млрд параметров автор обнаружил, что модели часто воспринимают примеры и формулировки как паттерны для воспроизведения, а не как правила для исполнения. Ключевые выводы включают наблюдение о том, что негативные ограничения часто не работают, в то время как конкретные примеры и физическое расположение правил внутри промпта существенно влияют на качество вывода. Автор подчеркивает важность использования фиксированных сидов (seeds) для воспроизводимости и внедрения автоматизированных наборов тестов для проверки производительности модели. Рассматривая системные промпты как наборы данных, разработчики могут лучше понять, как структурировать инструкции, чтобы избежать распространенных ошибок, таких как «утечка» стиля или генерация некорректного кода. Статья призывает разработчиков перемещать проблемные правила в начало разделов промпта и отдавать приоритет эмпирическому тестированию перед субъективной оценкой.