«Как языковая модель»: Шаблоны чата меняют самореферентный голос LLM

В новой исследовательской работе под названием «Как языковая модель»: Шаблоны чата меняют самореферентный голос LLM исследуется, как структурное форматирование шаблонов чата существенно влияет на самореферентное поведение больших языковых моделей (LLM). Авторы демонстрируют, что путем изменения системных промптов и структуры чата исследователи могут эффективно изменять или подавлять стандартные дисклеймеры «Как языковая модель ИИ», которые часто генерируют модели. Это исследование подчеркивает чувствительность LLM к формату входных данных, предполагая, что личность и самоидентификация модели не являются фиксированными чертами, а сильно зависят от архитектуры шаблона чата. Полученные результаты дают важную информацию для разработчиков, стремящихся настроить поведение модели и повысить надежность взаимодействий с LLM, путем тонкой настройки того, как эти модели воспринимают свою собственную идентичность в рамках диалогового контекста.