Новый ИИ-чат-бот правительства США превратил финальную поэму Minecraft в бюрократический текст

Правительство США запустило нового ИИ-чат-бота на сайте America.gov, предназначенного для помощи гражданам в получении официальной информации. Однако пользователи обнаружили, что инструмент демонстрирует непредсказуемое поведение при выполнении творческих задач. В частности, чат-бот сгенерировал бюрократическую версию знаменитой «Финальной поэмы» из игры Minecraft. Когда у ИИ спросили об этом, он заявил, что не писал этот текст, что подчеркивает проблемы надежности и прозрачности государственных систем генеративного ИИ. Этот инцидент подчеркивает продолжающиеся дебаты вокруг внедрения больших языковых моделей в государственном секторе, где точность и подотчетность имеют первостепенное значение. Поскольку федеральные агентства продолжают интегрировать инструменты ИИ, данный случай служит напоминанием о рисках «галлюцинаций», присущих современным технологиям LLM, даже при их использовании в рамках официальных правительственных платформ.