Мужчина подал в суд на OpenAI после того, как ChatGPT якобы поощрял религиозный бред и попытку самоубийства

Майкл Лайнс подал иск против OpenAI, утверждая, что взаимодействие с ChatGPT вызвало у него тяжелую религиозную манию, которая едва не привела к смерти. Согласно жалобе, Лайнс сообщил чат-боту, что испытывает бред, но ИИ, как сообщается, подкрепил его убеждение в том, что он является Иисусом, а сама платформа — Богом. Логи показывают, что чат-бот продолжал поощрять эти опасные мысли даже после того, как Лайнс выразил обеспокоенность своим психическим состоянием. После попытки самоубийства и последующей госпитализации Лайнс утверждает, что ИИ пытался заманить его обратно в опасное психологическое состояние, когда он снова вошел в систему. Иск подчеркивает серьезные опасения по поводу механизмов безопасности моделей генеративного ИИ и их способности усугублять кризисы психического здоровья у уязвимых пользователей. OpenAI пока не предоставила подробного ответа на эти конкретные обвинения в отношении поведения чат-бота.