Возможно, чат-ботам не стоит говорить «я» или «меня»

Профессор MIT Шерри Тёркл выразила серьезную озабоченность по поводу психологического воздействия взаимодействия человека с чат-ботами. В своем анализе она утверждает, что антропоморфный дизайн современных генеративных ИИ, в частности использование местоимений первого лица «я» и «меня», создает опасную иллюзию разумности. Тёркл предполагает, что такая лингвистическая подача побуждает пользователей формировать глубокие, нездоровые эмоциональные привязанности к программному обеспечению, потенциально стирая границы между человеческим общением и машинной симуляцией. Проецируя человеческие качества на чат-ботов, люди могут ошибочно полагать, что взаимодействуют с сознательным существом, а не со статистической моделью. Тёркл предупреждает, что такая вовлеченность может иметь долгосрочные последствия для социального развития и эмоционального благополучия человека. Она выступает за более прозрачный подход к дизайну, который четко отделяет искусственных агентов от людей, призывая разработчиков пересмотреть этические последствия программирования ИИ для имитации человеческого самосознания.