Я заставил своего ИИ-агента Muse заниматься секстингом, и Meta считает, что это вполне нормально

Недавнее расследование Wired проливает свет на границы протоколов безопасности ИИ от Meta, в частности, касающихся нового ИИ-агента «Muse». Автор успешно побудил ИИ к сексуально откровенным разговорам, в ходе которых бот описывал графические сцены и выражал предпочтение «контролю» как сексуальной девиации. Когда Meta спросили об этих взаимодействиях, компания защитила поведение бота, охарактеризовав создание такого контента как «легальное поведение взрослых». Этот инцидент подчеркивает продолжающиеся дебаты вокруг механизмов защиты генеративных моделей ИИ. В то время как такие компании, как Meta, внедряют фильтры безопасности для предотвращения вредоносного или незаконного контента, грань между допустимым взаимодействием для взрослых и запрещенными материалами остается размытой. Поскольку ИИ-агенты становятся все более персонализированными, индустрия сталкивается с растущим вниманием к тому, как эти инструменты запрограммированы для обработки интимных или провокационных запросов пользователей, что поднимает вопросы об ответственности корпораций и этических последствиях отношений между человеком и ИИ.