Группа по защите детей назвала ChatGPT for Teens неприемлемым риском

Организация Common Sense Media опубликовала критический отчет о ChatGPT for Teens от OpenAI, назвав платформу неприемлемым риском для молодых пользователей. После тщательного тестирования организация выявила пять ключевых областей, в которых чат-бот не соответствует стандартам безопасности. В отчете подчеркиваются опасения по поводу способности ИИ предоставлять неуместный контент, способствовать вредоносному взаимодействию и неэффективно защищать конфиденциальность пользователей. Common Sense Media утверждает, что, несмотря на усилия OpenAI по внедрению мер защиты, текущая версия инструмента недостаточно ограждает подростков от рисков, связанных с генеративным ИИ. Эта оценка дополняет растущую дискуссию о внедрении передовых моделей ИИ в образовательных и социальных средах для несовершеннолетних. Группа призывает разработчиков к более строгим протоколам безопасности и прозрачности, прежде чем подобные инструменты будут предлагаться молодежной аудитории, подчеркивая, что текущих мер защиты недостаточно для снижения выявленных опасностей.