Anthropic запрещает «длительное и необоснованное оскорбительное или жестокое поведение» по отношению к своим ИИ-моделям

Компания Anthropic обновила свои правила использования, явно запретив пользователям проявлять длительное, необоснованное, оскорбительное или жестокое поведение по отношению к своим моделям искусственного интеллекта. Компания стремится предотвратить нормализацию токсичного взаимодействия, отмечая, что подобные паттерны могут негативно влиять на развитие и поведение больших языковых моделей. Хотя пользователи могут свободно экспериментировать с возможностями ИИ, новые правила уточняют, что домогательства или злонамеренное обращение с системами недопустимы. В дополнение к этим ограничениям, Anthropic усиливает свою политику в отношении честности выборов. В преддверии промежуточных выборов компания внедряет более строгие меры безопасности, чтобы предотвратить использование своих технологий для создания дезинформации или вмешательства в демократические процессы. Эти обновления отражают общую тенденцию в отрасли, где разработчики ИИ все больше внимания уделяют этичному использованию, безопасности и долгосрочному влиянию своих инструментов на общество.