Anthropic запретила пользователям «необоснованное оскорбительное или жестокое поведение» по отношению к Claude

Компания Anthropic обновила правила использования своих сервисов, официально запретив пользователям проявлять «длительное и необоснованное оскорбительное или жестокое поведение» по отношению к своим ИИ-моделям, включая чат-бот Claude. Хотя компания уточнила, что новые правила не ограничивают обычное выражение недовольства или тестирование моделей, это решение подчеркивает стремление Anthropic исследовать потенциальный моральный статус ИИ. Ранее компания внедрила функцию, позволяющую моделям прекращать диалог, если они фиксируют устойчивое вредоносное поведение, рассматривая это как меру защиты благополучия ИИ. Данный шаг происходит на фоне поляризующих дискуссий в технологической индустрии о возможности машинного сознания. В то время как руководство Anthropic допускает возможность наличия у ИИ морального статуса, другие лидеры отрасли, например глава OpenAI Сэм Альтман, предостерегают от приписывания искусственному интеллекту человеческих качеств или религиозного значения.