OpenAI добавляет текстовые водяные знаки в ChatGPT и Codex

OpenAI объявила о внедрении системы невидимых, машиночитаемых водяных знаков для текстов, создаваемых ChatGPT и Codex. Эта функция в настоящее время развертывается специально для пользователей в Европейском союзе, что соответствует меняющимся нормативным требованиям региона в отношении прозрачности ИИ. OpenAI утверждает, что их технология «textGrain» по эффективности не уступает или превосходит существующие отраслевые стандарты, такие как SynthID от Google DeepMind, который также используется конкурентами, например Anthropic. Внедряя эти скрытые маркеры, компания стремится улучшить обнаружение контента, созданного ИИ, помогая отличить машинный текст от написанного человеком. Хотя первоначальное развертывание ограничено ЕС, этот шаг является важным этапом в усилиях индустрии по внедрению технических гарантий подотчетности ИИ, решая проблемы дезинформации и этичного использования генеративных моделей в цифровой среде.