OpenAI помечает тексты ChatGPT невидимой меткой
OpenAI начала внедрять в странах ЕС невидимую маркировку текстов, созданных ChatGPT. Это связано с требованиями европейского закона об ИИ, который требует машинного определения контента от генеративных моделей.
Маркировка использует технологию textGrain: она не добавляет скрытых символов, а меняет статистический выбор слов и токенов, чтобы детектор мог определить происхождение текста. Тесты показали распознавание около 80% фрагментов на 200 токенов и до 95% на 400 токенов, но при замене четверти слов показатель падает до 17%. Маркировка не доказывает полное копирование: система не показывает, какую часть создал ИИ. Похожий подход уже применяет Anthropic в некоторых моделях Claude.
OpenAI начала внедрять в странах ЕС невидимую маркировку текстов, созданных ChatGPT. Это связано с требованиями европейского закона об ИИ, который требует машинного определения контента от генеративных моделей.
Маркировка использует технологию textGrain: она не добавляет скрытых символов, а меняет статистический выбор слов и токенов, чтобы детектор мог определить происхождение текста. Тесты показали распознавание около 80% фрагментов на 200 токенов и до 95% на 400 токенов, но при замене четверти слов показатель падает до 17%. Маркировка не доказывает полное копирование: система не показывает, какую часть создал ИИ. Похожий подход уже применяет Anthropic в некоторых моделях Claude.