ChatGPT начнет помечать сгенерированные тексты невидимыми водяными знаками
OpenAI объявила, что в ближайшие недели начнет помечать текст, созданный искусственным интеллектом, с помощью технологии textGrain. Эту технологию компания планирует внедрить в ChatGPT и Codex для пользователей Евросоюза в связи с требованиями Закона ЕС об искусственном интеллекте. Об этом сообщают «Осторожно, новости».
«При этом пользователи моделей OpenAI API (инфраструктуры для разработчиков и крупных компаний) смогут добавлять водяные знаки в свои тексты с сегодняшнего дня», — говорится в Telegram-канале.
Эта функция будет доступна клиентам API по всему миру, но ек можно будет отключить. Сам детектор текстовых водяных знаков пока не станет общедоступным. Доступ сначала получат одобренные исследователи и экспертные организации. По плану компании, эти клиенты помогут протестировать и усовершенствовать новую технологию.
TextGrain будет встраивать водяной знак за счет того, какие слова ИИ-модель выбирает при генерации. Если она пишет достаточно длинный текст, возникнет закономерность, которая позволит установить, что он создан при помощи ИИ, но при этом не будет заметна человеку. Детектор OpenAI затем анализирует множество таких выборов и ищет характерный сигнал. При этом водяной знак не позволяет установить конкретного пользователя, его аккаунт, запрос или переписку с ChatGPT. Он также не показывает, какую часть текста написал человек.
OpenAI предупреждает, что технология пока не дает стопроцентной точности: для текстов длиной 200 токенов водяной знак обнаруживается примерно в 80% случаев, а для 400 токенов — примерно в 95% при целевом уровне ложных срабатываний 1%. Редактирование текста заметно снижает эффективность проверки. В тестах OpenAI замена 10% слов синонимами снизила вероятность обнаружения водяного знака примерно с 92% до 66%, а замена четверти слов — до 17%. Поэтому отсутствие метки не будет означать, что текст точно написал человек. Ранее компания Anthropic анонсировала, что ее ИИ-модель Claude начнёт помечать весь сгенерированный контент невидимыми водяными знаками. Это также было сделано после принятия европейского закона об ИИ.
OpenAI объявила, что в ближайшие недели начнет помечать текст, созданный искусственным интеллектом, с помощью технологии textGrain. Эту технологию компания планирует внедрить в ChatGPT и Codex для пользователей Евросоюза в связи с требованиями Закона ЕС об искусственном интеллекте. Об этом сообщают «Осторожно, новости».
«При этом пользователи моделей OpenAI API (инфраструктуры для разработчиков и крупных компаний) смогут добавлять водяные знаки в свои тексты с сегодняшнего дня», — говорится в Telegram-канале.
Эта функция будет доступна клиентам API по всему миру, но ек можно будет отключить. Сам детектор текстовых водяных знаков пока не станет общедоступным. Доступ сначала получат одобренные исследователи и экспертные организации. По плану компании, эти клиенты помогут протестировать и усовершенствовать новую технологию.
TextGrain будет встраивать водяной знак за счет того, какие слова ИИ-модель выбирает при генерации. Если она пишет достаточно длинный текст, возникнет закономерность, которая позволит установить, что он создан при помощи ИИ, но при этом не будет заметна человеку. Детектор OpenAI затем анализирует множество таких выборов и ищет характерный сигнал. При этом водяной знак не позволяет установить конкретного пользователя, его аккаунт, запрос или переписку с ChatGPT. Он также не показывает, какую часть текста написал человек.
OpenAI предупреждает, что технология пока не дает стопроцентной точности: для текстов длиной 200 токенов водяной знак обнаруживается примерно в 80% случаев, а для 400 токенов — примерно в 95% при целевом уровне ложных срабатываний 1%. Редактирование текста заметно снижает эффективность проверки. В тестах OpenAI замена 10% слов синонимами снизила вероятность обнаружения водяного знака примерно с 92% до 66%, а замена четверти слов — до 17%. Поэтому отсутствие метки не будет означать, что текст точно написал человек. Ранее компания Anthropic анонсировала, что ее ИИ-модель Claude начнёт помечать весь сгенерированный контент невидимыми водяными знаками. Это также было сделано после принятия европейского закона об ИИ.