🔍 ChatGPT будет помечать свои тексты невидимым водяным знаком. Но правки его стирают!
OpenAI внедряет водяные знаки в генерацию ChatGPT. Пока — для пользователей из Европы. Разбираем 👇

Как это работает

Модель статистически подбирает слова так, чтобы в тексте был считываемый сигнал. Для глаза он незаметен — распознать можно только специальным детектором, доступ к которому даст сама OpenAI.

Зачем

Не ради честности — ради закона. Ранее похожий инструмент внедрила Anthropic. ИИ-стартапы забеспокоились о детекции на фоне новых правил прозрачности в законе ЕС об ИИ.

Глава Nevel.ai Алексей Хахунов: относиться к этому стоит как к следованию букве закона, которое мало отразится на пользователях. Сам способ маркировки он называет надёжным.

Где слабое место

Знак живёт ровно до тех пор, пока текст не тронут. А публиковать сырой вывод нейросети без правок давно считается дурным тоном.

Преподаватель ВШЭ Алексей Карлов: если текст создавался нейросетью вместе с человеком, обнаружить следы ИИ будет практически невозможно.

Цифры от самой OpenAI

📉 Заменить 10% текста синонимами — детекция падает до 66%
📉 Заменить четверть слов — точность всего 17%

Итог:

формально требование выполнено — механизм есть, детектор есть. Фактически — несколько минут редактуры, и знака нет.

Как думаете — нужна ли маркировка, если её так легко обойти?