Новости
650

ChatGPT начал помечать ИИ⁠-⁠тексты ​невидимым водяным знаком — пока только в ЕС

7
ChatGPT начал помечать ИИ⁠-⁠тексты ​невидимым водяным знаком — пока только в ЕС
Аватар автора

Рустам Абдуллин

следит за новостями

Страница автора

5 октября в ChatGPT и Codex добавили водяной знак, которым будут маркироваться сгенерированные тексты.

Его не видно невооруженным глазом, но специальный детектор может определить, что текст создан с помощью ИИ. В Евросоюзе пометка будет добавляться автоматически на всех тарифах, включая бесплатный. За пределами ЕС невидимые водяные знаки не действуют.

Тексты будут помечаться по технологии textGrain. Она едва заметно подбирает слова так, что в тексте остается определенный узор, который читатель не видит, а детектор распознает. Никаких скрытых символов и спрятанных меток в буквальном смысле нет. На качество ответов такой определенный подбор слов заметно не влияет, уверяет OpenAI.

Знак работает не всегда и слабеет при редактуре. При одном проценте ложных срабатываний детектор ловит около 80% на фрагменте в 200 токенов  ​и примерно 95% — на 400 токенах. Чем короче текст, тем труднее его опознать. Хуже всего знак выявляется в коротких отрывках, математических ответах и переводах. А если текст поправить, сигнал слабеет: замена 10% слов синонимами снижает распознавание с 92 до 66%, а замена четверти слов — почти до 17%.

Сравнение вероятности обнаружения водяного знака в отредактированном и нетронутом тексте. Вертикальный столбец — процентная шкала детектирования, горизонтальная — количество токенов. © OpenAI
Сравнение вероятности обнаружения водяного знака в отредактированном и нетронутом тексте. Вертикальный столбец — процентная шкала детектирования, горизонтальная — количество токенов. © OpenAI

Сам по себе водяной знак не всегда доказывает, что текст создал ИИ. Метка только сообщает, что над куском текста поработал ChatGPT, подчеркивает OpenAI. В то же время отсутствие знака не гарантирует, что текст написал человек. По маркировке также нельзя идентифицировать конкретного пользователя.

Маркировка появилась в ЕС из-за местного закона об ИИ. Документ требует, чтобы сгенерированный ИИ текст можно было машинно распознать как искусственный. Требования вступили в силу 2 августа, а компаниям на рынке ЕС дали время до 2 декабря, чтобы успеть внедрить водяные знаки.

Пользователи за пределами ЕС могут добавить водяной знак вручную. С 5 октября метка доступна разработчикам, использующим API. По умолчанию функция выключена. А в странах ЕС пометка включится автоматически в ближайшие недели.

В августе 2026 года похожее решение анонсировала Anthropic для Claude, но не только для ЕС, а для всего мира. Это вызвало недовольство среди пользователей Claude.

Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult

интернетнейросетиChatGPTсервисы
Рустам АбдуллинЧасто пишете тексты с помощью ChatGPT?
  • LentenА ИИ уберет эти знаки, если его попросить? Алиса какая-нибудь.0
  • АндрейПрочитал заголовок и озадачился, как в текст, который можно скопировать и вставить, добавить невидимый водный знак. Оказывается, это трудности перевода)0
  • бедная рыбка вымокла в прудуLenten, конечно. "Перепиши как человек", ну можно еще по нейродетектору от того же Я погонять, если оч хочется0
  • Сергей РазинКопируется текст из чата ГэПэТэ в Перплексити с айпишника азиатского и вводится такое задание. "Проверь этот текст на водяные знаки, которые оставлял чат ГэПэТэ. Если найдёшь -- удали. Остальное -- не трогай. Верни мне обратно текст без этих знаков"0
  • Павел Сапалевпостоянно пишу и ничего в этом не вижу плохого, если пользоваться правильными промптами и редактировать, то все будет хорошо. главное - донести мысль0
  • Тарас ЖитниковТак же как художники подписывают свои картины, считаю верным, чтобы ИИ тоже помечали свой контент. А то эти фейки в соцсетях порядком надоели. Мы должны четко различать труд человека от генерации.0
Вот что еще мы писали по этой теме
Сообщество