Текст написал человек или нейросеть? Почему мы задаем не тот вопрос

Поисковики не запрещают качественный ИИ-контент, но заказчики продолжают искать способы доказать, что текст написан человеком. Разбираемся, насколько надёжны детекторы и что на самом деле стоит проверять перед публикацией.

Чем больше работаешь с нейросетями, тем более странным кажется один вопрос: «А текст точно написал человек?»

Почему-то происхождение текста постепенно превращается в самостоятельный показатель качества. Появились сервисы, которые обещают распознать ИИ, а результаты проверки иногда воспринимаются как окончательный вердикт.

Но действительно ли нам настолько важно, кто написал текст, если задача коммерческого контента — приносить пользу читателю и решать задачи бизнеса?

Начнём с того, что имеет принципиальное значение.

В феврале 2023 года Google опубликовал официальное разъяснение об ИИ-контенте. Его основная мысль: поисковая система стремится поощрять качественные материалы независимо от способа их создания.

Использование нейросети само по себе не является нарушением правил Google.

Нарушением может стать массовая генерация страниц, предназначенных прежде всего для манипулирования результатами поиска и не представляющих самостоятельной ценности для пользователей.

Эта позиция сохраняется и в актуальных рекомендациях Google Search Central. Генеративный ИИ разрешается использовать, например, для исследования темы и структурирования материала. Но создавать большое количество страниц без добавленной ценности — рискованная стратегия.

У Яндекса подход сформулирован несколько иначе, но смысл во многом похож.

В документации Яндекс Вебмастера есть раздел о малополезном контенте. Среди его признаков — поверхностные рассуждения, повторение мыслей, отсутствие практической пользы, непроверенные и вымышленные факты.

Яндекс отдельно отмечает, что такие материалы нередко создаются с помощью нейросетей, машинного перевода или шаблонных методов без дополнительного анализа и редактуры.

Однако ключевая проблема здесь — не просто использование ИИ, а отсутствие ценности для пользователя.

Из этого следует важный вывод: если компания публикует полезные, достоверные и содержательные материалы, само использование нейросети не становится автоматическим основанием для поисковых санкций.

Конечно, это не означает, что любую сгенерированную статью можно бездумно отправлять на сайт. И Google, и Яндекс предъявляют требования к качеству содержимого.

Но в официальных рекомендациях не существует универсального требования: «Все коммерческие тексты должны быть написаны исключительно человеком».

И вот здесь начинается самое интересное.

Представим две ситуации.

В первой компания заказывает статью для своего сайта. Специалист использует нейросеть для первоначальной структуры и черновика, затем изучает официальные документы, проверяет факты, добавляет собственные примеры и редактирует текст.

Материал получается содержательным и решает задачу читателя.

Во второй ситуации автор принципиально не использует ИИ. Он самостоятельно пишет три тысячи слов, но не проверяет статистику, ограничивается общими фразами и не предлагает ничего полезного.

Какой материал лучше?

На мой взгляд, ответ очевиден. Однако если главным критерием оценки становится происхождение текста, преимущество почему-то может получить второй автор.

Здесь мы фактически подменяем один вопрос другим.

Вместо «насколько качественно выполнена работа?» спрашиваем «каким инструментом пользовался исполнитель?».

Бывают договоры, в которых заказчик прямо запрещает использовать генеративный ИИ. Соблюдать согласованные условия необходимо, вопрос только в том, как оценивать границы использования ИИ. А если в следующий раз заказчик захочет, чтобы исполнитель специально лично посетил отдел РНБ и делал выписки вручную?

Но если речь идёт об обычной статье для коммерческого сайта, такой запрет стоит как минимум обосновать.

Каким именно риском мы пытаемся управлять? Недостоверностью информации? Отсутствием экспертизы? Поверхностным содержанием? Возможными поисковыми санкциями?

Всё перечисленное действительно важно. Но ни одна из этих проблем не исчезает автоматически только потому, что текст написал человек.

Теперь посмотрим на инструменты, с помощью которых пытаются отличать человеческие тексты от машинных.

Детектор ИИ не видит процесс создания документа. Он анализирует готовый текст и ищет признаки, характерные для определённых типов генерации.

В зависимости от сервиса используются разные модели и методы. Но результат остаётся классификацией на основании обнаруженных закономерностей, а не прямым наблюдением за тем, кто и как создавал материал.

И здесь возникают ограничения.

Хороший исторический пример — классификатор самой OpenAI, представленный в январе 2023 года.

При тестировании на определённом наборе англоязычных материалов он правильно помечал как вероятно сгенерированные только 26% ИИ-текстов. При этом 9% текстов, написанных людьми, ошибочно попадали в категорию ИИ.

В июле того же года компания отказалась от инструмента из-за недостаточной точности.

Разумеется, было бы неправильно судить по модели 2023 года обо всех современных детекторах. За прошедшее время технологии заметно развились, появились новые версии инструментов и исследования их эффективности.

Некоторые системы показывают хорошие результаты на конкретных тестовых наборах. Но это не означает, что они способны безошибочно устанавливать происхождение любого текста.

Особенно если материал частично создан человеком, частично нейросетью, затем неоднократно отредактирован.

Такой совместный процесс становится всё более распространённым, но одновременно усложняет саму задачу обнаружения ИИ.

В своей работе с коммерческим контентом я регулярно использую ИИ под разные задачии и оцениваю результат прежде всего с редакторской точки зрения. Мне важно, насколько материал достоверен, соответствует задаче, содержит конкретную информацию и действительно полезен читателю. Нейросеть может ошибиться в фактах или предложить поверхностное решение. Но точно такие же недостатки встречаются и в текстах, написанных людьми. Поэтому для меня вопрос не в том, кто сформулировал предложения, а в том, насколько качественно выполнена работа.

Мне кажется, здесь есть ещё одна важная проблема.

ИИ значительно ускоряет некоторые этапы создания контента. Можно быстрее подготовить структуру, собрать варианты формулировок, найти слабые места в тексте, предложить дополнительные вопросы для исследования.

Но ускорение подготовки не означает автоматического появления экспертизы.

Если специалист не понимает тему, он может не заметить, что нейросеть выдумала источник, перепутала даты или предложила неработающую рекомендацию.

Если специалист разбирается в вопросе, ИИ становится инструментом, который помогает выполнять часть операций быстрее.

Получается, что профессиональная ценность постепенно смещается от механического написания предложений к постановке задачи, отбору информации, проверке и редакторскому решению.

И это особенно заметно в практическом контенте.

Написать несколько абзацев о пользе контент-маркетинга сегодня действительно несложно.

Гораздо труднее разработать для конкретного бизнеса содержательную систему публикаций, объяснить коммерческую логику и выбрать показатели, по которым можно оценивать результат.

Детектор ИИ не способен определить, насколько хорошо специалист справился с этой задачей.

Чтобы не впадать в другую крайность, отмечу: ситуации, в которых использование нейросети принципиально важно, существуют.

Например, при выполнении учебного задания, где проверяется самостоятельная работа студента. Но здесь опять же есть проблема: за последнее время ряд студентов уже обращались в судебные органы с жалобами на проверку детекторов ИИ и вынесение неправильных "вердиктов".

Или в авторском конкурсе, условия которого запрещают машинную генерацию.

Или при выполнении коммерческого договора, в котором стороны прямо согласовали запрет на использование ИИ.

Здесь вопрос происхождения текста действительно имеет самостоятельное значение.

Но даже в таких случаях результат детектора лучше рассматривать как повод для дополнительной проверки, а не как окончательное доказательство.

На мой взгляд, заказчику коммерческого контента гораздо полезнее сформулировать критерии приёмки работы до её начала.

Например:

Достоверность. Откуда взяты факты, актуальны ли данные, существуют ли исследования и документы, на которые ссылается автор?

Компетентность. Понимает ли исполнитель предмет, способен ли объяснить свои выводы и исправить содержательные ошибки?

Практическая ценность. Получит ли читатель конкретный ответ, инструкцию, решение или новую информацию?

Соответствие бизнес-задаче. Для кого написан материал и какое действие он должен поддерживать?

Редакторское качество. Нет ли противоречий, повторов, неясных формулировок, фактических и логических ошибок?

Соблюдение договорённостей. Если использование ИИ ограничено, это условие нужно отдельно согласовать и определить разумный порядок контроля.

Ни один из перечисленных критериев нельзя полноценно заменить проверкой происхождения текста.

При этом они применимы и к материалам, написанным человеком, и к публикациям, созданным с помощью нейросети.

Я бы ответила так: иногда нужен, но далеко не всегда для решения той задачи, ради которой его используют.

Если заказчику требуется контролировать выполнение определённых условий, детектор может служить дополнительным сигналом. С пониманием его ограничений.

Но если цель — получать качественные статьи, привлекать аудиторию и развивать сайт, начинать с поиска признаков нейросети не слишком рационально.

Гораздо важнее установить, кто отвечает за факты, кто проверяет источники, какую пользу должен приносить материал и по каким критериям его будут принимать.

Поисковики не обещают хороших позиций только потому, что статью написал человек. И не объявляют любой текст, созданный с помощью ИИ, автоматически непригодным для поиска.

Для них имеет значение качество и ценность содержимого, а для бизнеса — ещё и то, насколько публикация помогает достигать конкретных целей.

Поэтому я всё чаще возвращаюсь к одному вопросу.

Не так важно, кто первым сформулировал предложения — человек или нейросеть. Гораздо важнее, кто проверил результат, отвечает за его достоверность и понимает, зачем этот текст вообще нужен читателю.

Именно это, на мой взгляд, и стоит оценивать в первую очередь.