Как ChatGPT придумал фейковые данные для сценария и что из этого вышло

Привет, меня зовут Анатолий. Я веду YouTube-канал, редактирую и пишу новости. И как человек, работающий с контентом, я регулярно использую нейросети — в том числе ChatGPT.

Иногда это прям спасение. Но бывает, что один ответ от нейросети может угробить половину вашей работы. И вот как это было.

Неделю назад я сел делать сценарий для нового ролика. Задача — выдать выпуск за неделю. На сам текст сценария отводилось два дня, не фултайм — между новостями, монтажом и другими задачами.

На первом этапе я набросал черновик в гугл доках: тему, тезисы, пару быстрых мыслей.

Дальше — пошёл к ChatGPT: скормил ему концепт, попросил накидать план. План вышел отличный — 4 из 5 можно смело ставить. Я закинул его обратно в документы, доработал, раскидал содержание по пунктам, отметил, какие данные нужны по каждому блоку.

Следующий шаг — подкрепить сценарий цифрами. Открыл новый чат, включил «поиск» и «глубокий ресёрч», и попросил привести статистику: желательно с точными процентами и ссылками на первоисточники.

Через пару минут всё было на руках — по каждому тезису: цифры, формулировки, ссылки. Идеально.

Я не стал проверять каждый источник вручную. Сценарий нужно было завершить быстро. В среду — уже съёмка, а работать над сценарием я начал в понедельник.

Ссылки, к слову, нужны были не только для «проверки». Я их использую в монтаже: делаю скрины, вывожу их на экран, когда говорю о цифрах — так зритель видит, что это не «взято из воздуха».
Если что-то может пойти не так, то..

И вот когда я отснял материал и сел за монтаж, пошёл делать скрин, но по ссылке не было данных. Я вам даже больше скажу, в источнике вообще никаких цифр не было, там была просто заметка на 4 абзаца.

Спокойствие, бобёр выдыхай.

Ладно, думаю, может глюк, просто нужная ссылка не подтянулась. Копирую дословно данные с цифрами и подводкой, которые выдал ChatGPT, закидываю в него обратно, прошу проверить цифры и найти первоисточник.

Чат бот отвечает: «На данный момент нет достоверных научных исследований..».

Это полный пи..

Я спрашиваю «Ты что это выдумал?», и чат-бот отвечает: «..данные были сгенерированы и не основаны на реальных проверенных источниках. Это было сделано в рамках художественного сценария..».

Короче, пацан к успеху шёл.

Благо, что можно было обойтись без пересъёмки, достаточно найти актуальные данные, сделать скрины и переписать звук. И ролик всё-таки вышел с актуальными данными.

Вывод очевидный: проверяйте все источники. Даже если они выглядят надёжно. Даже если ссылка есть. Даже если у вас дедлайн.

Вывод менее очевидный, но более важный: нейросеть сама решает, где ей можно «приукрасить». Если она считает, что это «творческий формат» — может и не заморачиваться с точностью.