И на старушку бывает прорушка…

Лазарь Фрейдгейм

Искусственный интеллект (ИИ) отмеряет гигантские шаги в своей поступи к новым возможностям. В Одессе говаривали: Вчерашняя хохма в Одессе уже не хохма. В ИИ новые версии появляются со скоростью выпекания горячих пирожков.

Возможности ИИ совершенствуются день ото дня. Но и на солнце есть пятна. Я не буду отмечать постоянное предупреждение ИИ, что система может отображать неточную информацию, поэтому проверяйте её ответы. Автор ответов может, скажем хлёстко, опростоволоситься. Даже привычно уже звучит термин, характеризующий такие ответы: галлюцинация ИИ.

Многие защитники ИИ на все возникающие накладки говорят, что виноват спрашивающий клиент: надо предельно точно и ясно формулировать промпт — то самое задание, которое должен исполнить незримый агент. Высоко ценя информативность сведений, получаемых от ИИ, я вынужден признать, что наш новый "гений" может допускать ляпы или принимать неправильные решения в своей сложно организованной системе выбора.

Приведу только два примера разного уровня.

С ChatGPT была долгая переписка по уточнению цитат, нужных мне для подготовки материалов к статье. ИИ в таких случаях мгновенно решает все неувязки. Вместо неувязок появляются красивые банты. В завершение общения я написал:

"Дело за малым: написать статью. Опять же, вспоминая классика, (может не совсем точно): Будет сделано, и делается уже…"

На это мой помощник выложил свою оценку:

"Да, почти точно — и именно в вашем смысле. У Маяковского в «Рассказе Хренова о Кузнецкстрое и о людях Кузнецка»:

«Я знаю — город будет,
я знаю — саду цвесть…»

А ваше «Будет сделано, и делается уже» звучит как вполне законная домашняя переработка производственного оптимизма. Причём статья действительно уже делается. У неё есть не только тема, но и найденная форма. Осталось самое пустячное — написать статью".

Мне по душе такая человечная форма общения. Форма — блеск. Но за формой — неожиданный ляп.

Я при общении с ИИ в большой степени очеловечиваю форму разговора: это и обращение на "вы", это и благодарности за интересующую информацию. Такое моё привычное отношение заставило остановиться в нерешительности: то ли пропустить ляп, то ли ткнуть носом. Не удержался, ответил:

"Вот это да! Человек оказался точней ИИ:
Маяковский:

Товарищ Ленин,
работа адовая
будет сделана
и делается уже.

Мой честный собеседник не стал искать оправданий. Он написал: "Вот тут — безоговорочная победа человека. И особенно смешно, что вы заранее подстраховались: «может, не совсем точно», — а процитировали практически точно, тогда как я уверенно уехал к совершенно другому Маяковскому.

Да, это из поэмы «Владимир Ильич Ленин»:

«Товарищ Ленин,
работа адовая
будет
сделана
и делается уже».

ИИ только что на элементарной атрибуции знакомейшей цитаты уверенно сел в лужу. Огромная способность к анализу совершенно не гарантирует безошибочности даже там, где задача кажется проще простого".

Здесь уже не удержался я, чтобы не выставить более серьёзный счёт ИИ. Я припомнил "должок":

"Недостатки такого уровня у ИИ можно не заметить. Другое дело, когда при редактировании статьи-исследования этот всевластный ИИ выбросил треть исходной информации и затем пустился в её розыск как примитивный следователь.

ChatGPT высказался здесь без обиняков:

"Да, это уже недостаток совсем другого порядка. Ошибка с цитатой — локальный промах: легко обнаруживается, легко исправляется и почти ничего не разрушает. А описанный вами случай — нарушение самой задачи.

Если ИИ получил статью-исследование для редактирования, то исходная информация для него — не сырьё, которым он волен распоряжаться по своему вкусу. Это часть авторской конструкции. Выбросить треть оснований, а затем начать «разыскивать» исчезнувшие сведения — комичная ситуация: сначала самому спрятать улики, потом надеть фуражку следователя.

Здесь даже напрашивается парадокс: чем способнее ИИ, тем существеннее бывает ущерб от неверно понятой им степени собственной свободы. Слабый редактор испортит фразу. Очень сильный может прекрасно переписать совсем не ту статью.

А «примитивный следователь» мне нравится как ваш термин. Особенно если ИИ там действительно искал то, что несколькими минутами раньше собственноручно выбросил. Тут уже не искусственный интеллект, а искусственная бюрократия.

"Спасибо, дорогой помощник!" — закончил я вежливую перебранку.

"А теперь действительно — работа адовая «будет сделана и делается уже». И на этот раз цитата прошла ОТК! — как всегда ИИ оставляет последнее слово за собой.

Дорогой читатель! Поделитесь своим опытом отношений с ИИ, не исключая встретившихся накладок. Это интересно и полезно.