Как я поняла, что искусственному интеллекту верить нельзя

Я тот еще консерватор и ретроград. Любые новшества меня напрягают и появляются в моей жизни со значительным опозданием. Так, например, я платила исключительно наличными вплоть до 2020 года, а первый смартфон появился у меня значительно позже, чем у всех моих знакомых. А что-то из благ цивилизации я игнорирую до сих пор: у меня не было и нет аккаунтов в соцсетях, я читаю исключительно бумажные книги (электронные не признаю), а музыку слушаю на mp3-плеере.

Поэтому не удивительно, что появление нейросетей не вызывало у меня никакого энтузиазма. Но последнее время я все чаще слышу о том, как они нужны, полезны и облегчают жизнь. Нейросети пишут за детей сочинения. Могут дать бесплатную психологическую консультацию. Даже врачи советуются с ними при постановке диагноза! В общем, я поняла, что надо осваивать новые технологии и по совету подруги установила себе приложение Deep Seek. Честно говоря, я не очень представляла, как оно мне может пригодиться в жизни. Подруга сказала, что его можно использовать в качестве поисковика. Мол, это гораздо удобнее.

Если в обычном поисковике надо тратить время на изучение и анализ найденной информации, то нейросеть моментально даст мне краткую и емкую выжимку. Несколько дней я задавала приложению интересующие меня вопросы. Например, я собираюсь поехать в Звенигород на майских праздниках, и Deep Seek рассказал мне, что там можно посмотреть. В самом деле удобно! Не надо ничего перелопачивать, всё сделали до тебя.

Но потом произошел вот такой случай. 9 апреля актер Михаил Ефремов вышел из колонии по УДО, и мы с коллегами обсуждали уголовное дело Ефремова, его роли в кино и т.п. Зашла речь о его детях. Я знала, что у него много детей от разных браков, но не помнила деталей. И спросила у Deep Seek про детей Ефремова. В ответ получила список детей с указанием года их рождения и информацией, в браке с кем эти дети родились.

Первое, что я заметила, — отсутствие в списке актера Никиты Ефремова, старшего сына Михаила. Я поинтересовалась у искусственного интеллекта, почему в списке нет Никиты Ефремова. На что получила ответ, что Никита Ефремов не является сыном Михаила Ефремова! Мол, он его просто усыновил в свое время. На мое замечание, что Никита похож на Михаила внешне, нейросеть сообщила, что да, похож, так бывает. Безусловно, я не могу знать наверняка, кто чем сыном является, но все-таки эта информация вызвала у меня сомнения. Я полезла для начала в Википедию, потом вообще где только можно, и нигде не нашла информации, которую генерировала нейросеть.

Я продолжила беседу и получила еще кучу недостоверной информации. Например, нейросеть путала мать и жену Никиты Ефремова и скидывала мне какие-то ссылки с уверением, что там будут видео, где Никита Ефремов рассказывает о том, что Михаил Ефремов не является его отцом. Однако эти ссылки либо не открывались, либо содержали информацию, вообще никак не связанную с Ефремовыми. После долгих препирательств Deep Seek сообщил мне, что я права и Никита Ефремов действительно является сыном Михаила Ефремова!!!!

В списке детей Ефремова, помимо отсутствия Никиты, было еще немало ошибок. Там была какая-то Вероника Ефремова, которой не существует. Были ошибки в датах рождения детей. Неправильно указывались их матери. Я не успокоилась и в новом диалоге снова попросила нейросеть огласить мне список детей Михаила Ефремова. На этот раз Никита был на месте, но отсутствовал Николай, и искусственный разум убеждал меня, что Николая не существует. Однако в ходе диалога опять-таки сообщил мне, что я совершенно права и он признает свои ошибки.

Я рассказала об этом случае друзьям и знакомым. Они попытались делать такие же запросы в других нейросетях и тоже получали неправильные результаты. В результате я наизусть выучила всех жен и детей Михаила Ефремова с их годами рождения и родом деятельности. Честно говоря, не знаю, зачем мне эта информация.

Ну и в итоге у меня вопрос — как все это понимать?! Список детей Михаила Ефремова, мне кажется, — это элементарные и общедоступные сведения. Но нейросеть выдает какие-то чудовищные результаты. И в общем-то, можно, конечно, просто посмеяться над этим случаем. Но получается, что доверять искусственному интеллекту нельзя. Где гарантии, что он дал мне верный список достопримечательностей Звенигорода? Как можно вообще верить на слово тому, что он выдает на мои запросы? А если за ним все нужно проверять, то не надежнее ли все по старинке искать самому? Как можно вообще всерьез пользоваться нейросетями?

Если честно, мне стало немного жутковато, что многие люди всерьез используют нейросети в работе. Кажется, это чревато негативными долгоиграющими последствиями, масштаб которых мы даже не можем себе представить.