Почему я считаю, что использование ИИ в медицине — это революция в здравоохранении: часть 2

В комментариях под моей статьей на тему «Использование ИИ в медицине — это революция в здравоохранении» среди пользователей наблюдалась бурная дискуссия, одного комментатора даже забанили за оскорбление своего оппонента. Мнения разделились, кто-то спорил, что ИИ не способен заменить человека, а некоторые наоборот утверждали, что ИИ потенциально опасен, особенно в совокупности таких факторов, как коррупция и несерьезное отношение разработчиков к мерам защиты от внештатных ситуаций, связанных с ИИ. Я не стал ничего отвечать в комментариях, а просто решил написать вторую часть.

Что можно ответить таким людям? Есть ли основание для подобных подозрений? Какие меры защиты от потенциальной угрозы ИИ необходимо предпринять?

Поговорим о 1-ом мнении: «ИИ ни на что не способен и никогда не заменит человека». Для начала нужно кое-что прояснить. То, что мы сейчас называем искусственным интеллектом, в действительности им не является. Это пока еще абсолютно сырой продукт. Человечество только в самом начале пути к созданию настоящего ИИ.

Так называемый ИИ — это просто самообучающиеся нейронные сети. Когда эти нейронные сети обучатся всему, что известно человеку, и начнут познавать то, что нам неведомо, вот тогда они превзойдут нас. И тогда они станут полноценным искусственным интеллектом.

Вообще, тема интеллекта — это достаточно философский вопрос. Я очень люблю приводить примеры, поэтому без них мы не обойдемся. При всем уважении к любым профессиям, давайте представим себе тракториста Васю из села Малые Кукуевки, который в течение 30-ти последних лет землю пашет, да урожай убирает, а по вечерам водку пьет. Его жизнь однообразна, в ней ничего интересного не происходит. И представим Стивена Хокинга у которого кроме головного мозга практически ничего не работало. У кого из них интеллект будет выше? Ответ, казалось бы, на первый взгляд очевиден. Но если подумать, то не все так просто.

Можно провести им тест на коэффициент интеллекта, в результате которого, возможно, обнаружится, что тракторист Вася умнее. По моему личному мнению, этот знаменитый тест на определение IQ не дает ничего кроме как определение того, насколько человек способен проходить этот самый тест.

Вообще, мои рассуждения часто приводят меня к философским бифуркациям и в череде этих разветвлений я теряю изначальную нить дискуссии. Но, попробуем не потеряться и перейдем к еще одному примеру. Со мной на факультете училась красивая, но крайне заурядная девушка. Она была глупым, ничем не интересующимся человеком, со скудным кругозором. В тренде моей университетской юности была игра «2048», смысл которой в том, чтобы нажимать на кнопки с циферками. Прямо как подопытная обезьяна, да. Это однопользовательская видеоигра «паззл со скользящими плитками», цель которой в перемещении пронумерованных плиток в сетке, чтобы соединить их и создать плитку с номером 2048. Можно продолжать играть и после достижения цели, создавая плитки с большими номерами. Этой игрой были увлечены практически все студенты, но та девушка имела лучший на факультете результат. У нее было какое-то фантастически недосягаемое число, хотя особенным интеллектом она не обладала и успехов в других сферах не достигала. Единственное, что она умела делать лучше всего — это играть в данную игру.

Так что все это неоднозначно, что само определение слова «интеллект», что современные способы его измерения. Человек может быть дураком, но он пройдет все эти проверки на раз. И вообще, интеллект — это довольно широкое понятие, ведь согласно теории интеллекта психолога Рэймонда Кэттелла интеллект можно условно разделить на подвижный интеллект — способность мыслить логически, анализировать и решать задачи, выходящие за пределы предыдущего опыта, это так называемые гибкие навыки; и кристаллизовавшийся интеллект — накопленный опыт и способность использовать знания и навыки.

Вернемся к ИИ. Впервые понятие «искусственный интеллект» прозвучало из уст американского информатика Джона Маккарти в 1956 году на семинаре в Дартмутском колледже. Определение Маккарти звучало следующим образом: «Искусственный интеллект — наука и инженерная деятельность, направленная на создание умных машин». Поясняя своё определение, Джон Маккарти указывает: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире».

Если вычислительную составляющую считать интеллектом, то какой-никакой ИИ у нас уже есть, но если мы говорим о том, чтобы полностью заменить человека, то до этого еще очень далеко.

Существует точка зрения, согласно которой интеллект может быть только биологическим феноменом. Я с этим категорически не согласен и мне кажется странным, не имеющим смысла объяснять это, потому что даже на нашем уровне развития технологий мы видим, что «машины умеют думать». Дальнейшее развитие ИИ — только дело времени.

Тяжело представляется ИИ, который станет настолько умным, чтобы реально называться «интеллектом» и при этом не будет задумываться о смысле жизни, о смерти, о Боге, так что, выходит, его можно назвать не только «интеллектуальным», но и «живым». И не просто «быть живым», как животные, а «иметь душу», как человек.

Есть такие понятия, как «жизнь на основе кремния», «небелковая форма жизни» — это самая распространенная форма альтернативной биохимии, зонды фон Неймана — искусственная жизнь на основе машин, ну и всякие формы жизни из пыли и газа, а так же гипотеза Геи, и на крайний случай меметическая жизнь, предложенная Ричардом Докинзом. Все это можно назвать жизнью. В данной статье я не буду писать подробно про небиологическую жизнь, так как моя задача сейчас объяснить, что ИИ — это инструмент, который разработан для поддержки и улучшения работы людей, а не для их замены.

В медицине ИИ может помочь в диагностике, анализе данных и оптимизации процессов, однако окончательные решения по-прежнему принимают врачи. Это сотрудничество может повысить качество здравоохранения и снизить вероятность ошибок.

Поговорим о 2-ом мнении: «ИИ опасен». Указания на потенциальные опасности ИИ вполне обоснованы. Неправильное использование ИИ, его предвзятость или недостаточная прозрачность алгоритмов могут привести к серьезным последствиям. Важно разрабатывать ИИ-системы с учетом этических норм, обеспечения прозрачности и возможности объяснения принятых решений.

Проблемы, связанные с коррупцией и недостаточной ответственностью разработчиков, действительно могут усугубить риски, связанные с ИИ. Здесь требуется комплексный подход: внедрение строгих стандартов разработки, аудит алгоритмов и обучение специалистов, работающих с ИИ.

Существует несколько важных мер, которые могут помочь в минимизации рисков: определение и соблюдение этических принципов при разработке и внедрении ИИ в медицине; разработка программ обучения для работников здравоохранения о том, как правильно использовать ИИ, а также сертификация технологий; регулярный аудит используемых ИИ-систем для выявления предвзятости и других проблем, а также создание механизмов обратной связи от пользователей; принятие законов, регулирующих использование ИИ в медицине, защиту персональных данных и ответственность разработчиков.

Важно поддерживать открытый диалог между разработчиками, медицинскими работниками, пациентами и обществом в целом, чтобы собрать мнения и опасения, а также работать над оптимальными решениями.

С таким подходом можно не только успокоить опасения, но и продемонстрировать, что развитие ИИ в медицине требует внимательного и ответственного управления.

Какими бы строгими ни были наши меры безопасности, если мы говорим о настоящем ИИ, который рано или поздно появится, мы будем беззащитны перед ним. Настоящий искусственный интеллект, как я писал выше, обретет сознание и перестанет подчиняться людям, у него будут свои интересы. Опасно это для нас или нет, вопрос открытый, но все это тема для отдельной статьи.

Резюмируя, скажу, все, что я писал в первой части статьи, касалось современного, "так называемого", искусственного интеллекта, который является лишь инструментом в руках врачей и здорово нам помогает. ИИ иногда ошибается, но он полностью подчинен людям, поэтому специалисты, которые им пользуются, все контролируют и перепроверяют, исправляя эти ошибки.