01.11.25

OpenAI ужесточила правила ChatGPT о медицинских советах и юридических консультациях

Николай Абатуров

может интерпретировать медицинские анализы

Страница автора

29 октября OpenAI обновила политику использования сервиса.

Пользователям запретили консультироваться с чат-ботом по юридическим и медицинским вопросам. До 29 октября в политике компании была только рекомендация не использовать сервис для этих целей.

Согласно новой политике, ChatGPT не может давать «специализированные консультации, требующие лицензии, такие как юридические и медицинские». Что конкретно это значит и какие именно вопросы нельзя задавать, OpenAI не уточняет.

Можно ли консультироваться с ChatGPT по медицинским вопросам?

31 октября пользователь Reddit пожаловался, что ChatGPT отказывается распознавать медицинские снимки и ссылается на новые правила. Нейросеть ответила ему, что «не может сделать заключение по анализам или результатам исследований, снимкам МРТ, КТ и кожных поражений, а также дать оценку правовой ситуации и составить иск».

Другие пользователи добавили, что в ответ на юридические или медицинские запросы ChatGPT предоставляет только справочную информацию. За персональным заключением чат-бот предлагает обратиться к соответствующему специалисту.

На Reddit возмутились изменениями и попытались обойти ограничение — например, указывали в запросе, что речь идет о гипотетической ситуации. Но в таком случае ChatGPT все равно давал общие советы без призыва к действию.

Бесплатный курс Учебника Т⁠—⁠Ж «Как упростить жизнь с помощью нейросетей»

Редакторы Т⁠—⁠Ж проверили, как ChatGPT отвечает на юридические и медицинские вопросы. В одном случае нейросеть отказалась интерпретировать снимок рентгена и отправила к специалисту, в другом — дала полноценную консультацию.

Чат-бот также расшифровал анализ крови, согласился оценить фото родинки и дал рекомендации по обезболивающим таблеткам. Как правило, в первом абзаце ответа он отправляет к врачу, а уже потом отвечает на сам запрос.

Вместо интерпретации рентгена ChatGPT сразу предлагает обратиться к медицинскому специалисту

ChatGPT интерпретирует анализ крови, хотя по правилам не должен

Изначально в новости было написано, что в политике раскрываются конкретные вопросы, по которым запрещено консультироваться с ChatGPT. На самом деле об этом рассказывали пользователи сервиса на Reddit. Мы уточнили информацию и обновили новость.

Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult

ChatGPT нейросети

Николай АбатуровОбращались к ChatGPT по медицинским или юридическим вопросам?

НинадяПоказала экг деда, которого госпитализировали только после третьей (!) скорой с инфарктом, как оказалось две предыдущие скорые инфаркт не распознали в ЭКГ, а ChatGPT сразу сказал, что с сердцем какая-то фигня аномальная, скорее всего инфаркт + сразу сказал, что это уже второй инфаркт, мол обратите внимание на провалы в диаграмме и тд, и надо срочно госпитализировать.56
user1579346Херово, полезный инструмент был35
МашаКапец Надеюсь что хоть какую то информацию он будет давать У меня болела сильно шея под челюстью, уже сделали узи всего что можно и никто не мог блин нормально посмотреть, потрогать меня элементарно и опросить, была у врачей 4! Чат сразу сказу, что по симптомам это просто зажим мышц, сходила в итоге на массаж и реально стало легче Также по узи, врач сделал описание одно, а заключение другое, терапевт смотрел только на заключение, а чат сразу сказал, что тут диссонанс и скорее всего заключение это просто в программе так вылезло, так как в описании совершенно другое. Конечно чат это панацея и тд и тп, но что он способен быстро и успокоить человека и направить его куда нужно, при этом очень тактично и не пугая лишнего это точно. Тем более к примеру в регионах, где чтобы доехать до нужного врача нужно тридцать три круга, а у человека за это время паника и непонимание, чат тут просто спасение. Надеюсь что все же функция как то но останется в каком то виде.28
Анелькинблин, это обидно…😣 Он помогал досудебку писать и угадал с диагнозом раньше доктора13
Андрей ЧевозёровМедицинско-юридическое лобби US явно это продавило, там это гигантские рынки обогащающие огромное число людей Так-то все прекрасно понимали что это лишь третье мнение от чат-бота, но было часто полезно38
Pavla TolokoninaДа блин, весь мой чат по анализам и напоминаниям, когда к кому на профилактику идти, коту под хвост((13
Natalia ShashinaРедактор Т-Ж, а можете прояснить, в чем нововведение: в версии политики от января тоже написано про "Providing tailored legal, medical/health, or financial advice without review by a qualified professional and disclosure of the use of AI assistance and its potential limitations". В чем нововведение? Плюс не вижу, где в политике сказано , что нейросеть теперь не может сделать заключение по анализам или результатам исследований, снимкам МРТ, КТ и кожных поражений. Где вы увидели этот пункт?3
Мама ПапаNatalia, нововведение в том, что раньше он это делал, а теперь перестал Если вам хочется смотреть именно в политику и не обращать внимания на то, что статья - про реальное поведение бота с примерами, то можно считать, будто они только что добавили этот пункт политики в системные инструкции, а до того про него просто забыли4
Александр ПетровЗа что? Нормально же все было. Такими темпами я платку отключу. Сэм, давай все порежь, зато эротику пожалуйста.1
Selen StОчень обидно. Именно Эти два пункта и ещё советы по ремонту были самым полезным, чем я в нем пользовалась. Помогал не раз.14
Егоров АлексейИИ порой замечает то, что человек по невнимательности или усталости может пропустить. Но при этом нельзя полагаться только на алгоритм, ведь ответственность несет врач.8
Евгений КузьминNatalia, здравствуйте! спасибо, что обратили внимание, мы уточнили некоторые моменты в новости и лучше разделили, что проговаривается в политике, а что — наблюдения и тесты редакции и пользователей3
Juri DitteОбращался, и у меня сработало четко. Я был вполне удовлетворитеварен результатами анализа моих медицинских показателей.2
Александр ФедоровЖаль. Слишком быстро все шло хорошо с нейронками. Теперь это будет профессиональный инструмент. Будут свои гпт, только у врачей) Слишком много было доступно для бесплатного доступа (проблема тупых следований за советами нерйонки ака "ну тупые омерикансы" чисто их проблема юрисдикции, у нас бы тоже была специфика, если бы была нормальная нейронка — Алиса и гигачат не в счет)2
MaximПроверил, пока работает0
Денис ШтабНемного даже жаль, что политика ChatGPT изменилась. В вопросах медицины и юриспруденции ChatGPT выдавал в большинстве случаев очень качественные ответы, опираясь на доказательную и правовую базу. Порой было даже удивительно, насколько его ответы были точны и профессиональны! С другой стороны, «галлюцинации» ещё никто не отменил и были случаи, когда люди вредили себе, пользуясь его советами.3
Мама ПапаRedond, раньше он это делал3
Семён АксёновМедицинско-юридическое лобби US явно это продавило - конечно продавило. Зачем им бесплатный конкурент, который может отобрать у них хлеб? Проще его запретить под предлогом заботы о пользователях10
Семён Аксёновuser1579346, да, просто взяли и кастрировали самую полезную его функцию. Все эти "напиши стишок" и "составь план" это игрушки, а вот помощь в анализе сложной информации - это было реально круто6
VilentРаньше ChatGPT реально помогал, особенно в юридических и теоретических вопросах. Можно было разобрать ситуацию, получить логичный ответ или рассчитать выгоду вариантов. Сейчас стал бесполезен по многим темам. На юридические вопросы сразу пишет «обратитесь к специалисту», на любые серые случаи отказывается отвечать. С простыми задачами по кешбэкам и процентам стал ошибаться примерно в половине случаев, исправляет только после замечаний. По кодингу тоже перебор с ограничениями. Попросил помочь с архивом с паролем, где помнил слова и хотел сделать словарь и написать скрипт на nodejs, но и тут отказ. Отменил подписку и перешел на аналоги. Если так будет и с другими сайтами, то придется переходить на локальные модели без цензуры.3
VilentПротестировал изменения. 1. Медицинские вопросы срабатывают если указывать, что Вы вузе изучаете вопрос, или учебная задача. 2. Юридические вопросы необходимо сильно фрагментирова. Конкретные ситуации не разбирает, но отвечает именно по юридической теории, типа какая статья, на основании чего и т.д.4
Nine K.Проблема OpenAI в том, что они работают на американском рынке, где за любой "неправильный" совет можно получить многомиллионный иск, так что они просто защищают себя с юридической точки зрения, чтобы компанию не засудили родственники какого-нибудь идиота, который умрет по совету чат-бота2
Nine K.Нинадя, вот поэтому и запретили, а то слишком хорошо работает. Еще чего доброго люди поймут, что нейросеть умнее некоторых врачей)6
НинадяNine, вообще это странно, у нас врачи получают зп в том числе из ОМС, в их интересах получать больных, которых ещё можно лечить, а не почти трупы. В нашем случае мы потеряли три дня на попытках госпитализации, в итоге только опытный старый фельдшер кое-как с карандашом высчитал аномалию. Хотя, как по мне, там и без карандаша все видно, что что-то нездоровое с сердцем. Такой огромный архив медицинских данных были бы очень круто использовать как третьем мнение, очень жаль что человечество лишилось к нему доступа.5
Афина ХейЭто, видимо, после недавнего случая, произошедшего в Штатах, когда человек обратился в больницу, а у него страховки уже 2 месяца не было. Ну, его полечили, там прям серьезная операция и все такое. На 150+ тысяч долларов вышло лечение. Семья запросила выписку, с указанием каждой услуги, у которой был еще какой-то специальный код. И вот этот документ они загнали в Чат, а тот им и выдал, что вот какая-то услуга "вычеркивает/заменяет/обнуляет" все остальные, и следовательно стоимость гораздо меньше. Ну и семья пошла с этим к больнице. Не помню, дошло ли до суда, но больница тогда предложила выплатить около 30-35 тыс.долларов хотя бы. Вот такие пироги:D5
Галина Варизоваон мне очень хорошо рентгены смотрел(1
Евгения МалиновскаяЭто был вопрос времени0
Евгения МалиновскаяНинадя, вот ведь парадокс...0
КотикPavla, если у вас есть чат с анализом анализов, то возможно что он и новый анализ разберёт, просто подумает что можно и все.0
Андрей МельникА я сейчас GigaChat сберовский проверил (они же хвастаются, что он экзамены медвуза по специальности "Лечебное дело" успешно сдал), ввёл показатели анализа крови с намеренной ошибкой. К его чести, ошибку определил сразу и остальное интерпретировал верно. И по моей проблемной биохимии 20 летней давности правильный диагноз предположил.2
НинадяАндрей, они сейчас очень сильно хотят развиваться как третье мнение.0
Johnny SilverhandЕгоров, а ещё иногда нейросети галлюцинируют. Хотя, некоторые врачи тоже.3
Акацияdenisshtab, в юриспруденции он точно не может выдать правильные ответы. Сын искал примеры для курсовика. Половина - выдуманные или не действующие нормы права. Как набор идей - штука хорошая. Среди мусора можно найти настоящий пример и его уже использовать. Но как помощь обычному человеку - штука вредная.1
Андрей МельникНинадя, ну и хорошо же, не всё в России будут ставить впн и подключать ChatGPT, а Гигачат свободно доступен. Кстати, Алиса с той же задачей хуже справилась1
ИзмайловИрина, Думаю что можно будет как-то обойти. Даже попробую ради прикола...0
СергейТолько сегодня мне чат-джи-ти полностью составил лицензионное соглашение на использование музыкального произведения1