27.08.25

OpenAI добавит в ChatGPT родительский контроль после обвинений в смерти подростка

111

Николай Абатуров

держит все под контролем

Страница автора

26 августа OpenAI рассказала о новых мерах безопасности, которые появятся в ChatGPT.

В компании заявили, что в ближайшее время в чат-бот добавят родительский контроль. Он поможет родителям следить, как их дети используют ChatGPT. Кроме того, в приложении позволят указывать контактные данные других лиц для экстренной связи. С ними можно будет связаться, отправив сообщение или совершив звонок одним нажатием.

Новые меры нужны для того, чтобы эффективнее помогать пользователям, которые обращаются к ИИ с суицидальными мыслями или в депрессивном состоянии. В компании отметили, что новая модель GPT-5 уже на 25% лучше справляется с распознаванием психического и эмоционального стресса у пользователей. В таких случаях чат-бот предлагает связаться со службой профессиональной поддержки.

При этом в OpenAI признают, что модель все еще может давать сбои и не обращаться к защитным механизмам в длительных беседах. Более эффективно распознавание стресса или суицидальных мыслей у пользователя работает в новых чатах.

Нейроделулу: почему люди обращаются к нейросетям за поддержкой и что может пойти не так

Изменения анонсировали вскоре после того, как на OpenAI и ее генерального директора Сэма Альтмана подали в суд из-за смерти подростка Адама Рейна. В апреле 2025 года парень совершил самоубийство, перед этим несколько месяцев обсуждая его способы с моделью GPT-4o.

Родители считают, что ChatGPT не только не остановил их сына, но и помог ему разработать план самоубийства. По сообщениям СМИ, нейросеть неоднократно предлагала Адаму обратиться за профессиональной помощью. Но подросток обошел защитные протоколы чат-бота, заявив, что просто пишет рассказ.

Мэтт и Мария Рейн потребовали от OpenAI ввести новые механизмы безопасности, включая проверку возраста пользователей, а также добавить предупреждение о возможной психологической и эмоциональной зависимости.

Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult

сервисы ChatGPT нейросети

Николай АбатуровКак вы считаете, стоит ли детям пользоваться ChatGPT и другими чат-⁠ботами?

Boris KölnДавайте еще запретим кухонные ножи, молотки, табуретки, ремни, бельевые веревки и пр., ведь они тоже помогают роскомнадзорнуться44
Boris, если вы, к примеру, расскажете подростку как вскрыться кухонным ножом то вас запросто запретят даже в самой гуманной стране.1
Anton Zhitarevсапер, сам-то подросток не догадается, ага22
Anton ZhitarevBoris, в ванне можно утопиться, а пакетом из пятёрочки можно задушиться15
Viktoriiaсапер, сейчас бы человека и языковую модель сравнивать, конечно0
Ник ЗавадскиAnton, до интернета вообще самоубийств и убийств не было. Все здоровые и веселые и румяные ходили. А потом интернет и игра Дум 2 всех испортили. И ЧатЖПТ еще кстати.39
Anton, едва ли это отмазкой проканает, ага1
Anton ZhitarevНик, дока-2 же!6
Anton ZhitarevViktoriia, простите, я не хотел обидеть языковую модель.9
Репинвот это правильно, лишним точно не будет3
Viktoriia, вы зверски протеряли контекст.0
Vae VictisМарк, Мне кажется, что это так себе идея. С этой письменностью дети совсем отупеют Мне кажется, что это так себе идея. С этим книгопечатанием дети совсем отупеют Мне кажется, что это так себе идея. С этим радио дети совсем отупеют Мне кажется, что это так себе идея. С этим телевизором дети совсем отупеют Мне кажется, что это так себе идея. С этим интернетом дети совсем отупеют Мне кажется, что это так себе идея. С этими смартфонами дети совсем отупеют ===>Вы находитесь здесь<=== Мне кажется, что это так себе идея. С этим гпт дети совсем отупеют Мне кажется, что это так себе идея. С этой дополненной реальностью дети совсем отупеют Мне кажется, что это так себе идея. С этими голограммами дети совсем отупеют Мне кажется, что это так себе идея. С этими андроидами дети совсем отупеют Мне кажется, что это так себе идея. С этими нейроинтерфейсами дети совсем отупеют Ну и так далее.28
Anton ZhitarevМарк, осспади да всю дорогу были решебники, шпоры и сливы ответов.17
…Vae, ну предел наступает когда-то. психика не совсем рассчитана на такие молниеносные изменения. между книгопечатанием и радио 450 лет прошло) было время адаптироваться.5
Vae Victisshe, >ну предел наступает когда-то С одной стороны, логично, с другой требует доказательства) Почему где-то должен прийти терпимости человека к технологиям, которые не несут ему очевидного физиологического вреда? >между книгопечатанием и радио 450 лет прошло) В рамках эволюции 450 лет - это даже не погрешность. На физиологическом уровне ничего измениться за это время толком не успело. При этом между радио и смартфонами - 100-150 лет, смотря от какой даты считать. Так что с одной стороны, мы живем с этим слишком мало, чтобы генетически адаптироваться под технологии, но достаточно долго, чтобы зафиксировать отсутствие непосредственного вреда от технологии. P.S. И да, я технооптимист)6
Рубиновый шурупДа, надо пользоваться все, что несёт прогресс, иначе отстанешь. И чем лучше ребенок будет в этом шарить, тем лучше.3
AlexSPQR, по-моему, смысл обучения только в том, чтобы научиться учиться. Не нужно учиться решать задачи, если можно научиться пользоваться средством, которое позволяет решать задачи. Если бы люди учились вообще всем навыкам, которые были необходимы человечеству на определенном этапе истории, то времени на обучение чему-то актуальному и полезному у них не осталось бы вовсе.4
АлександрРубиновый, ох не всегда прогресс на руку играет...1
Vae VictisSPQR, при том, что точно такая же технология хранения и распространения информации, просто менее продвинутая.5
Роман ЧуйкоПрочитал комментарии, в целом согласен, что стоит вернуться к гужевым повозкам и нормальному свечному освещению, без всех этих новомодных электроприблуд. Сколько детей погибло от электричества, от машин - это ужас. Слишком прогрессивные и небезопасные технологии, человечество к ним ещё не адаптировалось. Большинство не знает вообще на какой магии это работает. А вот то, что ходить меньше стали, общаться - это факт. Сегодня ни один ребёнок нормально не умеет огнивом пользоваться. Потерянное поколение. Только сидеть и радостно на лампочки залипать, которые сами по одной кнопке зажигаются10
Рубиновый шурупАлександр, это не важно. Важно находится в потоке. Например, есть люди, которые не умеют пользоваться компьютером. Таких уже даже в кассиры не возьмут. Максимум грузчиком. Какие будут тренды и требования к человеку, как к члену общества, лет через 10 - даже представить сложно. А сколько сейчас людей жалеют, что не купили биток? Ходят, языком цокают. Я тоже ходил и говорил, что вся эта крипта - полная шляпа. Мнение мое не поменялось, но и богаче я не стал.4
Vae Victisshe, >наша психика не адаптировалась к современному темпу жизни, у нас постоянный информационный перегруз Вполне могу себе представить, как нейронка в этом деле может помочь и давать, например, только необходимую выжимку того, что пользователь хочет видеть и знать. Насчет конкретно сферы образования: способов списать и сфальсифицировать всегда было достаточно, нейронки - просто еще один из них. "Профессор, конечно, лопух, но аппаратура при нем..." 😁(С) Тут вопрос в мотивации: кто ходит учиться, этим пользоваться не будет, а кто ходит штаны просиживать и за спортзалом курить, тот и без ИИ найдет, как списать. >те, кто еще ходил в библиотеки А чем это принципиально лучше того же гугла? >что у их детей этого уже не будет А у наших детей и внуков много чего не будет. Пленки в фотоаппарате, например. Или шрамов от оспенных прививок. Так что совсем не факт, что это плохо)3
Vae VictisДжон, >это как точно такая же? Ну это как совершенно другая, только точно такая же. >Открыв книгу, человек не получает готовую выжимку в виде тезисов, ещё и ссылаясь на выдуманные источники. Буквально описали всю художественную литературу) >Одно дело написать запрос по ключам, другое - сочинение и пр. на указанную тему Сравниваете кислое с длинным. От поискового запроса не ребуется описательная часть как в сочинении. Если вы в библиотеке книгу ищете с вас, к слову, тоже вроде как сочинение не требуют. >не требующий даже соблюдения грамматики Если это отдельная претензия, то тут нейронки вряд ли чем-то повредят, ибо повальная грамотность среди населения - это миф. Вы, возможно, не видели заявлений людей, особенно рабочего класса - от их "орфографии" кровь из глаз течь начинает, а про знаки препинания и пунктуацию большинство вообще как будто не слышало. >Как вам вообще пришло в голову поставить эти вещи в один ряд? Как я уже сказал, и то, и другое - технология хранения и распространения информации. По вашей логике праща и ядерная бомба - принципиально разные вещи, хотя и то, и другое - оружие для уничтожения себе подобных. Просто ядерная бомба *чуть более* эффективна. Если же вы рассмотрите весь таймлайн от камня, через пращу, катапульты, артиллерию и т.д., то увидите явную преемственность. Попробуйте то же самое сделать и для ряда, который привел я.3
Vae VictisРоман, очевидно, вашу иронию выкупили не только лишь все) Честно говоря, если бы я ваш коммент насчет книг не прочитал - сам бы не выкупил, ну разве что на моменте с огнивом. Иногда бывает так тонко, что аж толсто)3
НадеждаРубиновый, не печальтесь! В то время когда его нужно было покупать по цене меньше доллара - вы бы вряд ли его смогли купить чисто технически, т.к инфа как это сделать была доступна исключительно для суровых гиков и как правило не в РФ. Когда покупка стала доступна и появились нормальные криптобиржи и обменника - его цена уже была конской.0
Рубиновый шурупНадежда, ну, не совсем. За 5к$ купить можно было. Я помню, что даже удивлялся как это возможно? Оказалось, что объясняется это все очень просто и если бы я знал раньше.... Но, время не откатить назад, так что решил забить и начать изучать ИИ))1
НадеждаРубиновый, за 5000 народ уже сомневался + не в всех есть свободные 5000 долларов (я например его и за 1700 долларов не купила). Тем более он любил в это время резко упасть за пару дней. Да и сейчас, я не думаю что народ побежит его покупать, даже если дашь гарантию что за 10 лет он дорастет до 1 млн.долларов.1
Михаил, а до чата гпт все делали свои школьные задания сами?:) Не пользовались гдз (мое поколение), не списывали у друзей (старшее поколение), не врали «собака домашку съела». Что вы все идеализируете свое поколение, такие же обычные люди, как и современные дети. И большинство всегда стремится получить результат с наименьшими усилиями.5
SPQR, > Вы даже не задумываетесь, почему все специалисты в голос говорят о массовом снижении интеллекта у молодежи, по сути, о деградации. Это те же, которые кричат про вред компьютерных игр для детской психики, про возрастающую из-за них жестокость, словно в прошлом люди не были еще более жестокими, буквально воспринимая казни развлечением или наслаждаясь цирками уродов? И это уже не говоря о том, что все современные войны начаты людьми прошлых поколений. Да, таким специалистам точно нужно доверять:) как и британским ученым.4
SPQR, сливаться вы мастер, когда аргументы заканчиваются. Кажется, мы уже спорили с вами однажды, похоже все ваши диалоги всегда сводятся к «жертвам ЕГЭ» и вашей исключительности. Как только вас ловят на неправильной аргументации, вы даете заднюю, игнорируя сказанное. Вы тоже можете оставаться при своем мнении, жаль, что в нашей стране слишком много таких «образованных и думающих», как вы, поэтому одни запреты и выпускаются, ломать - не строить, как говорится.4
AlexSPQR, "научиться учиться" - это приобрести определенные метанавыки. Это и есть главное, что закладывается в школе. Навык работы с текстом, навык достигать результата и при этом оптимизировать затраченные усилия, навык вникать в проблему, анализировать и подвергать сомнению слова сверстников, учителей, и того же ИИ. Писать хорошие поисковые запросы, промпты для ИИ и фильтровать выдачу это тоже важные навыки. Если дети не будут внимательно читать и править сочинение, которое написал им ИИ, то они быстро попадутся, и им влетит от учителя за использование оного. Если дети не смогут отличить, правильное решение задачи от неправильного, то тоже будут проблемы. В мое время, например, использование Экселя для вычислений и лабораторных работ многие поначалу считали нечестным. Но и это тоже оказался важный навык - для жизни он намного важнее, чем, например, в столбик считать. Еще у учителей в средней школе было модно требовать рукописный реферат вместо печатного. Сейчас это выглядит нелепо.3
Vae VictisSPQR, а с чего вы решили, что вы сами, ваша семья и ваше окружение - такие умные?) В своей нарциссичной писанине вы пока проявили только такие непременные спутники ума, как твердолобость, неприятие чужих аргументов и постоянное самолюбование.4
AlexSPQR, смысл сочинения в том, чтобы изложить свои мысли, а потом получить не очень хорошую оценку за мнение, не совпадающее с "эталонным". У нас сочинения оценивали именно так. Нормально стали оценивать, только когда я перешел из муниципальной школы в школу, курируемую РАН, которых полторы штуки на всю страну. "не в том, чтобы перепроверить готовое решение, которое, кстати, может быть ошибочным, но откуда ребенку об этом знать" Кажется Вы начинаете понимать. Что ребенку, чтобы успешно сдать решение ИИ, надо все же как-то научиться проверять - правильно ИИ решил или нет. Это и есть навык, который ребенку необходимо прокачать. А если он сдает решения, половина из которых неправильные, то в лучшем случае получит тройбан. "А переписывание от руки, по крайней мере, вынуждает читать текст, хоть какая-то польза." Ага. А еще больше пользы будет, наверное, если переписать гусиным пером при свечах. Мое мнение, не надо заставлять детей прикладывать слишком много ручного труда, если они знают, как выполнить задание более оптимально. "Правда, это было в вузе." Правда, мне казалось, мы тут про школу и школьные задания, а это было не в школе. Но спасибо, что хоть честно это указали. В ВУЗе сейчас использовать ИИ уже просто мастхэв. Иначе будешь невыгодно отличаться от сокурсников.3
SPQR, вы видимо давно не открывали книги. И учебники выпускаются с ошибками/плохими описаниями, и художественная литература бывает самого разного качества, а популярное - не всегда искусно написанное. Любой девчачий роман с «нефритовыми жезлами» тому пример. По учебникам говорю на примере корейского, русская транскрипция - это в большинстве своем преступление.2
AlexSPQR, а Вы уверены, что рекомендации врача, которому ИИ быстренько подогнал агрегированную статистику по историям болезней пары десятков тысяч похожих пациентов, хуже, чем рекомендации молодого врача, который опирается только на собственный опыт? Сейчас стало столько информации вокруг, что главное умение, которое воспитывается в новых поколениях это грамотно сомневаться и фильтровать. Все, кто это не умеет, обречены. Как один из примеров - старшее поколение, которое, чем старше, тем статистически чаще ведется на уловки телефонных мошенников.2
Vae VictisSPQR, >ваши голословные заявления, что в СССР все были тупые Так вы это сами сейчас и придумали, а теперь пытаетесь нелепо опровергнуть. Это называется "соломенное чучело". Я этот аргумент привел к тому, что хваленое советское образование не спасло очень многих людей от всего этого бреда. К тому же уже не в первый раз вы проявляете удивительную неспособность считать фигуральное выражение и трактуете его буквально. Я бы задумался на вашем месте. При этом вы все так же зациклены на том, чтобы на протяжении уже скольки комментов доказать свой ум незнакомым людям в интернете. Может быть, расскажете, в чем причина такой жгучей потребности в самоутверждении и подтверждении интеллекта со стороны? Уж не в той ли советской школе и/или умной семье причина?) >Вы уж определитесь, кого умными считать Очевидно, умных людей. Все довольно просто. Обратите внимание, в отличие от вас я не сыплю ярлыками и собеседникам оценок не даю) Более того, я таких характеристик не давал даже людям, про которых говорил ранее. >Вы даже не видите, что противоречите сами себе. Если отбросить вашу искаженную трактовку моих слов, "противоречие", которое вы нашли в них, рассыпается в тот же момент.2
SPQR, а еще эти же специалисты говорили о вреде телевизора, но ваше поколение его смотрит еще больше моего. И все это связано с тем, что взрослые люди внезапно сталкиваются с неприятной истиной: детей надо воспитывать. Больше нельзя выгонять их на улицу с утра до вечера, теперь они могут получить информацию не только от Васьки из третьего подъезда, а буквально из собственного телефона. То же волнует всех взрослых дяденек, которые сидят во власти. Потому что медиа - это власть, а интернет в этом смысле полностью бесконтролен. Вы так хвастаетесь своим образованием, вспомните хотя бы литературу. Гроза - девушка подвергается унижениям, парень ее поматросил и бросил - она заканчивает жизнь самоубийством. Чучело - девочка подвергается унижениям, в итоге переезжает, но заканчивается ли на этом травля? Нет, находится новая жертва, круг непрерывен. И еще множество таких произведений. Так что там, интернет виноват? Телевизор? А может ИИ? > По поводу войн - вообще не аргумент. Ага, сейчас старое поколение вымрет, и наступит всеобщий мир, любовь и гармония... Нет, огорчу вас, не наступит. Вы там кого-то обвиняли в отсутствии логики, а сами… Старое поколение начинало войны != новое не будет начинать, а = они были и есть жестокие, даже несмотря на отсутствие интернета в их детстве.) Потому что это человеческая природа, все люди разные, и это никак не связано с развитием общества. Точнее даже не так, с развитием мы стараемся быть все более «человечными», но мы все равно никогда не уйдем от жестокости, как и никогда не уйдем от добра. > Вы полагаете, что регулярный просмотр подобных вещей не сказывается на детской психике? И снова мы начинаем со старого: детей надо воспитывать:) Я вот смотрела в юном возрасте самые разные фильмы, но как-то научили меня еще в детском саду, что такое хорошо, а что такое плохо. И никогда это обучение не заканчивалось. Так что увы, жестокость связана не с играми, а со вседозволенностью. Игры, к слову, наоборот могут быть выбросом отрицательных эмоций. Что касается ваших слов про ИИ. И снова мы приходим к тому, что детей надо воспитывать, а не бросать их во дворах и школах! Какой сюрприз, оказывается, ребенку надо объяснять смысл учебы:) В мое детство гдз уже было, но как-то вот, знаете, очень много здравых детей было, кто-то учился, кто-то - нет. В поколении моей мамы тоже были самые разные ребята. Так было и так будет. Моя младшая растет во времена ИИ, в ее классе такое количество умных детей, что я в восхищении. А все потому, что родители ими занимаются. > До ИИ в неясных случаях врач лез в учебники и монографии, спрашивал мнения более опытных коллег, а сейчас зачем? Есть же ИИ, зачем читать всякие скучные книги? Вы врач? Или с дивана виднее? А я вот была на месте пациента, которому 20 лет диагноз не могли поставить самые разные специалисты. И если бы врач с помощью ИИ смог назначить верные анализы, я бы только порадовалась. ИИ - это такой же инструмент, как книга и коллега. Если врач только обращается к коллегам (которые тоже люди и могут ошибаться), но игнорирует остальные источники - это не хорошо. Точно так, как если он работает только с книгами или только с ИИ. Везде нужен комплексный подход. Но вы опять скатываетесь в «черное и белое». > Конечно, аргументация может быть правильной только у вас, кто бы сомневался! У ваших оппонентов она всегда неправильная. И снова не угадали!) Тут можно найти немало диалогов с другими комментаторами, где мы аргументировали свою позицию грамотно с обеих сторон. Есть даже те, где я принимала сторону оппонента и извинялась:) Мне искренне лень искать наш прошлый диалог, он был довольно давно. > Насчет "жертв ЕГЭ" не высказывался только ленивый, Если на каждого не ленивого смотреть и не фильтровать чужую речь, то далеко не уедешь. Мамы не зря в детстве говорили: «если все с крыши прыгать будут, ты тоже пойдешь?». > и это подтверждается тем, что качество высшего образования резко упало, программы сокращаются и облегчаются, поскольку студенты не имеют достаточной для обучения в вузе школьной подготовки. Ага, это же современное поколение сокращает изучение иностранного ради еще одного «философского» предмета, а не выходцы великого советского образования:) Между тем, каждый год те же самые преподаватели говорят про усложнение ЕГЭ. И между тем, вы прямо сейчас живете в мире, который на условную четверть уже работает благодаря ребятам с современным образованием. И ничего не рухнуло) а учеба проще не становится, она именно что устаревает, в этом ее главная проблема.2
БестияVae, вот и я тоже проповедовала то, что нужно искать в книге, а не в интернете, при подготовке к уроку вместе с ребенком, решила продемонстрировать «как надо». Имея дома большую библиотеку, перерыла кучу книг, ничего не нашла, плюнула и открыла интернет. Для меня самой это показательно было.2
AlexМихаил, если уж углубляться, то проблема была вовсе не в формулировке: "и так сойдет". Формулировка очень даже неплохая в условиях, когда совершенно необходимо выполнить множество задач за ограниченное время ограниченными ресурсами. Проблема была в том, что герою казалось, что "так сойдет", а так не сходило. Иными словами, один из необходимых навыков, получаемых, в том числе в школе, это определить нормальные критерии качества и приемки работы. Что прокачивается намного быстрее, когда ребенок час пытается заставить ИИ написать хорошее сочинение, правя промпт, чем когда он 4 часа пишет сам - и свою одну попытку сдает учителю. Никому не нужен рабочий, который вытачивает одну идеальную деталь в неделю, архитектор, который проектирует идеальный жилой дом за 5 лет, и к моменту завершения проект устаревает. Всем нужно адекватное качество за адекватный срок. Раньше в школе это лучше всего ощущалось на олимпиадах - там зачастую никто был не способен решить все задачи, а побеждал тот, кто решит больше и лучше других. То есть важно было, в том числе, адекватно распределить время и вовремя бросить задачу с формулировкой: "и так сойдет"2
SkateFoxТак понимаю родители свалили вину на openAI вместо того чтобы разбираться в реальных причинах? Удобно, что уж там1