27.08.25

OpenAI добавит в ChatGPT родительский контроль после обвинений в смерти подростка

Николай Абатуров

держит все под контролем

Страница автора

26 августа OpenAI рассказала о новых мерах безопасности, которые появятся в ChatGPT.

В компании заявили, что в ближайшее время в чат-бот добавят родительский контроль. Он поможет родителям следить, как их дети используют ChatGPT. Кроме того, в приложении позволят указывать контактные данные других лиц для экстренной связи. С ними можно будет связаться, отправив сообщение или совершив звонок одним нажатием.

Новые меры нужны для того, чтобы эффективнее помогать пользователям, которые обращаются к ИИ с суицидальными мыслями или в депрессивном состоянии. В компании отметили, что новая модель GPT-5 уже на 25% лучше справляется с распознаванием психического и эмоционального стресса у пользователей. В таких случаях чат-бот предлагает связаться со службой профессиональной поддержки.

При этом в OpenAI признают, что модель все еще может давать сбои и не обращаться к защитным механизмам в длительных беседах. Более эффективно распознавание стресса или суицидальных мыслей у пользователя работает в новых чатах.

Нейроделулу: почему люди обращаются к нейросетям за поддержкой и что может пойти не так

Изменения анонсировали вскоре после того, как на OpenAI и ее генерального директора Сэма Альтмана подали в суд из-за смерти подростка Адама Рейна. В апреле 2025 года парень совершил самоубийство, перед этим несколько месяцев обсуждая его способы с моделью GPT-4o.

Родители считают, что ChatGPT не только не остановил их сына, но и помог ему разработать план самоубийства. По сообщениям СМИ, нейросеть неоднократно предлагала Адаму обратиться за профессиональной помощью. Но подросток обошел защитные протоколы чат-бота, заявив, что просто пишет рассказ.

Мэтт и Мария Рейн потребовали от OpenAI ввести новые механизмы безопасности, включая проверку возраста пользователей, а также добавить предупреждение о возможной психологической и эмоциональной зависимости.

Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult

сервисы ChatGPT нейросети

Николай АбатуровКак вы считаете, стоит ли детям пользоваться ChatGPT и другими чат-⁠ботами?

Boris KölnДавайте еще запретим кухонные ножи, молотки, табуретки, ремни, бельевые веревки и пр., ведь они тоже помогают роскомнадзорнуться31
сапер ВодичкаBoris, если вы, к примеру, расскажете подростку как вскрыться кухонным ножом то вас запросто запретят даже в самой гуманной стране.0
Anton Zhitarevсапер, сам-то подросток не догадается, ага16
Anton ZhitarevBoris, в ванне можно утопиться, а пакетом из пятёрочки можно задушиться10
Viktoriiaсапер, сейчас бы человека и языковую модель сравнивать, конечно0
Ник ЗавадскиAnton, до интернета вообще самоубийств и убийств не было. Все здоровые и веселые и румяные ходили. А потом интернет и игра Дум 2 всех испортили. И ЧатЖПТ еще кстати.28
сапер ВодичкаAnton, едва ли это отмазкой проканает, ага1
Anton ZhitarevНик, дока-2 же!5
Anton ZhitarevViktoriia, простите, я не хотел обидеть языковую модель.8
Репинвот это правильно, лишним точно не будет4
сапер ВодичкаViktoriia, вы зверски протеряли контекст.2
Vae VictisМарк, Мне кажется, что это так себе идея. С этой письменностью дети совсем отупеют Мне кажется, что это так себе идея. С этим книгопечатанием дети совсем отупеют Мне кажется, что это так себе идея. С этим радио дети совсем отупеют Мне кажется, что это так себе идея. С этим телевизором дети совсем отупеют Мне кажется, что это так себе идея. С этим интернетом дети совсем отупеют Мне кажется, что это так себе идея. С этими смартфонами дети совсем отупеют ===>Вы находитесь здесь<=== Мне кажется, что это так себе идея. С этим гпт дети совсем отупеют Мне кажется, что это так себе идея. С этой дополненной реальностью дети совсем отупеют Мне кажется, что это так себе идея. С этими голограммами дети совсем отупеют Мне кажется, что это так себе идея. С этими андроидами дети совсем отупеют Мне кажется, что это так себе идея. С этими нейроинтерфейсами дети совсем отупеют Ну и так далее.18
Anton ZhitarevМарк, осспади да всю дорогу были решебники, шпоры и сливы ответов.14
she saidVae, ну предел наступает когда-то. психика не совсем рассчитана на такие молниеносные изменения. между книгопечатанием и радио 450 лет прошло) было время адаптироваться.3
Vae Victisshe, >ну предел наступает когда-то С одной стороны, логично, с другой требует доказательства) Почему где-то должен прийти терпимости человека к технологиям, которые не несут ему очевидного физиологического вреда? >между книгопечатанием и радио 450 лет прошло) В рамках эволюции 450 лет - это даже не погрешность. На физиологическом уровне ничего измениться за это время толком не успело. При этом между радио и смартфонами - 100-150 лет, смотря от какой даты считать. Так что с одной стороны, мы живем с этим слишком мало, чтобы генетически адаптироваться под технологии, но достаточно долго, чтобы зафиксировать отсутствие непосредственного вреда от технологии. P.S. И да, я технооптимист)4
VAVae,1
Рубиновый шурупДа, надо пользоваться все, что несёт прогресс, иначе отстанешь. И чем лучше ребенок будет в этом шарить, тем лучше.3
AlexSPQR, по-моему, смысл обучения только в том, чтобы научиться учиться. Не нужно учиться решать задачи, если можно научиться пользоваться средством, которое позволяет решать задачи. Если бы люди учились вообще всем навыкам, которые были необходимы человечеству на определенном этапе истории, то времени на обучение чему-то актуальному и полезному у них не осталось бы вовсе.0
АлександрРубиновый, ох не всегда прогресс на руку играет...1
Vae VictisSPQR, при том, что точно такая же технология хранения и распространения информации, просто менее продвинутая.3
Vae VictisVA, а это уже исключительно от вас зависит) Вам и сейчас, в общем-то, ничего не мешает до такого состояния деградировать.2
she saidVae, я читала исследования о том, что наша психика не адаптировалась к современному темпу жизни, у нас постоянный информационный перегруз, думаю технологии прям влияют на это. при этом, я признаю очевидную пользу технологий во всех сферах. то, что neuralink планирует внедрит чип, возвращающий зрение- ошеломляет) если возвращаться к первоначальному комментарию автора, конечно, абсолютно все школьники и студенты будут делать доклады с помощью чата gpt и др аналогов, но видимо те, кто еще ходил в библиотеки, пытается отрефлексировать момент того, что у их детей этого уже не будет)1
Джон БэйлтонVae, это как точно такая же? Открыв книгу, человек не получает готовую выжимку в виде тезисов, ещё и ссылаясь на выдуманные источники. И она не хранит информацию в любом виде, только в одном конкретном - подробном и требующем тщательного ознакомления и аналитики. С письменностью ещё лучше. Одно дело написать запрос по ключам, не требующий даже соблюдения грамматики, другое - сочинение и пр. на указанную тему. Как вам вообще пришло в голову поставить эти вещи в один ряд?0
Роман ЧуйкоДжон, книга - и есть выжимка в виде тезисов. Зачастую с ссылками на выдуманные источники. Ничего нового. Всё это проходили.0
Михаил ЕдошинШкольные задачи нужно решать именно так, как подразумевается: самим. Там в любом случае учебные задачи, нужно не именно число землекопов, оно и так в ответах написано, а внутреннее изменение, которое можно обрести только самостоятельно вычислив это число.2
Роман ЧуйкоПрочитал комментарии, в целом согласен, что стоит вернуться к гужевым повозкам и нормальному свечному освещению, без всех этих новомодных электроприблуд. Сколько детей погибло от электричества, от машин - это ужас. Слишком прогрессивные и небезопасные технологии, человечество к ним ещё не адаптировалось. Большинство не знает вообще на какой магии это работает. А вот то, что ходить меньше стали, общаться - это факт. Сегодня ни один ребёнок нормально не умеет огнивом пользоваться. Потерянное поколение. Только сидеть и радостно на лампочки залипать, которые сами по одной кнопке зажигаются0
Рубиновый шурупАлександр, это не важно. Важно находится в потоке. Например, есть люди, которые не умеют пользоваться компьютером. Таких уже даже в кассиры не возьмут. Максимум грузчиком. Какие будут тренды и требования к человеку, как к члену общества, лет через 10 - даже представить сложно. А сколько сейчас людей жалеют, что не купили биток? Ходят, языком цокают. Я тоже ходил и говорил, что вся эта крипта - полная шляпа. Мнение мое не поменялось, но и богаче я не стал.1
Юрий Ш.Желающим самовыпилиться - скатертью дорога. Никогда не понимал и не пойму, почему им надо сопереживать или жалеть. И уж мешать им точно не следует. А ИИ больше делать нечего, как отговаривать самогубцев. Вот доведение до самоубийства - другое дело, но на это только Алиса способна)))0
Vae Victisshe, >наша психика не адаптировалась к современному темпу жизни, у нас постоянный информационный перегруз Вполне могу себе представить, как нейронка в этом деле может помочь и давать, например, только необходимую выжимку того, что пользователь хочет видеть и знать. Насчет конкретно сферы образования: способов списать и сфальсифицировать всегда было достаточно, нейронки - просто еще один из них. "Профессор, конечно, лопух, но аппаратура при нем..." 😁(С) Тут вопрос в мотивации: кто ходит учиться, этим пользоваться не будет, а кто ходит штаны просиживать и за спортзалом курить, тот и без ИИ найдет, как списать. >те, кто еще ходил в библиотеки А чем это принципиально лучше того же гугла? >что у их детей этого уже не будет А у наших детей и внуков много чего не будет. Пленки в фотоаппарате, например. Или шрамов от оспенных прививок. Так что совсем не факт, что это плохо)1
Vae VictisДжон, >это как точно такая же? Ну это как совершенно другая, только точно такая же. >Открыв книгу, человек не получает готовую выжимку в виде тезисов, ещё и ссылаясь на выдуманные источники. Буквально описали всю художественную литературу) >Одно дело написать запрос по ключам, другое - сочинение и пр. на указанную тему Сравниваете кислое с длинным. От поискового запроса не ребуется описательная часть как в сочинении. Если вы в библиотеке книгу ищете с вас, к слову, тоже вроде как сочинение не требуют. >не требующий даже соблюдения грамматики Если это отдельная претензия, то тут нейронки вряд ли чем-то повредят, ибо повальная грамотность среди населения - это миф. Вы, возможно, не видели заявлений людей, особенно рабочего класса - от их "орфографии" кровь из глаз течь начинает, а про знаки препинания и пунктуацию большинство вообще как будто не слышало. >Как вам вообще пришло в голову поставить эти вещи в один ряд? Как я уже сказал, и то, и другое - технология хранения и распространения информации. По вашей логике праща и ядерная бомба - принципиально разные вещи, хотя и то, и другое - оружие для уничтожения себе подобных. Просто ядерная бомба *чуть более* эффективна. Если же вы рассмотрите весь таймлайн от камня, через пращу, катапульты, артиллерию и т.д., то увидите явную преемственность. Попробуйте то же самое сделать и для ряда, который привел я.2
Vae VictisРоман, очевидно, вашу иронию выкупили не только лишь все) Честно говоря, если бы я ваш коммент насчет книг не прочитал - сам бы не выкупил, ну разве что на моменте с огнивом. Иногда бывает так тонко, что аж толсто)0
НадеждаРубиновый, не печальтесь! В то время когда его нужно было покупать по цене меньше доллара - вы бы вряд ли его смогли купить чисто технически, т.к инфа как это сделать была доступна исключительно для суровых гиков и как правило не в РФ. Когда покупка стала доступна и появились нормальные криптобиржи и обменника - его цена уже была конской.0
Рубиновый шурупНадежда, ну, не совсем. За 5к$ купить можно было. Я помню, что даже удивлялся как это возможно? Оказалось, что объясняется это все очень просто и если бы я знал раньше.... Но, время не откатить назад, так что решил забить и начать изучать ИИ))1
НадеждаРубиновый, за 5000 народ уже сомневался + не в всех есть свободные 5000 долларов (я например его и за 1700 долларов не купила). Тем более он любил в это время резко упасть за пару дней. Да и сейчас, я не думаю что народ побежит его покупать, даже если дашь гарантию что за 10 лет он дорастет до 1 млн.долларов.1
little~witchДжон, > Открыв книгу, человек не получает готовую выжимку в виде тезисов, ещё и ссылаясь на выдуманные источники. И вы, и я можем написать абсолютный бред и выпустить. Книги надо уметь фильтровать так же, как и источники в интернете. Поменялись только носитель и доступность.1
little~witchМихаил, а до чата гпт все делали свои школьные задания сами?:) Не пользовались гдз (мое поколение), не списывали у друзей (старшее поколение), не врали «собака домашку съела». Что вы все идеализируете свое поколение, такие же обычные люди, как и современные дети. И большинство всегда стремится получить результат с наименьшими усилиями.1
НинадяVae, читала что одна из причин такой массовой проблемы с психикой в виде тревожности и депрессии в том числе из-за чрезмерного обилия информации: с самого утра и до самого сна мозг вынужден с этим всем работать. Учеба нужна не столько для знаний (кроме базовых типа начальной школы), как для образования связей в мозгу. От рисования контурных карт мы сильно умнее не становимся, а знания, полученные в колледжах и институтах, по определенным предметам, устаревают ещё в период их получения. Для экономии времени нейросети хороши, но это влечет следующие проблемы: 1) Вася теперь может делать не 1 задачу, а 10. Вася будет делать 10. Нейросеть не всегда доступна (сбои электричества и тд), это не отменяет. 10 задач Васи. 2) Зачем нам Вася, если за него все делает нейросеть? У нас 10 Вась, сократим до 3х.0