21.03.26

Какие негативные эффекты использования нейросетей вы заметили?

Редакция интернета

ждет грустные примеры

С ростом популярности искусственного интеллекта не утихают споры о негативном влиянии нейросетей на человеческий мозг.

Например, недавно Массачусетский технологический институт опубликовал новое исследование. 54 участников эксперимента просили писать эссе и разделили на три группы: первая использовала ChatGPT, вторая — Google, а третья обходилась без вспомогательных инструментов.

Бесплатный курс Учебника Т⁠—⁠Ж «Как упростить жизнь с помощью нейросетей»

После четырех месяцев наблюдений организаторы поделились результатами. У пользователей ChatGPT обнаружили более низкую, до 55%, нейронную связность по сравнению с участниками, которые выполняли задания без чат-бота. При этом 83% из первой группы не смогли вспомнить ни одной строки из своего текста через несколько минут после сдачи эссе. Те, кто работал без инструментов, показали самую сильную мозговую активность и лучшее запоминание текста.

Замечали ли вы негативные эффекты использования нейросетей на себе или знакомых? Не можете долго фокусироваться на задаче и сразу просите помощи у ИИ? Настолько привыкли получать готовые ответы, что уже отвыкли заходить в интернет-поисковики и искать информацию? Может, ваши друзья беспрекословно верят нейросетям и вообще не проверяют ответы чат-бота?

Дискуссии. Обсуждаем финансовые вопросы и даем советы друг другу

Задать свой вопрос

сервисы интернет приложения нейросети

Редакция интернетаПоделитесь наблюдениями и по возможности приведите пример:

Alexanderдля всяких айтишных дел я уже узнаю использованную модельку по типичным ошибкам в конфигурации(а ошибки серьёзные, уровня присутствующего но нерабочего контроля доступа по IP). И если раньше это допускали специалисты которым это простительно, то сейчас такая шляпа ко мне приходит уже прошедшая аудиты ИБ. Я тут думал написать пару примеров, но они широкой публике понятны не будут, а тем кому будут понятны, тем я лучше не буду показывать возможный вектор атак. Кстати это похоже на результат "эволюции" моделей, месяца 4 назад такого не было, аналогичные задачи массовые модели решали хорошо, без очевидных дыр. PS ещё специально скормил некоторым инструментам плохо хешированные словарные пароли (md5, abcd123) с плохо подбираемым логином(Ivanov100508) чтобы из контекста было понятно от какого они ресурса и получил очень оперативно получил попытку их использования. Скормил естественно всем разные пары чтобы понимать кто конкретно такой хитрый. Почти все модельки сгенерировали решение с ошибкой конфигурации, которую затем сами же и проэксплуатировали так чтобы не было понятно откуда конкретно была попытка доступа.15
KARIAЛюди вокруг начали тупеть и часто выдают результаты из нейронок за свои, даже не проверив 😒 частенько бывает такой позорище по работе.37
АлександрЧто хотим то и получаем, на мой взгляд так. Хотим чтобы каждый был специалистом во всем, ответ нейросети, они лишь ответ.7
gogen7Люди чаще ленятся - можно сделать презентацию/доклад самому, а зачем? Но это касается не всех дел, а для галочки. Если выступление важное, то ИИ не будет (или минимально), но такое встречается нечасто. Ещё, выполняя что-то самостоятельно, я соревнуюсь не с человеком, а с роботом (ведь одногруппники выполняют задания не сами), и здесь становится ещё грустнее.9
Сибирь-КолибриМеня пугает доверие и фанатичное упование на ИИ. И сегодня офигела: полезла в сеть искать текст песни Юлии Савичевой, саундтрек "Не родись красивой". Я в ужасе, что в Яндексе опубликован текст с ошибками! Понимаю, что Савичева пела не очень чётко некоторые слова (эстрадная манера пения, ок), но я так полагаю, ИИ сделала транскрибацию автоматом, но получилось "пишу, что слышу"!16
Вася Фроловану люди начали привыкать к идеальным картинкам1
Вася ФроловаKARIA, а теперь уже и не отличишь, правда это человек сам или иишка0
ИзмайловНегатив в том, что появилось какое-то потрясающее количество ИИ мусора.26
Михаил ВикторовичПоздравления в чатах стали ещё кринжовее. Раньше присылали гифки-блестяшки, теперь загружают фото юбиляра в нейросеть и оживляют.10
user3393407Им хоть платили за писание сочинений?0
Александр КорнеевФотографии в интернете стали какие-то слишком идеальные. У всех кожа как у фарфоровых кукол, никаких синяков под глазами1
Александр КорнеевKARIA, самый сок когда они даже заглушки типа "вставьте сюда название компании" забывают стереть)) Отправляешь такое начальнику и ждешь премию11
Александр Корнеевgogen7, да потому что 80% этих презентаций никому не уперлись. Делаются чисто для галочки, чтобы показать на совещании и забыть навсегда16
АленаОчень много однотипного контента. Особенно грешит этим "Инстаграм" (запрещенная в РФ сеть). Беда даже не в том, что это ИИ. Оно просто пишется по одним шаблонам.4
HeledisАлександр, чтобы потом в премиальной ведомости также было: "вставьте фио сотрудника"3
HeledisА я ловлю кринж, когда читаю исковые заявления со ссылками на несуществующие законы. Ждём нейросетевые решения суда.15
Сибирь-КолибриHeledis, и аппеляция как борьба двух разных нейросеток2
gogen7Александр, да, соглашусь. Но даже на конференциях видела презентации, сделанные ИИ. Могу понять все, но даже буквы не изменяют (все с большой буквы).1
Boris MalerДаже если им прописать модель поведения, они хвалят все мои творческие идеи и я скачу от одной к другой, в итоге ничего...0
Михаил ВикторовичHeledis, «Ближайшее будущее, Лос-Анджелес. Для борьбы с высоким уровнем преступности правительство начинает использовать судебную ИИ-систему «Милосердие», которая определяет, виновен ли подозреваемый, и сама приводит приговор в исполнение. Через два года в кресле обвиняемого оказывается заслуженный полицейский Крис Рейвен, который сам отправил на суд «Милосердия» первого преступника. Крису вменяется убийство собственной жены, и у него есть всего 90 минут, чтобы доказать бездушной машине свою невиновность»5
fatcatСибирь-Колибри, уууу.5
HeledisМихаил, да, я смотрела этот фильм. Но в наших нынешних реалиях даже такое - утопия.0
машкинтошСгенерированные карточки товаров Представляю запрос ипшника к дизайнеру: обязательно используйте ИИ, нужно показать, что мы в теме, мы современные. А пользователь потом гадает, как это выглядит в реальной жизни. Карточки итак переполнены информацией, теперь и фото товара на них нереальное(( Одежду теперь только на ламоде могу смотреть, там хотя бы голова не устает от этого шума7
Меня чёрное стройнитТакое впечатление, что моя нейросеть маленько отупела0
Елизавета СопруненкоЯ понимаю, что во многом обленилась. Например, если мне нужно написать письмо на английском, я скорее попрошу ИИ составить его по нужным мне параметрам, чем сяду писать с нуля. Если нужно что-то перевести, не буду долго пытаться вникнуть сама — перекину задачу нейросети. Иногда даже прочитать что-то лень, так что запрашиваю у ИИ краткое резюме. Плюс от всех этих действий в том, что я экономлю много времени, но минус тоже есть — я не становлюсь умнее, не развиваю новые навыки и теряю возможность концентрироваться надолго. Сейчас стараюсь вернуть себе "самостоятельность" и реже обращаться к нейросетям. Не всегда выходит, но работаю над собой.1
ШелковкаПеред тем как умилиться котику на видео, натужно выясняешь, а не ИИ ли это. Вроде и шутка, но в Сети появилось какое-то гигантское количество нейрослопа. И если раньше видео дружбы, например, собаки и льва вызывало умиление (когда в зоопарках подселяют собаку к большим кошкам, чтобы те не чувствовали себя одиноко), то сейчас остается только банить каналы с "синтетическим или измененным контентом".4
ШелковкаА, еще есть одна область, кхм... Там еще в названии самого популярного ресурса есть слово "хаб" ;-) Модели и актрисы с актерами в той индустрии и так часто какие-то недостижимые по внешности. Но ИИ-актрисы вообще ж нереальные, с нереальной физиологией.0
Дмитрий СоколовAlexander, недавно же был скандал, что нейронки по запросу «сгенерируй надёжный пароль» выдавали пароли по одному и тому же шаблону (где строчная буква, где заглавная, где цифра), а с некоторой периодичностью выдавали вообще один и тот же пароль! Технически тут ничего удивительного, но такая вот Б — Безопасность.0
AlexanderДмитрий, Какой рандомный пароль в приоритезированных RAG-ах нашелся тот и был выдан. Хотя в целом классика жанра https://xkcd.com/221/0
Дмитрий СоколовAlexander, я и говорю: технически полностью понятно, но такой вот ИИ, да.0
Дмитрий Соколов> с нереальной физиологией Это как? Поперёк?0
Дмитрий Соколов1
ШелковкаДмитрий, не удивлюсь, если есть и такие )) Но пока что это будто бы резиновые эти... рабочие инструменты спереди и сзади, в целом искаженные пропорции тела и всех органов.0
MariАлександр, однажды на работе делала для собственника отчет с презентацией, заморочилась, постаралась, закончила в 4 утра, а в 6 вставать, ехать к нему. Так он его открыл, быстро прокрутил вниз, глядя сквозь экран и всё. Секунд 15. Обидно было. Я едва на ногах стояла, очень хорошая работа получилась, он же сам и просил. Хочу теперь все презентации в ии делать, только бесплатные для этого найти не могу0