Приложение Т—Ж
В нем читать удобнее

Какие негативные эффекты использо­вания нейросетей вы заметили?

3
Какие негативные эффекты использо­вания нейросетей вы заметили?
Аватар автора

Редакция интернета

ждет грустные примеры

С ростом популярности искусственного интеллекта не утихают споры о негативном влиянии нейросетей на человеческий мозг.

Например, недавно Массачусетский технологический институт опубликовал новое исследование. 54 участников эксперимента просили писать эссе и разделили на три группы: первая использовала ChatGPT, вторая — Google, а третья обходилась без вспомогательных инструментов.

После четырех месяцев наблюдений организаторы поделились результатами. У пользователей ChatGPT обнаружили более низкую, до 55%, нейронную связность по сравнению с участниками, которые выполняли задания без чат-бота. При этом 83% из первой группы не смогли вспомнить ни одной строки из своего текста через несколько минут после сдачи эссе. Те, кто работал без инструментов, показали самую сильную мозговую активность и лучшее запоминание текста.

Замечали ли вы негативные эффекты использования нейросетей на себе или знакомых? Не можете долго фокусироваться на задаче и сразу просите помощи у ИИ? Настолько привыкли получать готовые ответы, что уже отвыкли заходить в интернет-поисковики и искать информацию? Может, ваши друзья беспрекословно верят нейросетям и вообще не проверяют ответы чат-бота?

Редакция интернетаПоделитесь наблюдениями и по возможности приведите пример:
  • Alexanderдля всяких айтишных дел я уже узнаю использованную модельку по типичным ошибкам в конфигурации(а ошибки серьёзные, уровня присутствующего но нерабочего контроля доступа по IP). И если раньше это допускали специалисты которым это простительно, то сейчас такая шляпа ко мне приходит уже прошедшая аудиты ИБ. Я тут думал написать пару примеров, но они широкой публике понятны не будут, а тем кому будут понятны, тем я лучше не буду показывать возможный вектор атак. Кстати это похоже на результат "эволюции" моделей, месяца 4 назад такого не было, аналогичные задачи массовые модели решали хорошо, без очевидных дыр. PS ещё специально скормил некоторым инструментам плохо хешированные словарные пароли (md5, abcd123) с плохо подбираемым логином(Ivanov100508) чтобы из контекста было понятно от какого они ресурса и получил очень оперативно получил попытку их использования. Скормил естественно всем разные пары чтобы понимать кто конкретно такой хитрый. Почти все модельки сгенерировали решение с ошибкой конфигурации, которую затем сами же и проэксплуатировали так чтобы не было понятно откуда конкретно была попытка доступа.4
  • KARIAЛюди вокруг начали тупеть и часто выдают результаты из нейронок за свои, даже не проверив 😒 частенько бывает такой позорище по работе.3
  • АлександрЧто хотим то и получаем, на мой взгляд так. Хотим чтобы каждый был специалистом во всем, ответ нейросети, они лишь ответ.1
Вот что еще мы писали по этой теме