Мнения
829

Мнение: не стоит ждать от нейросетей волшебства

28

Этот текст раньше был комментарием. Вы тоже можете поделиться своим мнением под любым материалом или написать пост в Сообщество

Аватар автора

Анна Данилова

защищает ИИ

Страница автора

Не нужно ожидать от чат-ботов того, чего они не умеют.

Нейросети — еще молодая технология, в ней множество детских болезней и ошибка на ошибке. А ее уже пытаются внедрять в ответственных местах — ну глупость ведь!

Я использую нейросети в работе. ИИ пишет для меня код — да, пишет. Я не копирую в проект, не глядя, а читаю каждую строчку. Благо чат-бот не только пишет, но еще и снабжает код множеством комментариев. Я принимаю его работу точно так же, как работу джунов. Только в случае ошибок не отправляю дорабатывать код, а исправляю их собственноручно.

Еще использую технологию в хобби. Например, обсуждаю с ним сюжет своего комикса. Чат-бот предлагает интересные обороты или черты характеров героев. Показываю готовые картинки — получаю в ответ критику, которая почти всегда идет по делу.

После работы над ошибками результат действительно становится лучше.

Использую ИИ в быту. Нейросеть мне рассказывает про строительные нормы, стандарты в электрике и разные технологии. В общем, как сделать что угодно по хозяйству. Каждый раз нахожу подтверждения словам чат-бота: упомянутые законы в «Консультанте-плюс», обучающие видео от строителей, электриков или сантехников.

В целом искусственный интеллект редко ошибается. Но все же ошибается, поэтому нужно обязательно проверять каждое слово. Смысл в технологии все равно есть: она предлагает идею, до которой человек может и не дойти своим умом. Или дойти, но намного дольше. Если что, я использую не разрекламированный, но откровенно слабый ChatGPT, а Claude.

Просто не надо считать ИИ каким-то волшебством. Это очень мощный инструмент, которым нужно правильно пользоваться. В частности, постоянно сохранять над ним контроль.


РедакцияЧто думаете? Поделитесь своими аргументами:
  • australia adventureБольше всего мне нравится в ИИ то, что он имеет доступ почти ко всем знаниям мира. А это значит, что когда его научат по-настоящему понимать, изучать и анализировать, он сможет делать новые открытия и находить лучшие решения, опираясь на всю доступную информацию. Это как если бы все учёные и врачи могли держать в голове одновременно все научные знания. Я думаю, что такой прорыв произойдет ещё нескоро, но будет резким и неожиданным. А за первыми открытиями снежным комом пойдут ещё десятки и сотни на основе первых. И вот тогда мир и всё что мы о нём знаем могут действительно измениться до неузнаваемости очень быстро.11
  • Алина Алининаaustralia, Уф, хотелось бы дожить до этого момента)3
  • Annie PolyakovaНо иногда в волшебство хочется верить0
  • Annie PolyakovaАлина, надеюсь, он не так далеко0
  • Нехетти ГринИменно! Мне больше всего нравится новомодный ДипСик. Обожаю его ход мыслей и стиль. Но да, кое-где он бывает не совсем прав. С другой стороны - на очень узкоспециальных запросах просто виснет. Это даже лучше, чем выдать неправильный ответ (могу ошибаться, ибо я не ИТ-человек, но как по мне - хорошо, если это не баг, а фича).0
  • Максимaustralia, я верю, что такой прорыв произойдёт, но не думаю, что его результаты будут доступны широкому кругу0
  • Boris KölnНехетти, виснет он из-за множества посетителей на сервере, скоро добавят новые сервера. К вашему вопросу это не имеет отношения. Галлюционирует он гораздо реже. Впрочем, последняя версия ChatGPT тоже неплохая.0
  • AlexanderПоддерживаю двумя руками. Если раньше я узнавал использованный веб-переводчик по типичным ошибкам, то теперь узнаю используемую модель по косякам в конфигах. Для непогруженных в ИТ есть простой тест обычных рутинных задач "оператора экселя": Скармливаете модельке любой список чего угодно, просите убрать/оставить только строки, начинающиеся , к примеру, на букву N . Такие простые тесты проваливают 3 из 4 LLM-ок на которых я это попробовал. Ладно список из 20 и там всё видно, но когда из 20 тысяч, там уже глазами искать ошибки сложнее. А еще бывают ошибки, когда в результирующем списке появляются строки, которых не было в исходном (к примеру, так часто с городами). Спасибо, я лучше пока что напишу регэксп ^N Очень жду момента, когда я смогу хотябы делать фильтрации списков голосом, а не регэкспами, хотябы в объёме простых задач с проверяемым конечным результатом. Если нужно "абсолютное значение разницы второй колонки и первой больше 5" результат бывает ещё интереснее Причём качество результата меняется в зависимости от входных данных. однако пока для творческих задач "сгенерировать 100 вариантов картинки по описанию" где нет и не может быть "правильного ответа" я считаю прорыв достигнут.4
  • Кактус в иголкахСправедливости ради, GPT - это только один из видов нейросетей. Гораздо более серьезные модели широко используются в медицине, физике, астрономии, антропологии и вообще во многих науках. Они не общедоступны и закрыты от массового пользователя (мы своими дуратскими запросами все только испортим) и решают задачи, на решение которых раньше уходили тысячи человеко-часов.4
  • Надеждаaustralia, я бы не радовалась подобному развитию событий. То что вы описываете называется технологической сингулярностью, следствием которой появится много людей "не у дел". И что вы с ними делать будете - думаете правительства разбегутся на введение безусловного дохода? Мечтать не вредно. Особенно если учесть что любую технологию человек пытается превратить прежде всего в оружие или использовать в других малоприятных целях. К примеру с помощью нейросетей можно создавать не только лекарства, но и новые типы ядов или наркотиков.4
  • australia adventureНадежда, по такой логике лучше всего было в каменном веке, когда многообразие всевозможного плохого и хорошего ещё не было изобретено. Но ирония в том, что на исследования для оружия и ядов в любом случае уже выделяют и будут выделять большие деньги. Просто потому для государств это "нужно". А вот оплачивать труд большого количества учёных для поиска средств лечения редких болезней часто банально не выгодно. В том числе и потому что дорогостоящие лекарства на выходе никто всё равно не сможет себе позволить. А как монетизировать многие другие сферы науки без предсказуемого практического применения вообще непонятно. Хотя никто не знает, что нам может дать, например, ещё более глубокое изучение глубин океанов и среды / форм жизни там под огромным давлением. А что касается людей "не у дел", то безработица уже сейчас начинает расти большими темпами. Этот процесс запущен и его уже не остановить, искать нужно решения. Но хорошая новость в том, что каждый скачок в развитии цивилизации не только отбирал рабочие места, но и давал новые. А если мы всё таки пойдём путём глобальной роботизации, то это позволит сократить рабочий день для людей в 2/3 раза и при этом обеспечить каждого всем необходимым. Вот тут ИИ тоже позволит всё рассчитать и организовать. И самое главное, что чем выше уровень жизни для человека в среднем, тем меньше будет преступников и маргиналов. Развитие и благополучие - это первое и ключевое, что позволит оздоровить общество и избавить от тяги к разрушению и ненависти. Даже если ИИ придумает новый вид наркотиков без негативных последствий, это уже лучше чем сейчас. Если он придумает аналог ядерной бомбы, который действительно станет инструментом сдерживания от военных конфликтов, это тоже может стать только плюсом. И так далее, всё плохое у нас всё равно уже есть. А вот хорошим без ресурсов ИИ многим просто не выгодно / нет возможности заниматься.4
  • Надеждаaustralia, угу, что-то с каменного века расслоение общества только усиливается - вот незадача то. "И самое главное, что чем выше уровень жизни для человека в среднем, тем меньше будет преступников и маргиналов." - что-то тоже не заметно, наоборот, растет с геометрической прогрессией. "Развитие и благополучие - это первое и ключевое, что позволит оздоровить общество и избавить от тяги к разрушению и ненависти." - вы с планеты розовых понни? "Этот процесс запущен и его уже не остановить, искать нужно решения." - как бы это не стало последним и кардинальным решением для человечества.1
  • australia adventureНадежда, по каждому пункту вы пытаетесь опровергать возведенными в абсолют субъективными ощущениями. Видимо вы плохо знаете историю, по этим и многим другим пунктам мы живём буквально в лучший исторический отрезок. Пока неясно, что будет дальше, но более благоприятного периода для жизни на планете Земля ещё никогда не было.8
  • Ерёмаглавный нюанс всего вышеописанного в том, что в отличии от той сферы, экспертом в которой вы являетесь и ошибки видите невооруженным глазом - во всех других темах ошибок вы не замечаете и легко можете их проглотить, а их там может быть очень много. не говоря уже о том, что ии обучается на инфе из интернета, которая может быть а) устревшей, б) откровенным коверканием реальности, пропагандой и иже с ним.2
  • Ерёмаaustralia, -когда его научат по-настоящему понимать, изучать и анализировать, он сможет делать новые открытия не когда а если. боюсь тут есть большая проблема решение которой в случае с людьми находится в эмоционально-психологической сфере, которой у ии нет.1
  • ЕрёмаКактус, можно примеры задач на которые уходили тысячи человеко-часов которые на ваш взгляд наиболее перспективны и решаются ии?0
  • Кактус в иголкахЕрёма, у Колмановского есть отличное видео, где он рассказывает, как с помощью ИИ удается разработать новый антибиотик, основанный на геноме древних людей. Там абсолютно захватывающая история про решение серьезной надвигающейся проблемы резистентности человека ко всем известным антибиотикам. Огромное количество данных, полученных с помощью ИИ о карте вселенной. Вообще про машинное обучение в астрономии есть отличная (но сложная) статья на сайте ИТМО. Буквально на днях российские лингвисты с помощью ИИ научились расшифровывать зачеркнутые слова в рукописях Пушкина. Первое, что в голову пришло. Список бесконечный3
  • НиколайНа мой взгляд для подавляющего большинства людей это пока баловство, но имеющее далеко идущие планы в практической плоскости. И, как мне кажется, если считать волшебством человекоподобных роботов, способных моделировать поведение и мыслительные процессы человека, то его вполне можно ждать.3
  • Сергей БочкаревAlexander, один из недостатков ИИ в том, что он не понимает, когда надо перестать рассуждать абстрактно и переключиться на режим «посчитать столбиком»1
  • Эндрю БуркинВолшебства? Может просто не надо их переоценивать?0
  • ЕрёмаКактус, благодарю0
  • Константин ЮдаковНу так например от электричества тоже не надо ждать волшебства. Просто нажимаешь кнопочку и горит лампочка. Вроде чуда. А никакого волшебства..0
  • Anton ZhitarevAlexander, или сравнить 8.9 и 7.11 что больше0
  • Anton ZhitarevAlexander, или сравнить 8.9 и 7.11 что больше0
  • АркадийТакое ощущение, что большинство воспринимает ИИ либо как какую-то магию, либо как реально аналитический ум. )) Хотя на самом деле в ядре ИИ лежит голая математика — формулы и законы — которые затем применяются к большим данным. Например, языковые модели "обучаются" на том, что уже когда-то было опубликовано в интернете. Ну и каких новых открытий вы от этого ждёте? ))1