Нейросети, ИИ и уход от ответственности
Краткий взгляд на окружающий мир
Страницы:
Распечатать
- 1
- 2
15 мая 2024, 11:41. Редактировалось 4 раза, последний — 15 мая 2024, 19:41#1
Нашел на просторах мысль в статье про проблему окупаемости ChatGPT, которую процитирую:
Поделюсь своими соображениями со стратегической т.з.
- Это одна из проблем умников и в людском обществе. Соображают-то они хорошо, а разбираться в ценности источника и исходных данных - это совсем другой навык, и часто он бывает тем хуже, чем больше упор идет на логику и соображение.
Это я не сказал про фильтрацию
Критично даже не то, что б НЕ пропустить ложь, или ошибку, а НЕ выкинуть правду, если она не вписывается в привычный шаблон, логический критерий правдивости . Этим страдают особенно пожилые и молодые люди, хотя и по разным причинам.
Первые экономят энергию мозга, вторые - страдают гордыней "умников".
А при чем тут уход от ответственности?
Это главная причина. Корпорации, как известно, не просто не любят нести наказание за косяки - гарантийное обслуживание, нести издержки в судах и пр. Причем не важно, что это за бизнес - авиакомпания или магазин.
В восходе ИИ и нейросетях фирмачи увидели милую возможность сказать "а у нас лапки" и "слиться" в большей степени, чем раньше. А это критично!
Если предельно упрощать, то суть - в таком примере.
Ваш автомобиль, которым управляет нейросеть или ИИ, врезается на полном ходу (и такие случаи есть) в столб.
Или генерируется опасный для здоровья рецепт, или выписывается лекарство и т.д. и т.п.
И на выходе - травмы, проблемы со здоровьем и пр.
Теперь фирмы могут И ХОТЯТ ИМЕТЬ ВОЗМОЖНОСТЬ сказать - это не мы, это ИИ/Нейросеть - в пользовательском соглашении прописаны риски (может даже мелким шрифтом - НО КУДА ВЫ, КАК КЛИЕНТ, ДЕНЕТЕСЬ?), ваш иск не возьмут (или мы отмахаемся - зарядить адвокатов дешевле!).
Вы остаетесь со своей бедой наедине и никто (НЕ МЫ, компании - точно) не виноват.
Никакой социальной ответственности и чистая прибыль за услуги/продукты.
Циничный оскал капитализма.
С другой стороны, я уверен, что у них, корпораций ничего не получится.
В 20м веке было всё куда хуже - капитализм был готов превратить население мира в рабов и всё к этому шло. И противодействие, возникло в виде СССР, что вынудило капитализм трансформироваться в социальную сторону - 8 часовой рабочий день, права женщинам и пр.
С Нейросетями будет тоже самое - эта сладкая безответственность - просто морковка, что б скриптовые технологии, которыми и являются нейросети/ИИ, которые станут инфраструктурными элементами (как канализация и дороги) нового общества, развивались.
Только если с Интернетов вкладывались госбюджет, в лице Пентагона в 70-х, то сейчас эту почетную обязанность скинули на частников. А те и рады.
Красота!
Но шишек все набьют до приведения всего этого в божеский вид (с юристикой и пр.) очень много.
Пока все смотрят в сторону ИИ, которое по сути - дополнительная виртуализация жизни, и так доведенная до абсурда, полезно было б заниматься совсем другими вещами - педагогическими методиками того же Антона Макаренко, который помогал даже трудным подросткам налаживать жизнь, повышать ценность каждого уникального человека, помогал быть счастливым.
Людей не просто меньше рождается. Капитализм исходит из концепции -"Уволен"! То есть, из наличия не только бесконечных рынков (покупателей) и экспансии (это краеугольный камень), но и из концепции бесконечного же рабочего, человеческого ресурса. НУЖНОЙ квалификации.
Поэтому, сперва начали рушить деревни, сгоняя "двуногий скот" в города, убеждая менять независимый дом на квартирку в человейнике, а потом пылесося мозги и мигрантов со всего мира. (Грин Карта - не от доброты появилась)
Люди вымирают, и их качество из-за разрушения института и семьи и традиционных ценностей, неумолимо падает.
В итоге, всё идет к тому, что НЕ будет бесконечных рабочих рук и главной ценностью станет сам человек. Поэтому капитализм и умрет. Мавр сделал своё дело.
Уже сейчас проблема не в недостатке информации, а в ее избытке.
Фильтрация помогает слабо.
ИИ лишь усугубляет проблему - смартфоны, тикток и пр. УЖЕ давно воспитывает клиповое мышление, а проблема фейков - это лишь одна из наиболее заметных...
Тем не менее, всё начинает потихоньку поворачиваться к человеку. Старая экономическая модель себя изжила, и новые реалии, более правильные, справедливые, гуманистические, уже возникают то тут, то там.
Меняются люди в лучшую сторону, а что конкретно будет - вопрос второй.
Пережили феномен детей Индиго, а значит и дальше будет всё лучше и лучше.
Это неизбежно.
Котики подстрахуют, если что.
p.s.
Кстати, некоторые говорят, что мол это всё как с доткомами 90х рухнет.
Сомневаюсь.
Пузырь-то есть, но ИИ слишком удобный инструмент управления. Частники разовьют технологии, а потом их отожмут гос. службы. Выборы никто не отменял. Наоборот. Когда нейросетку засунут в образование - тогда граждане сами оплатят и новое оболванивание детей и всё прочее. Теперь со вкусом клубники.
"Можно ли абсолютно доверять всему, что генерирует нейросеть? Сложно сказать. Ведь хотя алгоритмы могут быть безупречны, внедренные в них данные могут быть искаженными, что подвергает сомнению их объективность."
Поделюсь своими соображениями со стратегической т.з.
- Это одна из проблем умников и в людском обществе. Соображают-то они хорошо, а разбираться в ценности источника и исходных данных - это совсем другой навык, и часто он бывает тем хуже, чем больше упор идет на логику и соображение.
Это я не сказал про фильтрацию
Критично даже не то, что б НЕ пропустить ложь, или ошибку, а НЕ выкинуть правду, если она не вписывается в привычный шаблон, логический критерий правдивости . Этим страдают особенно пожилые и молодые люди, хотя и по разным причинам.
Первые экономят энергию мозга, вторые - страдают гордыней "умников".
А при чем тут уход от ответственности?
Это главная причина. Корпорации, как известно, не просто не любят нести наказание за косяки - гарантийное обслуживание, нести издержки в судах и пр. Причем не важно, что это за бизнес - авиакомпания или магазин.
В восходе ИИ и нейросетях фирмачи увидели милую возможность сказать "а у нас лапки" и "слиться" в большей степени, чем раньше. А это критично!
Если предельно упрощать, то суть - в таком примере.
Ваш автомобиль, которым управляет нейросеть или ИИ, врезается на полном ходу (и такие случаи есть) в столб.
Или генерируется опасный для здоровья рецепт, или выписывается лекарство и т.д. и т.п.
И на выходе - травмы, проблемы со здоровьем и пр.
Теперь фирмы могут И ХОТЯТ ИМЕТЬ ВОЗМОЖНОСТЬ сказать - это не мы, это ИИ/Нейросеть - в пользовательском соглашении прописаны риски (может даже мелким шрифтом - НО КУДА ВЫ, КАК КЛИЕНТ, ДЕНЕТЕСЬ?), ваш иск не возьмут (или мы отмахаемся - зарядить адвокатов дешевле!).
Вы остаетесь со своей бедой наедине и никто (НЕ МЫ, компании - точно) не виноват.
Никакой социальной ответственности и чистая прибыль за услуги/продукты.
Циничный оскал капитализма.
С другой стороны, я уверен, что у них, корпораций ничего не получится.
В 20м веке было всё куда хуже - капитализм был готов превратить население мира в рабов и всё к этому шло. И противодействие, возникло в виде СССР, что вынудило капитализм трансформироваться в социальную сторону - 8 часовой рабочий день, права женщинам и пр.
С Нейросетями будет тоже самое - эта сладкая безответственность - просто морковка, что б скриптовые технологии, которыми и являются нейросети/ИИ, которые станут инфраструктурными элементами (как канализация и дороги) нового общества, развивались.
Только если с Интернетов вкладывались госбюджет, в лице Пентагона в 70-х, то сейчас эту почетную обязанность скинули на частников. А те и рады.
Красота!
Но шишек все набьют до приведения всего этого в божеский вид (с юристикой и пр.) очень много.
Пока все смотрят в сторону ИИ, которое по сути - дополнительная виртуализация жизни, и так доведенная до абсурда, полезно было б заниматься совсем другими вещами - педагогическими методиками того же Антона Макаренко, который помогал даже трудным подросткам налаживать жизнь, повышать ценность каждого уникального человека, помогал быть счастливым.
Людей не просто меньше рождается. Капитализм исходит из концепции -"Уволен"! То есть, из наличия не только бесконечных рынков (покупателей) и экспансии (это краеугольный камень), но и из концепции бесконечного же рабочего, человеческого ресурса. НУЖНОЙ квалификации.
Поэтому, сперва начали рушить деревни, сгоняя "двуногий скот" в города, убеждая менять независимый дом на квартирку в человейнике, а потом пылесося мозги и мигрантов со всего мира. (Грин Карта - не от доброты появилась)
Люди вымирают, и их качество из-за разрушения института и семьи и традиционных ценностей, неумолимо падает.
В итоге, всё идет к тому, что НЕ будет бесконечных рабочих рук и главной ценностью станет сам человек. Поэтому капитализм и умрет. Мавр сделал своё дело.
Уже сейчас проблема не в недостатке информации, а в ее избытке.
Фильтрация помогает слабо.
ИИ лишь усугубляет проблему - смартфоны, тикток и пр. УЖЕ давно воспитывает клиповое мышление, а проблема фейков - это лишь одна из наиболее заметных...
Тем не менее, всё начинает потихоньку поворачиваться к человеку. Старая экономическая модель себя изжила, и новые реалии, более правильные, справедливые, гуманистические, уже возникают то тут, то там.
Меняются люди в лучшую сторону, а что конкретно будет - вопрос второй.
Пережили феномен детей Индиго, а значит и дальше будет всё лучше и лучше.
Это неизбежно.
Котики подстрахуют, если что.
p.s.
Кстати, некоторые говорят, что мол это всё как с доткомами 90х рухнет.
Сомневаюсь.
Пузырь-то есть, но ИИ слишком удобный инструмент управления. Частники разовьют технологии, а потом их отожмут гос. службы. Выборы никто не отменял. Наоборот. Когда нейросетку засунут в образование - тогда граждане сами оплатят и новое оболванивание детей и всё прочее. Теперь со вкусом клубники.
Anush
Всего сообщений: 142
Зарегистрирован: 21 окт 2019, 19:02
Рейтинг пользователя: 68
Почетный участник
![](/forum/f/av/1296.jpg)
Зарегистрирован: 21 окт 2019, 19:02
Рейтинг пользователя: 68
15 мая 2024, 19:03#2
Хорошая тема. Недавно одна знакомая хотела доказать мне, якобы нейросеть от Майкрософт генерирует, создаёт уникальные изображение
а я знаю, как работают алгоритмы и могу точно сказать что она ничего не создаёт, просто собирает изображения.
В чем то нейросеть поможет упрощать работу, но никогда не заменит настоящем творцам, будет это художники, музыканты или программисты
![](/forum/sm/grin.png)
В чем то нейросеть поможет упрощать работу, но никогда не заменит настоящем творцам, будет это художники, музыканты или программисты
15 мая 2024, 19:32. Редактировалось 3 раза, последний — 15 мая 2024, 19:34#3
Anush написал(а):
В чем то нейросеть поможет упрощать работу, но никогда не заменит настоящем творцам, будет это художники, музыканты или программисты
О том и речь.
Нейросеть - лишь набор скриптов и алгоритмов, вроде инструменты в фотошопе.
Для настоящей, т.е. живой работы нужен контакт с высшими, духовными сферами, нужна божественная энергия, гениальность, которая входит в человека и он ее передают в своё творение.
Нужна воля, эго, я, характер. Такой или этакий.
ИИ это просто игровой НПС в игре, КАК запрограммируешь, так и будет, чем бы он не оперировал.
Anush
Всего сообщений: 142
Зарегистрирован: 21 окт 2019, 19:02
Рейтинг пользователя: 68
Почетный участник
![](/forum/f/av/1296.jpg)
Зарегистрирован: 21 окт 2019, 19:02
Рейтинг пользователя: 68
15 мая 2024, 20:40#4
Keynol, да, согласна с вами . Однажды один мой друг сказал интересную фразу, которую я до сих пор часто вспоминаю. Он говорил что интернет это как огромный мусорный бак, в котором есть все, что угодно.
Но каждый берет оттуда то, что ему хочется и так сформулирует свое мнение. Кто то скажет, что интернет даёт массу возможностей для саморазвития, а кто то другой скажет что в интернете одни извращенцы сидят.
Так же и нейросети: как мы их будем использовать, тем и они станут
Но каждый берет оттуда то, что ему хочется и так сформулирует свое мнение. Кто то скажет, что интернет даёт массу возможностей для саморазвития, а кто то другой скажет что в интернете одни извращенцы сидят.
Так же и нейросети: как мы их будем использовать, тем и они станут
15 мая 2024, 21:18#5
Очень неудачное сравнение, ну что ж... не всем видеть в луже звезды, некоторые видят в ней, в первую очередь, грязь.
4X_Pro
Всего сообщений: 829
Зарегистрирован: 29 мар 2017, 12:22
Откуда: Москва
Рейтинг пользователя: 418
Создатель форума
![](/forum/f/av/4.jpg)
Зарегистрирован: 29 мар 2017, 12:22
Откуда: Москва
Рейтинг пользователя: 418
15 мая 2024, 23:24. Редактировалось 1 раз, последний — 16 мая 2024, 00:06#6
Keynol написал(а):
А при чем тут уход от ответственности?
Это главная причина. Корпорации, как известно, не просто не любят нести наказание за косяки - гарантийное обслуживание, нести издержки в судах и пр. Причем не важно, что это за бизнес - авиакомпания или магазин.
С другой стороны, в мире open source software вообще отсутствие ответственности прописано явно почти во всех лицензиях, но это не мешает свободному ПО существовать и развиваться. Просто те, кто является его сторонниками, обычно понимают, что, как замечательно сформулировал один мой друг, «открытый софт — это всегда борьба». В смысле готовность к самостоятельной борьбе с багами и недоработками один на один, без помощи от техподдержки или кого-либо ещё. Думаю, так же будет и с результатами ИИ — человечество разделится на тех, кто готов переплачивать за гарантию результатов человеком и тех, кто умный, но бедный, которые будут брать на себя риски использования результатов ИИ (или выполнять перепроверку самостоятельно). Ну и опять же, ещё многое будет зависеть от цены ошибки.
Anush написал(а):
В чем то нейросеть поможет упрощать работу, но никогда не заменит настоящем творцам, будет это художники, музыканты или программисты
Полностью согласен! Точнее, с одной оговоркой: творцов нейросеть не заменит, а вот ремесленников среднего уровня и ниже — вполне себе может.
15 мая 2024, 23:28. Редактировалось 1 раз, последний — 15 мая 2024, 23:28#7
ИИ это Фотошоп нового поколения? :-)
Думаю, так же будет и с результатами ИИ — человечество разделится на тех, кто готов переплачивать за гарантию результатов человеком и тех, кто умный, но бедный, которые будут брать на себя риски использования результатов ИИ (или выполнять перепроверку самостоятельно). Ну и опять же, ещё многое будет зависеть от цены ошибки.
Гениально сказано.
Скорее всего будет именно разделение. Как со сборщиками компов - кто-то сам собирает, кто-то обращается к мастерам (приносит комплектующие или они заказывают ему под ТЗ), а кто-то покупает готовый.
Anush
Всего сообщений: 142
Зарегистрирован: 21 окт 2019, 19:02
Рейтинг пользователя: 68
Почетный участник
![](/forum/f/av/1296.jpg)
Зарегистрирован: 21 окт 2019, 19:02
Рейтинг пользователя: 68
17 мая 2024, 15:01. Редактировалось 1 раз, последний — 17 мая 2024, 15:09#8
4X_Pro написал(а):
Полностью согласен! Точнее, с одной оговоркой: творцов нейросеть не заменит, а вот ремесленников среднего уровня и ниже — вполне себе может.
Да, у ИИ в целом нет ни фантазии, ни креативности, ни чувство юмора, поэтому это подойдет тем, у кого тоже их нет
![](/forum/sm/grin.png)
Например, на днях у меня была задание, где нужно было ввести в текстовое поле 5000 строк с email-ами, с fill это не сработало, поскольку каждый раз удалились прошлые записи, а с type было слишком медленно. Мне было лень это делать и я спросила у Chat gpt. Ответ просто убил: "Если ты хочешь, что бы это работало быстро, не добавляй 5000 email, добавь 100 или 200".
В итоге я сама разобралась и скинула ему готовый код, типа смотри и учись
![](/forum/sm/grin.png)
Страницы:
Распечатать
- 1
- 2
У вас нет прав для отправки сообщений в эту тему.