Нейросети, ИИ и уход от ответственности

Нашел на просторах  мысль в статье про проблему окупаемости ChatGPT, которую процитирую:

Поделюсь своими соображениями со стратегической  т.з.
- Это одна из проблем умников  и в людском обществе. Соображают-то они хорошо, а разбираться в ценности источника и исходных данных - это совсем другой навык, и часто он бывает тем хуже, чем больше упор идет на логику и соображение.
Это я не сказал про фильтрацию
Критично даже не то, что б НЕ пропустить ложь, или ошибку, а НЕ выкинуть правду, если она не вписывается в привычный шаблон, логический критерий правдивости . Этим страдают особенно пожилые и молодые люди, хотя и по разным причинам.
Первые экономят энергию мозга, вторые - страдают гордыней "умников".

А при чем тут уход от ответственности?
Это главная причина.  Корпорации, как известно, не просто не любят нести наказание за косяки - гарантийное обслуживание, нести издержки в судах и пр. Причем не важно, что это за бизнес - авиакомпания или магазин.
В восходе ИИ и нейросетях фирмачи увидели милую возможность сказать "а у нас лапки" и "слиться" в большей степени, чем раньше. А это критично!

Если предельно упрощать, то суть - в таком примере.
Ваш автомобиль, которым управляет нейросеть или ИИ, врезается на полном ходу  (и такие случаи есть)  в столб.
Или генерируется опасный для здоровья рецепт, или выписывается лекарство и т.д. и т.п.
И на  выходе - травмы, проблемы со здоровьем и пр.
Теперь фирмы могут  И ХОТЯТ ИМЕТЬ ВОЗМОЖНОСТЬ сказать - это не мы, это ИИ/Нейросеть - в пользовательском соглашении прописаны риски (может даже мелким шрифтом - НО КУДА ВЫ, КАК КЛИЕНТ, ДЕНЕТЕСЬ?), ваш иск не возьмут (или мы отмахаемся - зарядить адвокатов  дешевле!).

Вы остаетесь со своей бедой наедине и никто (НЕ МЫ, компании - точно) не виноват.
Никакой социальной ответственности и чистая прибыль за услуги/продукты.
Циничный оскал капитализма.

С другой стороны, я уверен, что у них, корпораций ничего не получится.
В 20м веке было всё куда хуже - капитализм был готов превратить население мира в рабов и всё к этому шло. И противодействие, возникло в виде СССР, что вынудило капитализм трансформироваться в социальную сторону - 8 часовой рабочий день, права женщинам и пр.

С  Нейросетями будет тоже самое - эта сладкая безответственность - просто морковка, что б скриптовые технологии, которыми и являются нейросети/ИИ, которые станут инфраструктурными элементами (как канализация и дороги) нового общества, развивались.

Только если с Интернетов вкладывались госбюджет, в лице Пентагона в 70-х, то сейчас эту почетную обязанность скинули на частников. А те и рады.
Красота!
Но шишек все набьют до приведения всего этого в божеский вид (с юристикой и пр.) очень много.

Пока все смотрят в сторону ИИ, которое по сути - дополнительная виртуализация жизни, и так доведенная до абсурда, полезно было б заниматься совсем другими вещами - педагогическими методиками того же Антона Макаренко, который помогал даже трудным подросткам налаживать жизнь, повышать ценность каждого уникального человека, помогал быть счастливым.

Людей не просто  меньше рождается. Капитализм исходит из концепции -"Уволен"! То есть, из наличия не только  бесконечных рынков (покупателей) и экспансии (это краеугольный камень), но и из концепции бесконечного же рабочего, человеческого ресурса. НУЖНОЙ квалификации.
Поэтому, сперва начали рушить деревни, сгоняя "двуногий скот" в города, убеждая менять независимый дом на квартирку в  человейнике, а потом пылесося мозги и мигрантов со всего мира. (Грин Карта - не от доброты появилась)
Люди вымирают, и их качество из-за разрушения института и семьи и традиционных ценностей, неумолимо падает.

В итоге, всё идет к тому, что НЕ будет бесконечных рабочих рук и главной ценностью станет сам человек. Поэтому капитализм и умрет. Мавр сделал своё дело.
Уже сейчас проблема не в недостатке информации, а в ее избытке.
Фильтрация помогает слабо.
ИИ лишь усугубляет проблему  - смартфоны, тикток и пр. УЖЕ давно воспитывает клиповое мышление, а проблема фейков - это лишь одна из наиболее заметных...
Тем не менее, всё начинает потихоньку поворачиваться к человеку. Старая экономическая модель себя изжила, и новые реалии, более правильные, справедливые, гуманистические, уже возникают то тут, то там.
Меняются люди в лучшую сторону, а что конкретно будет - вопрос второй.
Пережили феномен детей Индиго, а значит и дальше будет всё лучше и лучше.
Это неизбежно.
Котики подстрахуют, если что.

p.s.
Кстати, некоторые говорят, что мол это всё как с доткомами 90х рухнет.
Сомневаюсь.
Пузырь-то есть, но ИИ слишком удобный инструмент управления. Частники разовьют технологии, а потом их отожмут гос. службы. Выборы никто не отменял. Наоборот. Когда нейросетку засунут в образование - тогда граждане сами оплатят и новое оболванивание детей и всё прочее. Теперь со вкусом клубники.

Хорошая тема. Недавно одна знакомая хотела доказать мне, якобы нейросеть от Майкрософт генерирует, создаёт уникальные изображение а я знаю, как работают алгоритмы и могу точно сказать что она ничего не создаёт, просто собирает изображения.
В чем то нейросеть поможет упрощать работу, но никогда не заменит настоящем творцам, будет это художники, музыканты или программисты

О том и речь.
Нейросеть - лишь набор скриптов и алгоритмов, вроде инструменты в фотошопе.
Для настоящей, т.е. живой работы нужен контакт с высшими, духовными сферами, нужна божественная энергия, гениальность, которая входит в человека и он ее передают в своё творение.

Нужна воля, эго, я, характер. Такой или этакий.

ИИ это просто игровой НПС в игре, КАК запрограммируешь, так и будет, чем бы он не оперировал.

Keynol, да, согласна с вами . Однажды один мой друг сказал интересную фразу, которую я до сих пор часто вспоминаю. Он говорил что интернет это как огромный мусорный бак, в котором есть все, что угодно.
Но каждый берет оттуда то, что ему хочется и так сформулирует свое мнение. Кто то скажет, что интернет даёт массу возможностей для саморазвития, а кто то другой скажет что в интернете одни извращенцы сидят.
Так же и нейросети: как мы их будем использовать, тем и они станут

Очень неудачное сравнение, ну что ж...  не всем видеть в луже  звезды, некоторые видят в ней,  в первую очередь, грязь.

С другой стороны, в мире open source software вообще отсутствие ответственности прописано явно почти во всех лицензиях, но это не мешает свободному ПО существовать и развиваться. Просто те, кто является его сторонниками, обычно понимают, что, как замечательно сформулировал  один мой друг, «открытый софт — это всегда борьба». В смысле готовность к самостоятельной борьбе с багами и недоработками один на один, без помощи от техподдержки или кого-либо ещё. Думаю, так же будет и с результатами ИИ — человечество разделится на тех, кто готов переплачивать за гарантию результатов человеком и тех, кто умный, но бедный, которые будут брать на себя риски использования результатов ИИ (или выполнять перепроверку самостоятельно). Ну и опять же, ещё многое будет зависеть от цены ошибки.


Полностью согласен! Точнее, с одной оговоркой: творцов нейросеть не заменит, а вот ремесленников среднего уровня и ниже — вполне себе может.

ИИ это Фотошоп нового поколения? :-)


Гениально сказано.
Скорее всего будет именно разделение. Как со сборщиками компов - кто-то сам собирает, кто-то обращается к мастерам (приносит комплектующие или они заказывают ему под ТЗ), а кто-то покупает готовый.

Да, у ИИ в целом нет ни фантазии, ни креативности, ни чувство юмора, поэтому это подойдет тем, у кого тоже их нет
Например, на днях у меня была задание, где нужно было ввести в текстовое поле 5000 строк с email-ами, с fill это не сработало, поскольку каждый раз удалились прошлые записи, а с type было слишком медленно. Мне было лень это делать и я спросила у Chat gpt. Ответ просто убил: "Если ты хочешь, что бы это работало быстро, не добавляй 5000 email, добавь 100 или  200".
В итоге я сама разобралась и скинула ему готовый код, типа смотри и учись

Anush,

LOL! Только по-моему, ChatGPT в реальном времени не учится. Хотя, с другой стороны, может твои ответы учтут в следующей его версии.