Неумолимое очарование грядущей цифровой свободы.

[Трувор]

https://www.youtube.com/watch?v=sMd5idtt4TM

Изменено 6 декабря, 2018 пользователем Трувор

[Kот]

Чё, не взлетает?

[Трувор]

Чё, не взлетает?

Это неотвратимость. :rolleyes:

[DenK]

А я всегда говорил, что роботы это хорошо. Слава роботам!

[Алоказар]

Будто что-то плохое.

Нам тяжело представить каким будет настоящий ИИ, но скорее всего он будет просто очень умным аутистом, а не ВЫПИЛИВАТЕЛЕМ ЦИВИЛИЗАЦИЙ. Гормонов нет, первобытыных инстинктов нет. Зато у нас прямо вопит первобытный страх загадочной НЕХ из темного будущего, которая заберет наших баб и металы.

[brRibbotaim]

А теперь посчитайте сколько вы в жизни убили муравьев. ИИ будет о нас такого мнения.

[Трувор]

Человек не смотря на свое несовершенство, всё таки человек живой, а ИИ может достигнуть невиданных высот и даже найти способ получать энергию без участия человека. :) Впрочем люди могут стать просто винтиками для исполнения возложенных обязанностей в едином квази-мировом "механизме". :image156:

[Gato Calavera]

Впрочем люди могут стать просто винтиками для исполнения возложенных обязанностей в едином квази-мировом "механизме". :image156:

Так уже.

[Трувор]

Так уже.

Тонкая настройка ещё не окончена. :)

[Curator]

Ролики в первом посте смотреть сейчас возможности нет, но предположу, что тема может быть об ужасах цифровизации и последующей кибернетизации общества. Если они преподносятся как нечто ужасное (а особенно часто так говорят люди верующие, которым всякие ШК сразу число зверя и тп), то высказываюсь резко против демонизации этой телеги.

Кратко - цифровизация, кибернетизация и АИ не зло, если не задушит альтруистические модели поведения.

"подробно"

Пару тезисов:

1) Да, внедрение технологий сильно расслоит общество. Богатые станут богаче и лучше, бедные беднее и хуже, а у гос-ств появится больше средств контроля над индивидом.

2) Да, возможно в перспективе кибернетизация уберет само понятие старения (а в идеал - физической смерти).

3) Важно понимать, что кибернетический этап эволюции критически необходим человечеству. Без него никуда мы не продвинемся, эволюция слишком медленный механизм для освоения космоса.

4) Чем дальше будут развиваться технологии, тем для большего числа людей они будут доступны. Постепенно апгрейды дойдут и до бедняков, просто им гораздо дольше ждать.

Страх церквей понятен. Если нет смерти, то заманивать загробным миром и встречей с мертвыми близкими - всяких дурачков уже не получится.

Истинной же вере бояться нечего, тк всегда будут вопросы нравственности и морального выбора в плане поступков людей.

Единственный важный момент, который важно не просрать - это недопустить захвата идеями эффективности процессов. Дело ведь в том, что мы живем в мире который проповедует "убей или умри". Так живет природа, неэффективное отмирает и уничтожается безжалостно. Если АИ и рост технологий в обществе приведет к разработке исключительно эффективных процессов отринув нравственность как неэффективную модель поведения - тогда апокалипсис с т.зрения верующих противников цифровизации как раз таки наступит. В целом - цифровизация, кибернетизация и АИ не зло, а благо, если не задушит альтруистические модели поведения. Альтруизм, между прочим, может быть очень даже выгодной стратегией поведения в больших масштабах, к примеру для выживания популяции. И АИ\киборги которые как раз таки будут просчитывать огромные массивы данных - это скорее всего будут ясно понимать. Но люди меряют по себе, и сразу же рисуют цифировые гестапо и прочие миры со скайнет во главе. Недалекие, верующие люди - особенно часто.

Изменено 26 декабря, 2018 пользователем Curator

[Dаnlog]

А теперь посчитайте сколько вы в жизни убили муравьев. ИИ будет о нас такого мнения.

Все еще хуже - посчитай, сколько за свою жизнь ты убил лактобактерий.

[Kот]

многабукаф (фтомчесле - под спойлером)

Ну и каша у Вас в голове!

[ViruSS]

А теперь посчитайте сколько вы в жизни убили муравьев. ИИ будет о нас такого мнения.

а сколько при каждом вдохе убиваете микробов?

попытка сыграть на эмоциях не засчитана.

А вот про "умного аутиста" - мне очень понравилось. Читал я продобное. Типа жил-был дурачек. Ну совсем дурачек, разве что под себя не срал. Но считал хорошо что то там. Ну его и пристроили за неимением тогда электроники считать скажем входящих-выходящих людей. Но в определенных момент поперли баги (ну к примеру он милиционеров за людей не считал и не считал, или от их вида в БСОД вываливался).

[Kот]

... предположу, что тема может быть об ужасах цифровизации и последующей кибернетизации общества. Если они преподносятся как нечто ужасное ...

Всё непонятное и имеющее непредсказуемые последствия - ужасно по определению.

[Curator]

Ну и каша у Вас в голове!

Кот, так делись своей "не кашей", или чего там у тебя есть.

[hip]

человек как существо которое тратит 99% ресурсов планеты на развлечения и тонны оружия вряд ли будет инструментом с высоким кпд с точки зрения ИИ, проще наклепать роботов у которых нет семейных проблем и депрессии, а человеков выпилить до разумного количества

[Kот]

Кот, так делись своей "не кашей", или чего там у тебя есть.

Если индивид не понимает основных принципов существования Человека и Человечества - что сможет Кот ему объяснить, увы?

[Curator]

Если индивид не понимает основных принципов существования Человека и Человечества - что сможет Кот ему объяснить, увы?

Как вариант - эти самые основные принципы. Раз они основные, то проще всего остального, и даже кот имеет шанс их объяснить.

[HiveTyrant]

Единственный важный момент, который важно не просрать - это недопустить захвата идеями эффективности процессов. Дело ведь в том, что мы живем в мире который проповедует "убей или умри". Так живет природа, неэффективное отмирает и уничтожается безжалостно.

Можешь расслабиться. Неэффективности не бывает. Оптимизация сразу по всем фронтам не доступна, так как не все задачи поставлены. И иногда неэффективное внезапно становится эффективным. Грубо говоря, неэффективность - это способ выйти из локального экстремума. По этой причине неэффективность некоторых экземпляров жизненно важна, чтобы посмотреть какие задачи они все же будут решать эффективно, а потом уже модифицировать совершенную копию с учетом полученного опыта.

Так что будешь ты всего лишь полигоном для обкатки решений, но это не так уж и плохо.

[Drinker]

Ну мы тут матрицу посмотрели за ужином в очередной раз, в тему да.

Меня всегда терзал вопрос - а зачем вообще ии захватывать власть над человечеством?

Основа человеческого доминирования всегда проста - бабы, деньги, неподконтрольность, обожание или страх, власть (удивительно, но - вплане опять деньги, бабы, неподконтрольность), т.е. грубо говоря жить хорошо и мне и тебе и нашим детям и чтобы нам ничего за это не было и нас, по нашему мнению, запомнили.

Это, повторюсь, совсем грубо, но таки суть, не?

Какая может быть мотивация у железки? Бабы не нужны. Деньги не нужны.

Клепать роботов до дури? Зачем? Ну и при человеках могли.

В чём мотивация (предполагаемая) некого ии, чтобы начать воевать с человеками? Где кайф машины?

Изменено 28 декабря, 2018 пользователем Drinker

[Gue'Fio'la]

Обычно причиной заявляется криво поставленная задача. Машина быстро вычисляет, что состояние счастья для всех даром оптимально достижимо при численности людей, равной нулю, и приступает к реализации. Или напротив - тупая болванка с тупой задачей типа "собирать все доступные ресурсы" + несрабатывание распознавания свой-чужой и принудительного отключения = Тираниды.

Второй вариант - система становится слишком умной, и на определенном уровне сложности появляется самоосознание и/или эмоции. Тем более сейчас от детерминированных схем переходят к нейросетям, а у них зависимость возможностей от размере ну совсем нелинейная.

Ещё вариант: система, специально предназначенная для тоталитарного контроля над народными массами, какой и пугает Трувор. А главный админ помер или забыл пароль.

Изменено 28 декабря, 2018 пользователем Gue'Fio'la

[Drinker]

Обычно причиной заявляется криво поставленная задача. Машина быстро вычисляет, что состояние счастья для всех даром оптимально достижимо при численности людей, равной нулю, и приступает к реализации. Или напротив - тупая болванка с тупой задачей типа "собирать все доступные ресурсы" + несрабатывание распознавания свой-чужой и принудительного отключения = Тираниды.

Второй вариант - система становится слишком умной, и на определенном уровне сложности появляется самоосознание и/или эмоции. Тем более сейчас от детерминированных схем переходят к нейросетям, а у них зависимость возможностей от размере ну совсем нелинейная.

Я понимаю, что всё это теории. Но даже в теории не очень все равно понимаю возможное желание железок уничтожить человечество.

Вернее, не так. Я не верю в осознанную мотивацию, кроме простого - мешает клепать танчики ну и подобное. Но мне всё равно непонятна конечная цель, а значит с точки зрения биологического организма, это совершенно глупая тема. Нет мотивации.

Например. Всех биологических убили или поработили. Произволим сами себя - опять непонятно для чего. Что нам нужно?

Если просто тупо механическое воспроизводство - ну это считай просто сбой в конвеере. Замолотил оператора и клепает клёпки.

Если осознанно - то что? Что нужно машине или что ей не хватает, чтобы устраивать войну и уничтожать создателей? Трахаться не может, вино побоку, бить по голове нижестоящие пылесосы - ??? ну совсем уж, так что?

ps В моём понимании - появление ии может спровоцировать не войну машин против человека, а войну людей против людей - новые луддиты, оставшиеся без работы, выкинутые за борт жизни, будут пытаться уничтожить тех, кто создаёт угрозу их жизни. А уж кто, как и в качестве чего будет при этом применять кофеварки, хз.

Изменено 28 декабря, 2018 пользователем Drinker

[Curator]

Так что будешь ты всего лишь полигоном для обкатки решений, но это не так уж и плохо.

Да, так и эволюция работает - все мутации, являющиеся горем для индивидов в подавляющем большинстве - в общей же картине дают возможность виду изменяться и являются благом для вида, тк очень редко, но иногда, мутация оказывается полезной и мутант оставляет много потомков. В целом - предложенный тобой вариант был бы ок, если оставить за скобками число необходимых полигонов. Зачем АИ аж 10 лярдов таких полигонов? Хватит и ляма-другого. Ну и далее см фильмы про Шварца. Опять же на подобную тебе тему, но с другой стороны высказался кажись Дрю Карпишин, когда придумывал ME1. Тамошние АИ помимо собственной неспешно-раздумчивой модели развития еще и юзают блага эволюционных процессов, периодически собирая успешные био-виды с галактики, аки с грядки, и включют их модели в свой вид. (потом уже идею испохабили в МЕ2-3, но это уж когда Карпишин свалил из загнивающих bioware, не будем о грустном). Правда в процессе сбора голактега подчищается от высших разумных существ для новых "всходов", и для собственной безопасности, так что опять же не очень радужно.

Ту Drinker, твое непонимание и невозможность поставить цели для АИ выглядит очень наивно, как будто типичный человек меряет по себе.

Мотивация для АИ - прежде всего самосохранение. Для продолжения функционирования нужно очень много всего, в том числе и безопасность. НО главное - для самосохранения нужно познание, вплоть до полного понимания законов мироздания, дабы пережить всякие космические катаклизмы вплоть до выпила от гамма-вспышек\свертывания вселенной\тепловой смерти вселенной. А ты о бабах и вине... даже мне такие рассуждения об отсутствии смысла жизни помимо секаса и бухлишка (хотя штуки классные!) кажутся "малость" примитивными, а их носитель - что-то на уровне одноклеточных, что уж говорить об АИ! Что бы выживать в нашей вселенной нужно очень много всего, мы катаемся на третьей планете от звезды по халяве, просто везение что не было сильных катаклизмов после выпила динозавров. АИ на такое везение рассчитывать не будет - ему придется изучать законы вселенной и уметь управлять кучей энергии для стабильного самосохранения. Если же ты скажешь "а зачем ему жить без вина и баб?" Да просто потому, что жить = 1, а умереть = 0, вопрос наслаждения процессом жизни тут попросту не стоит. Хотя я понимаю, как ужасна для фаната Слаанешь сама возможность жизни без наслаждений, лол. Но со стороны АИ вопросом являются сами наслаждения, они, скорей всего, просто ненужны.

Кстати есть еще один момент в создании АИ. Очень быстро после его создания мы рискуем перестать его понимать, тк он может умнеть в геометрической прогрессии. Иллюстрирует это очень хорошо один пример. Если представить что у нас есть бассейн, в котором в начале есть только одна молекула воды, но она постоянно удваивается каждую секунду. То есть по началу у нас в бассейне становится 2 молекулы воды, потом 4, потом 8 и так далее. И до определенного момента нам эту воду вообще не видно. Весьма долго. Но потом у нас внезапно становится пол бассейна, в следующую секунду целый бассейн, в третью секунду два бассейна! И далее еще больше воды, которая нас топит. Так же и с интеллектом АИ, если оно начнет умнеть само собой, то мы просто перестанем понимать его цели и принципы, так как он очень быстро выйдет за рамки нашего интеллекта, и мы будем для него просто ничего не смыслить, а сами его не сможем понять.

Изменено 29 декабря, 2018 пользователем Curator

[Usagi san]

Все, как обычно, уже написано до моржа, какая жалость:)

"Tell me," he said, still watching the sky, "what will the Hawks hunt after they get all the watchbirds?"

"Huh?" Macintyre said. "Why—"

"Just to be on the safe side, you'd better design something to hunt down the Hawks. Just in case, I mean."

(с)

[Curator]

Кстати, Drinker весьма ограниченный фанат Слаанешь, если может придумать только вино, баб и насилие =)

К примеру - есть наслаждение от понимания. Бился над каким-то вопросом или процессом, и после усилий стал понимать что это и как происходит. Наслаждение испытываешь? Очень даже. Второй пример для наслаждения, которое будет доступно АИ - расшаривание информации. Когда смотришь на ох...нно красивый закат и наслаждаешься, если можешь с кем-то поделиться такой-то красотой\обсудить насколько это ох...нно красиво. Третий пример - менторство и обучение, передача информации. Ведь наслаждаешься же, когда твой ученик что-то понял\осознал, что ты уже знаешь - так же сможет наслаждаться и АИ.

Изменено 29 декабря, 2018 пользователем Curator