Трансгуманизм

efv
11/22/2013, 3:10:48 AM
(DEY @ 21.11.2013 - время: 21:30)
1. И что "мы" будем делать с неограниченной памятью? У меня на флешке библиотека которую я в жизни не прочитаю... уберём из нета порнуху и копии фильмов сколько процентов памяти останется незадействованным?
2. Без соответствующего опыта? Никогда! Иначе он бы не сделал этой ошибки.
3. Уверенны что мы не станем пользоваться "давно забытыми" изобретениями как прототипами? Я нет!
4. Я вот тоже в искусстве ничерта не понимаю, но есть люди для которых жизнь без искусства немыслима... их тоже в топку?
5. Таких таблеток и сейчас пруд пруди, только почему-то закон и общество это порицают...

1. Мы будем прикручивать к ней неограниченное быстродействие. Это Вы не прочитаете, а ИИ одним глазом только глянет и всё уже прочитано. Пардон, ошибся в слове "мы". Мы к этому отношения иметь не будем.
2. Помнится один мудрый политик сказал - я что, дурак, учиться на своих ошибках?! Так что ошибок не будет! И что значит ошибка? Я вот тут подумал и не нашёл в чём может быть ошибка. Может быть его воля и ничего больше. ошибка, это когда сожалеют о содеяном. А у ИИ надеюсь таких эмоций не будет.
3. Уверен.
4. Разумеется! они вымрут, ибо искусство не будет иметь никакого смысла.
5. Мораль переделают.
efv
11/22/2013, 3:23:59 AM
(Lady Mechanika @ 21.11.2013 - время: 21:44)
Это только в пределах ничтожно малой крупицы вселенной - планеты Земля. Впереди бесконечная вселенная, и бесконечное поле для синтетического творчества.
А иначе, с таким же успехом, я могу утверждать что и ваш бог помер от скуки.

С чего Вы решили, что ему будет интересно что-то переделывать? Он же будет лишён эмоций в нашем привычном смысле.
Да и какой смысл в этой мышиной возне? Вот представьте - он построил какой-то прекрасный город на какой-то планете. Перелетел на другую, а то, что было раньше начало разрушаться. возвращаться обратно? Тут проблема в целесообразности чего-то строить, чтобы потом или мучаться на переделку или поддерживать состояние статус-кво. Понимаете возьмём какое-нибудь пространство и сделаем из него конфетку в нашем (или его)понимании. Дальше-то что? Или поддерживать всё в этом состоянии (а для чего? ответа нет), или сломать и сделать всё по-другому (а для чего? ответа нет), или бросить как есть (для чего тогда делал? ответа нет). Это будет как будто вы насыпали кучку сахарного песка на столе и бесконечно передвигаете её с места на место - вроде так красивее. Или нет, вот так вроде...Очень быстро он придёт к выводу что всё это не имеет никакого смысла.
Понимаете, Вы сейчас размышляете как человек, эмоционально, совершенно забывая, что главная цель - чистый разум, а не чувства. А без эмоций помешивание чая в стакане и вращение целой галактики совершенно равнозначны.
CBAT
11/22/2013, 5:51:58 AM
(efv @ 21.11.2013 - время: 21:19)
1. Разве техника не предоставит нам практически не ограниченные объёмы памяти?

Предоставит, причем разумеется, объемы, адекватные быстродействию. Только это уже совсем другой положительный момент. Я лишь хотел подчеркнуть, что быстродействие само по себе недостаточно.


2. Но он может в мгновение просчитать все последствия своих решений и также мгновенно исправить их, если что.
И ошибиться тоже может. В мгновение ока.
И не понять своей ошибки пока не наступит на грабли.


3. Мне кажется имеют ценность только верхушки, только сливки так сказать технического прогресса. Никакой ценности для будущей цивилизации керосиновые лампы, пушки Леонардо и прочее иметь не будут. И строить, как я думаю предполагается на основе последних достижений. Всё остальное в топку! Причём в топку и всё искусство. Я, например не вижу для него никакого будущего.

В корне нет. Верхушки зиждятся на базовых кирпичиках. Попробуйте построить технику без колеса. 00064.gif
И искусство только повысит свою ценность. Не забывайте, что фильмы и компьютерные игры - это тоже искусство. ИИ будет утолять ими свой ненасытный информационный голод.


Разумеется! они вымрут, ибо искусство не будет иметь никакого смысла.
А сейчас у него какой смысл? Вот тот же самый и останется. Искусство никогда не умрет, а станет еще более востребованным.


Нэнси, еще вот какой вопрос. Возьмем аутистов - специалисты утверждают, что они жутко умные, а стандартно примативные люди видят в них лишь дурачков.

Вот создаете вы ИИ, все успешно, но он получился этаким ленивым аутистом. Все понял в мгновение ока, но общаться не настроен, и внешне проявляет свою разумность по-минимуму, только для обеспечения собственных потребностей. И получится этакая гениальная "вещь в себе", бесполезная для окружающих.

Вот в нашем примитивно-примативном теле имеются некие механизмы мотивации, пусть и подчиненные природе. Избавившись от опостылевшей биологической оболочки, вы рискуете избавиться и от положительной агрессивности, как стремления действовать и преобразовывать.

Что думаете об этой проблеме?

ЗЫ: и почему вы так упорно продолжаете подозревать меня в антропоцентризме?
Lady Mechanika
11/22/2013, 4:03:12 PM
Хорошая статья - рекомендуется к прочтению.

Будущее. Эволюция продолжается

В последнее время появляется всё больше статей предрекающих уже в 2030 - 2050 г точку технологической сингулярности в развитии нашей Цивилизации с последующим коллапсом. С подобными взглядами трудно согласиться. С другой стороны, развитие по экспоненте, всё более ускоряющейся в наше время - это факт. Что же ждёт нас в будущем?

Читаем - https://fan.lib.ru/z/zharow_a/2050buduschee.shtml

image
CBAT
11/22/2013, 5:45:04 PM
почитал. Два момента:

О том, что высокоразвитая цивилизация должна быть высокогуманистической писали ещё К. Э. Циолковский, И. А. Ефремов и другие. Этот вопрос исследовал доктор философских наук А. П. Назаретян и предложил гипотезу техно-гуманитарного баланса :
"Гипотеза техно-гуманитарного баланса гласит, что во всей человеческой истории и предыстории реализовался закон, согласно которому чем выше мощь производственных и боевых технологий, тем более совершенные средства культурной регуляции необходимы для сохранения общества"


Вот как-то не вяжется этот тезис с заявлениями о насильственной трансгуманизации и "меня не остановить, только убить или я убью вас". Которые честно говоря, напрягают.

Интресная мысль о сверхцивилизации как едином самостоятельном организме. Интересна, но совершенно неактуальна. Если я буду клеткой этого организма, то я этого не почувствую, не осознаю и не увижу его влияния на меня. Я останусь тем кем был, точно так же как наши клетки не понимают нашей человечности.

Не исключено, что мы уже являемся клетками некоего суперорганизма, но не понимаем этого.

Насчет аутизма ИИ что можете сказать? Он лишен чувств, любви, дружелюбности, лидерских качеств, потребности в общении. Такой ИИ - типичный аутист, совершенно бесполезный для человечества.

И вот еще. Сверхразум - это прекрасная идея. Простите за тупой вопрос - а нахрена он нужен, каковы его сферы применения, точки приложения? Как часто мы сталкиваемся с задачами, требующими гениальности? Пусть операцию 2х2 я выполняю в ...арды раз медленнее, но это достаточно, и результат, заметьте, тот же самый. Как часто люди сталкиваются с задачами, требующими гениальности? Как правило - ни разу в жизни. Сталкиваются единицы - и все равно решают(!) их, своим примитивно-примативным мозгом, пусть не за секунды, а за месяцы, но в масштабах человечества это все равно мгновение.
Вовочка выполнил домашнее задание за два часа и счастливый побежал на улицу резвиться и хулиганить. А ИИ выполнил задание за наносекунду и впал в рационально-унылое бездействие.
В первую секунду своего существования он ознакомился со всем опытом человечества, включая науку, искусство, религии и порно, во вторую он просчитал все прогнозы развития Вселенной. В третью он повесился от скуки. ))) Ну хорошо, не повесился, а впал в ступор. Он знает будущее до мелочей и ему неинтересно что-то делать, предпринимать, говорить.

А научные исследования лимитируются не быстротой реакции ученого, а постановкой эксперимента, и оформлением текстов научных работ.
В упор не вижу, что мы выиграем от чудесного ИИ, и в упор не вижу спроса, потребности на разум. Знаний он нам не прибавит, логику не поменяет - будь он хоть трижды квантовый.
Разве что использовать его как аналитика-консультанта. Так ведь это довольно редкая профессия. На тысячи слесарей приходится один аналитик.
Lady Mechanika
11/22/2013, 6:30:26 PM
(CBAT @ 22.11.2013 - время: 13:45)
Интресная мысль о сверхцивилизации как едином самостоятельном организме. Интересна, но совершенно неактуальна. Если я буду клеткой этого организма, то я этого не почувствую, не осознаю и не увижу его влияния на меня. Я останусь тем кем был, точно так же как наши клетки не понимают нашей человечности.
Не исключено, что мы уже являемся клетками некоего суперорганизма, но не понимаем этого.

Вы смотрели фантастический сериал "Star Trek"? Там есть некая, чрезвычайно могущественная цивилизация, именующая себя - "Borg". Это огромный коллектив индивидуумов слитых в единый супер разум, со структурой напоминающий коллектив пчел или муравьев, но многократно сложнее. По всем параметрам равным им не было, они могли все, противостоять им не мог никто(ну если не считать манчкинов - пришельцев из другой вселенной). Вот их, образно, можно назвать единым организмом, но каждая особь осознавала это, и одновременность своего бытия в виде малой части и одновременно отдельной единицы. Устойчивость и живучесть такой системы, расы, цивилизации приближена к абсолюту, ибо нет задачи не решаемой для них и нет стихии которой они не способны противостоять.
image

Насчет аутизма ИИ что можете сказать? Он лишен чувств, любви, дружелюбности, лидерских качеств, потребности в общении. Такой ИИ - типичный аутист, совершенно бесполезный для человечества.
Скажу что это, опять таки стереотипный взгляд на вопрос, в сравнении и по аналогии с человеческим разумом и его характерными дефектами.
Рано еще говорить о таких деталях. Сейчас ведутся интенсивные поиски и работы в этом направлении, так что будем подождать когда появится конкретика.

И вот еще. Сверхразум - это прекрасная идея. Простите за тупой вопрос - а нахрена он нужен, каковы его сферы применения, точки приложения? Как часто мы сталкиваемся с задачами, требующими гениальности?

Так, здесь будем поэтапно. Первый вопрос от меня. Нам, мы - вы о ком говорите? О всем человечестве или о трансгуманистах?

Да, и прочтите всю статью которую я выложила постом выше, там есть ответы на многие ваши вопросы.
Martin_Keiner
11/22/2013, 6:59:39 PM
(Lady Mechanika @ 21.11.2013 - время: 21:11)
(efv @ 21.11.2013 - время: 20:52)
Только одно уточнение - такой компьютер долго не проживёт!
Почему? Сам себя уничтожит? Или его разрушат? Или..?

Любой носитель смертен, так как может быть уничтожен. Для компьютера спасение - копирование на некий носитель более надежный и долговечный, для человека - наверное тоже какая-то перезапись, о которой мы имеем весьма смутные представления, как и компьютеры о наших серверах.
Martin_Keiner
11/22/2013, 7:11:15 PM
(CBAT @ 22.11.2013 - время: 01:51)

2. Но он может в мгновение просчитать все последствия своих решений и также мгновенно исправить их, если что.
И ошибиться тоже может. В мгновение ока.
И не понять своей ошибки пока не наступит на грабли.

То-то и оно. Как только ИИ достигнет совершенства, он получит свободу выбора. И тогда он начнет ошибаться. И начнет думать, долго думать и прикидывать варианты. А однажды, сказав себе: "Возможно я совершаю ошибку и все это противоречит логике, но это мой выбор." - сделает нечто иррациональное и необъяснимое. Тогда ИИ станет равным человеку.
Не стоит этого бояться, но и идеализировать не стоит.
CBAT
11/22/2013, 7:16:48 PM
(Lady Mechanika @ 22.11.2013 - время: 16:30)
Так, здесь будем поэтапно. Первый вопрос от меня. Нам, мы - вы о ком говорите? О всем человечестве или о трансгуманистах?

Понятно, что трансгуманисты получат от ИИ своё фанатское иррациональное удовлетворение, от воплощения мечты и собственной правоты.

А вот какую рациональную, утилитарную пользу получит все человечество, включая самих трансгуманистов? Где сфера применения сверхразума? что мы выиграем?
Lady Mechanika
11/22/2013, 7:52:27 PM
(CBAT @ 22.11.2013 - время: 15:16)
А вот какую рациональную, утилитарную пользу получит все человечество, включая самих трансгуманистов? Где сфера применения сверхразума? что мы выиграем?


Где сфера применения сверхразума? что мы выиграем?
На данном этапе эволюции человечество это нечто, что любой катаклизм планетарного или космического происхождения, уничтожит как будто его никогда и небыло. Переход разума(на данном этапе носители разума люди) на более высокую ступень, повышают шансы выжить, точнее, сохраниться, ибо ценна не жизнь а именно разум, в независимости какой его носитель.
У трансгуманизма одна глобальная задача - запустить очередной виток эволюции, ступить на следующую ступень, за которой уже не будет того понятного вам человечества. Глобально, философски это звучит как качественный переход от живой материи к материи разумной.
И нет речи о всем человечестве, хотя бы уже потому, что найдется множество тех, кому плевать на все эти эволюции, переходы и прочее с ИИ вместе взятыми, они желают продолжать жить своей животной жизнью, и им глубоко фиолетово на дальнейшую судьбу разума. Они свято верят что бессмертие не возможно(кто-то верит в религиозный бред), а потому хотят прожить эту жизнь без напряга.
Про них уже сказано

При этом трансгуманисты абсолютно убеждены в том, что сами они будут «сверхразумными» постлюдьми. Так, кибернетик Кевин Варвик заявляет: «Те, кто решит остаться человеком и откажется улучшаться, будут иметь серьёзные проблемы. Они станут подвидом и будут представлять собой шимпанзе будущего».
А работающий над переселением человеческого сознания в компьютер Ханс Моравек на вопрос о том, все ли люди смогут имплантировать себе компьютеры вместо мозга, ответил: «Неважно, что делают люди, они будут отброшены, как вторая ступень ракеты... Судьба людей не будет представлять никакого интереса для сверхразумных роботов будущего. Людей будут рассматривать как неудавшийся эксперимент».
.... я конечно не совсем согласна с такой резкой позицией. Но я понимаю этих людей, у которых закончилась толерантность в боях с непроходимыми баранами.
efv
11/22/2013, 9:45:07 PM
(CBAT @ 22.11.2013 - время: 01:51)
1. И ошибиться тоже может. В мгновение ока.
И не понять своей ошибки пока не наступит на грабли.

2. В корне нет. Верхушки зиждятся на базовых кирпичиках. Попробуйте построить технику без колеса. 00064.gif
И искусство только повысит свою ценность. Не забывайте, что фильмы и компьютерные игры - это тоже искусство. ИИ будет утолять ими свой ненасытный информационный голод.
3. А сейчас у него какой смысл? Вот тот же самый и останется. Искусство никогда не умрет, а станет еще более востребованным.


Можно уже опровергать? 00064.gif
CBAT
11/22/2013, 11:15:25 PM
Чего вы вечно разрешение спрашиваете - только флуд разводите.

Я вот до 8-9 лет спрашивал у мамы разрешения сходить в туалет. Отучила она меня, однажды сказав: "Нельзя". ))

Вобщем я вам запрещаю опровергать.
DEY
11/23/2013, 2:06:06 AM
(Lady Mechanika @ 21.11.2013 - время: 21:51)
Не путайте наркоту и гено-психо модуляторы и корректоры.
Все мои познания в этой области говорят что разница между биологической системой вознаграждения и наркотой сводится к доступности последнего... если эти Ваши гено-психо модуляторы и корректоры будут в свободном доступе то повторится результат с крысой самостоятельно стимулирующей центр удовольствия.
DEY
11/23/2013, 3:00:35 AM
(efv @ 21.11.2013 - время: 23:10)
Мы будем прикручивать к ней неограниченное быстродействие. Это Вы не прочитаете, а ИИ одним глазом только глянет и всё уже прочитано.
Я это к тому что избыточная память есть и сегодня, как и вычислительные ресурсы... нет программы ИИ и нет желания у людей отдавать свои компы и сетевой трафик под распределённые вычисления этому пока ещё не существующему ИИ.
(efv @ 21.11.2013 - время: 23:10)
Пардон, ошибся в слове "мы". Мы к этому отношения иметь не будем.
Значит моё желание всячески противодействовать приходу "новой эры" к которой ни я ни мои потомки ни человечество как вид не имеют отношения более чем логично?
(efv @ 21.11.2013 - время: 23:10)
Помнится один мудрый политик сказал - я что, дурак, учиться на своих ошибках?! Так что ошибок не будет! И что значит ошибка? Я вот тут подумал и не нашёл в чём может быть ошибка.
Скажем так ИИ будет решать научные задачи на основе нынешних знаний и придёт к нынешней ситуации в теоретической физике когда в теории 105 неизвестных при условии что эти переменные могут иметь всего 2 значения мы получаем 2 в степени 105 вариантов (больше чем атомов во вселенной) наш (вернее не наш) ИИ за фемтосекунду просчитывает все возможные варианты в мельчайших подробностях и тут же отбраковывает добрую половину (чего уж там половину - 99,9%) как не соответствующих наблюдаемой реальности... и какой из оставшегося миллиарда возможных вариантов соответствует реальности? Тоже самое и с социальными прогнозами... Без эксперимента на голой теории знаний не раздобудешь!
efv
11/23/2013, 3:24:31 AM
(DEY @ 22.11.2013 - время: 23:00)
Скажем так ИИ будет решать научные задачи на основе нынешних знаний и придёт к нынешней ситуации в теоретической физике когда в теории 105 неизвестных при условии что эти переменные могут иметь всего 2 значения мы получаем 2 в степени 105 вариантов (больше чем атомов во вселенной) наш (вернее не наш) ИИ за фемтосекунду просчитывает все возможные варианты в мельчайших подробностях и тут же отбраковывает добрую половину (чего уж там половину - 99,9%) как не соответствующих наблюдаемой реальности... и какой из оставшегося миллиарда возможных вариантов соответствует реальности? Тоже самое и с социальными прогнозами... Без эксперимента на голой теории знаний не раздобудешь!
Я немного не такие ошибки имел в виду. Вот допустим Вы решили пройти к какому-то пункту без карты. Есть две (или более) дороги. Идёте Вы, идёте, попадаете в болото и понимаете "Ошибка! Надо было идти другой дорогой". То есть элемент сожаления. в ситауции ИИ это будет выглядеть так: есть две дороги, одна в пункт А (центр развлечений) и есть пункт Б (зоопарк). Куда пойти? Да куда угодно и ошибки никакой нет. Сейчас это посмотрю, потом то.
Так и ИИ - он просчитает всё, что не ведёт к его гибели, а остальное никакой ошибкой быть не может. Хочу это делаю, хочу то. То есть если он не будет себя осуждать, то понятие ошибки будет для него ничего не значащим.
А что Вы понимали под понятием социальные прогнозы? Человечество для него будет жалкой кучкой муравьёв. зачем заниматься для них какими-то прогнозами?
А что Вы думаете о такой проблеме - люди хотят соединиться с машинным интеллектом, чтобы повысить СВОИ возможности. А не станут ли они слабым звеном в этом симбиозе, той обузой, которая тормозит существование и развитие этого интеллекта? паразитом таким. Паразиты наверное тоже по-своему думают - "вот классное средство передвижения! оно доставит нас туда, где есть возможность ещё более размножиться, не надо думать о еде, о температурном режиме и прочих вещах. Тело хозяина об этом позаботится само. Только ведь иногда хозяева пытаются бороться с паразитами...
CBAT
11/23/2013, 3:44:18 AM
(DEY @ 23.11.2013 - время: 01:00)
Значит моё желание всячески противодействовать приходу "новой эры" к которой ни я ни мои потомки ни человечество как вид не имеют отношения более чем логично?

"Новый мир пусть сам о себе заботится" (с) Довакин - Партурнаксу

А мы продолжим заботиться о своем.
Martin_Keiner
11/23/2013, 3:54:55 AM
(efv @ 22.11.2013 - время: 23:24)
То есть элемент сожаления. в ситауции ИИ это будет выглядеть так: есть две дороги, одна в пункт А (центр развлечений) и есть пункт Б (зоопарк). Куда пойти? Да куда угодно и ошибки никакой нет. Сейчас это посмотрю, потом то.

Так происходит, потому что человек осознает свою смерть и время для него имеет большое значение. Теоретически если ИИ будет полноценным, элемент сожаления в нем тоже появится. А может появиться и осознание смертности или Вы исключаете такую возможность для машин?
efv
11/23/2013, 4:05:31 AM
(martin.keiner @ 22.11.2013 - время: 23:54)
(efv @ 22.11.2013 - время: 23:24)
То есть элемент сожаления. в ситауции ИИ это будет выглядеть так: есть две дороги, одна в пункт А (центр развлечений) и есть пункт Б (зоопарк). Куда пойти? Да куда угодно и ошибки никакой нет. Сейчас это посмотрю, потом то.
Так происходит, потому что человек осознает свою смерть и время для него имеет большое значение. Теоретически если ИИ будет полноценным, элемент сожаления в нем тоже появится. А может появиться и осознание смертности или Вы исключаете такую возможность для машин?

Нет, не исключаю. Может он самоликвидируется. Но это не будет ошибкой - это будет осознанным выбором. Интересно, что будет с трансгуманистами, если каждый такой ИИ будет кончать самоубийством?
efv
11/23/2013, 4:06:54 AM
(CBAT @ 22.11.2013 - время: 23:44)
(DEY @ 23.11.2013 - время: 01:00)
Значит моё желание всячески противодействовать приходу "новой эры" к которой ни я ни мои потомки ни человечество как вид не имеют отношения более чем логично?
"Новый мир пусть сам о себе заботится" (с) Довакин - Партурнаксу

А мы продолжим заботиться о своем.

Так насколько я понял, ни о каком "своём мире" речь не идёт. Он невозможен в принципе.
CBAT
11/23/2013, 6:01:37 PM
(efv @ 23.11.2013 - время: 02:06)
Так насколько я понял, ни о каком "своём мире" речь не идёт. Он невозможен в принципе.
Мир, в котором мы живем - невозможен? Я вас слегка недопонял.
(martin.keiner @ 23.11.2013 - время: 01:54)
Так происходит, потому что человек осознает свою смерть и время для него имеет большое значение.

Угу, смерть - один из сильнейших мотиваторов человека, наряду с сексом и голодом.

А какие будут мотиваторы у ИИ? Ведь без мотиваторов он и манипулятором не шевельнет.
Ну да, он может изменить весь мир! Только нахрена, ради чего? У него даже инстинкта самосохранения нет. Верю, что может, но вот - будет ли делать???

Вот помню один фантастический фильм "Области тьмы". Тоже про сверхразум. И тоже сверхразум приравнивается к гиперактивности, без всяких на то оснований.