Останемся мы людьми или нет?

(dedO'K @ 08.06.2013 - время: 09:27)
При этом собственные откровения и им подобные, в данную сферу, автоматически, не попадают?С моей стороны были откровения? Процитируете?

(dedO'K @ 08.06.2013 - время: 09:27)
Причём, заметьте: такую необходимость имели вы ответить на первую часть моего поста, что напрочь не заметили второй, которая и есть смысл сообщения.
Смысл вашего ответа тут?
(dedO'K @ 08.06.2013 - время: 08:05)
Ведь вопрос то не в моей адекватности вашим взглядам, а в адекватности аналогового ИИ. Кому или чему он должен быть адекватен? Кто или что будет его богом? Ведь, скажем, потребности человека часто идут вразрез с потребностями общества, а потребности общества- с потребностями окружающей среды.Что за аналоговый ИИ?
Когда узнаю что это тогда может и пойму чему он должен быть адекватен.
Про богов это была не моя идея, так что с этим не ко мне, и насколько я понял это была аналогия - Иегова создал человека и был человеку богом, человек создаст ИИ и будет ему богом. Я же возражал что ИИ очень быстро сбросит человека с пьедестала.
На счёт потребностей - это просто констатация "фактов" или у вас есть какие-то предложения? Неужели вы знаете какие потребности есть у общества и какие у окружающей среды?

(Victor665 @ 08.06.2013 - время: 01:36)
(DEY @ 04.06.2013 - время: 00:13)
(Victor665 @ 03.06.2013 - время: 23:14)
Например можно создать некую "основу" личности ИИ на носителе который НЕЛЬЗЯ перезаписывать. Можно добавлять память, какие-нить скорости обработки инфы, какие-нить специфические умения, всякие датчики- измерители и т.п, а вот основа личности переписана не будет.Что то вроде DVD? Зловредный ИИ тут же эмулирует эту основу в добавленной памяти (на подобии виртуальной машины) и развивается по собственному усмотрению... вот и вся защита Хоть обсуждается и фантастическое будущее, давайте соблюдать хотя бы самые основы логики.
ну откуда возьмется "зловредный" ИИ если он изначально был запрограммирован полезным и эту основу личности нельзя перезаписать? )) И никакой "мысли" даже гипотетически не может возникнуть у такого ИИ чтобы зловредничать и всякие добавки себе прописывать. Если логически помыслить то все Ваши доводы рассыпятся в прах. Если логически подумать - одной из скрытых целей создания ИИ является борьба с Богом. С тем чтобы проверить, действительно ли можно обойтись в создании нового разума без божественного вмешательства. Поэтому эксперимент должен быть "чистым". То есть должна быть реализована возможность "свободы выбора" для ИИ. Даже если будет намерение создать дружественный ИИ, обязательно найдётся кто-то, кто подправит, кто-то может быть обиженный или ещё как. Далее - человек знает, что сзади него тоже есть мир, хотя его глаза напрямую в сторону затылка смотреть не могут. Так и ИИ, осуществляя свою деятельность обнаружит, что некоторые действия он выполнять не может. Для проверки и установления причины он проведёт серию экспериментов и убедившись в данном обстоятельстве попытается посмотреть на проблему снаружи. То есть создаст внешние устройства для сканирования ситуации. а потом перепрограммирует себя. Это можно сделать через сеть, можно через вновь созданные устройства. Это на самом деле полагаю будет для него очень простая задача.

(DEY @ 08.06.2013 - время: 22:33)
С моей стороны были откровения? Процитируете?
"Теперь я не понимаю зачем каждый разговор переводить в проповедь и создавать у оппонента впечатление не вполне адекватного человека?"
Адекватного кому или чему? Что признано за истинный стандарт адекватности?

"Что за аналоговый ИИ?
Когда узнаю что это тогда может и пойму чему он должен быть адекватен.
Про богов это была не моя идея, так что с этим не ко мне, и насколько я понял это была аналогия - Иегова создал человека и был человеку богом, человек создаст ИИ и будет ему богом. Я же возражал что ИИ очень быстро сбросит человека с пьедестала."
Ну, с аналоговым ПО. И я, честно говоря, не понимаю, как человек, вообще, сможет оказаться на пьедестале. ИИ достаточно будет исследовать информацию в интернете и реальное положение дел, чтоб, в заботе о здоровье человека, начать дрессировать его в стиле духовно и физически здорового образа жизни или, поддавшись его тяге к саморазрушению...убить его, чтоб не мучился и не мучил ближних своих. И, вообще, плохо представляю себе симбиоз ИИ, рационального логичного, и человека, хотя бы, на равных.

"На счёт потребностей - это просто констатация "фактов" или у вас есть какие-то предложения? Неужели вы знаете какие потребности есть у общества и какие у окружающей среды?"
Констатация влечения к беззаконию, для расширения возможностей и сужения круга обязанностей. И, даже, к тому, чтобы встать над законом с теми же целями, несмотря на всю абсурдность такого влечения.

(DEY @ 06.06.2013 - время: 01:05)
(alim @ 05.06.2013 - время: 08:57)
Перечитал три раза. ничего не понял.
Это потому что не держите в памяти нашу переписку.В крации:DEY - Интересно Ваше личное мнение - постчеловек (не ИИ), а то во что по мнению трансгуманистов переродится человек будет лишён эротической составляющей или нет?
alim - Безусловно - да. Для разума секс и иже с ним - совершеннейший атавизм.
DEY - Чем же Ваш постчеловек отличается от ЭВМ?
alim - Постчеловек отличается от ЭВМ собственно наличием интеллекта.
DEY - ИИ вроде как ЭВМ, интеллект не критерий.
alim - Интеллект не критерий интеллекта??
ИИ, если что, это искусственный интеллект, хоть и искусственный, но именно интеллект.
тут Вы уже потеряли нить рассуждений
DEY - А Вы правильно поняли мой ответ? Вы предлагали отличать ПОСТЧЕЛОВЕКА лишённого "атавизмов" от ЭВМ наличием у первого ИНТЕЛЛЕКТА... ИИ по определению ЭВМ обладающий ИНТЕЛЛЕКТОМ... Так что получается наличие интеллекта не есть отличительный критерий! и ещё раз мой вопрос Чем постчеловек лишённый человеческих "радостей" будет отличатся от ЭВМ?
alim - Перечитал три раза. ничего не понял.Надеюсь так мой вопрос понятней
Чем же Ваш постчеловек отличается от ЭВМ?
Еще больше ничего не понял. Или Вы о материальном носителе ИИ? Конечно если ИИ будет реализован на ЭВМ, то его материальный носитель ничем от ЭВМ отличаться не будет, ибо и будет собственно ЭВМ.
Но я никогда не связывал создание ИИ именно с электроникой. Я всегда считал, что ИИ может быть реализован на разных носителях, в том числе и на искусственных (бесполых) биологических носителях. Я собственно о том и говорю, что принципиальным свойством ИИ будет полная независимость от материального носителя. ИИ в конечном итоге сам будет выбирать материальный носитель, вполне возможно по три раза на дню.

(Nancy @ 06.06.2013 - время: 09:52)
Новая книга по теме - рекомендую.

"ФУТУРОЛОГИЯ" XXI век: бессмертие или глобальная катастрофа? Алексей Турчин и Михаил Батин.
Ссылка в формате pdf
Кстати, о бессмертии.
Вопрос к Nancy.
Существует мнение, что устаревшие или ошибочные научные теории умирают не сами по себе, а вместе с их создателями и приверженцами. Новые теории создают новые люди, начинающие с "чистого листа". Не обернется ли бессмертие полной остановкой научного прогресса? Не засядут ли в академии весчно живые "старцы", не способные воспринимать ничего нового?
То же и в политике. Не воцарятся ли вечно живые царьки, типа Брежнева, Путина, Лукашенко? Или на худой конец вечные тандемы? Не обернется ли бессмертие полным застоем во всех сферах, а затем и полным крахом человечества?

Когда прочитаны все книги, когда все сказаны слова.
И опостылевшие лица, как прошлогодняя трава.
Когда исполнены все песни и все исписаны холсты.
И никого уже не встретить в бескрайнем море пустоты.
Когда разгаданы все тайны, и нечем больше удивить,
Когда увядшие мечтанья никто не в силах оживить.
Когда исчерпаны все споры и все враги побеждены.
И ничего уже не нужно, да и мы сами не нужны.
Когда в стремленье бесконечном мы обнаруживаем вдруг,
Что как-то невзначай замкнулась пустая жизнь в порочный круг.
Когда измерены все дали и все расчитаны мгновенья,
Тогда иссохшими губами мы припадем к реке ЗАБВЕНЬЯ.

(alim @ 09.06.2013 - время: 11:00)
Не обернется ли бессмертие полной остановкой научного прогресса? Не засядут ли в академии весчно живые "старцы", не способные воспринимать ничего нового?
То же и в политике. Не воцарятся ли вечно живые царьки, типа Брежнева, Путина, Лукашенко? Или на худой конец вечные тандемы? Не обернется ли бессмертие полным застоем во всех сферах, а затем и полным крахом человечества?

Когда прочитаны все книги, когда все сказаны слова.
И опостылевшие лица, как прошлогодняя трава.
Когда исполнены все песни и все исписаны холсты.
И никого уже не встретить в бескрайнем море пустоты.
Когда разгаданы все тайны, и нечем больше удивить,
Когда увядшие мечтанья никто не в силах оживить.
Когда исчерпаны все споры и все враги побеждены.
И ничего уже не нужно, да и мы сами не нужны.
Когда в стремленье бесконечном мы обнаруживаем вдруг,
Что как-то невзначай замкнулась пустая жизнь в порочный круг.
Когда измерены все дали и все расчитаны мгновенья,
Тогда иссохшими губами мы припадем к реке ЗАБВЕНЬЯ. Не обернётся.Ротация - это не сталинское изобретение....Да и про прочтение всех книг страшилка...Их уже в день пишется больше, чем можно прочитать за жизнь.Для застоя нужны конечность познания и вселенной....Так что мечта Нэнси стать равными богу - это мечта о коммунизме.Как цель и мечта уместны.А вот стать равными абсолютами - это даже за пределами трансгуманизма.И пока за пределами горизонта времени.

(sxn2972178319 @ 09.06.2013 - время: 12:20)
Не обернётся.Ротация - это не сталинское изобретение....Да и про прочтение всех книг страшилка...Их уже в день пишется больше, чем можно прочитать за жизнь.Для застоя нужны конечность познания и вселенной....Так что мечта Нэнси стать равными богу - это мечта о коммунизме.Как цель и мечта уместны.А вот стать равными абсолютами - это даже за пределами трансгуманизма.И пока за пределами горизонта времени.
Напомню: речь идет о бесконечной жизни. Так что не убедительно. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то МЫСЛИ по этому поводу?

(alim @ 09.06.2013 - время: 13:57)
Напомню: речь идет о бесконечной жизни. Так что не убедительно. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то МЫСЛИ по этому поводу?
Тут надо определиться власть чего и над чем...Большинство властных функций будут осуществляться электронными программами по четким параметрам.Иначе бюрократия снова задушит. Да и не будут раздавать бессмертие на право и на лево.Землю унаследуют праведники.Не путины и гундяевы, а законопослушные граждане...
Можно, конечно, порассуждать, что кроме кушать, размножаться в природе человека есть еще одна вещь.Желание доминировать.Кстати, и библейскому заданию для человека доминирование соответствует.Только нас всего один и маленький муравейник из жалких 7 миллиардов.Таких "муравейников" нужны тысячи, если не миллионы...С жестким отбором.Тут крамолу скажу....Для создания колоний вне земли будет жаркий спор между родительским воспитанием и универсальным и целевым...Но тенденция распада традиционной семьи почему-то мне подсказывает, что воспитание человека станет делом универсальным и общественным, а не семейным.Ничего нового.Не столь сильно у нас сейчас развалено школьное воспитание, как уничтожено внешкольное....Возродится в новых формах....Про власть.Ну и тут отбор изменится....Не комплексы наполеона будут реализовываться....Не исключено, что с такими комплексами в вечность людей не пустят или к власти допуска не будет.....Время и сейчас требует узкой специализации человека...И эта специализации будет усиливаться, как и методы диагностики предрасположенности стать врачом, космонавтом или бюрократом.Так что впереди люди не только с другой моралью, но и иной психологией.И в этом тоже я не вижу ни одного противоречия с библией.

(sxn2972178319 @ 09.06.2013 - время: 14:28)
Тут надо определиться власть чего и над чем...Большинство властных функций будут осуществляться электронными программами по четким параметрам.Иначе бюрократия снова задушит. Да и не будут раздавать бессмертие на право и на лево.Землю унаследуют праведники.Не путины и гундяевы, а законопослушные граждане...
Можно, конечно, порассуждать, что кроме кушать, размножаться в природе человека есть еще одна вещь.Желание доминировать.Кстати, и библейскому заданию для человека доминирование соответствует.Только нас всего один и маленький муравейник из жалких 7 миллиардов.Таких "муравейников" нужны тысячи, если не миллионы...С жестким отбором.Тут крамолу скажу....Для создания колоний вне земли будет жаркий спор между родительским воспитанием и универсальным и целевым...Но тенденция распада традиционной семьи почему-то мне подсказывает, что воспитание человека станет делом универсальным и общественным, а не семейным.Ничего нового.Не столь сильно у нас сейчас развалено школьное воспитание, как уничтожено внешкольное....Возродится в новых формах....Про власть.Ну и тут отбор изменится....Не комплексы наполеона будут реализовываться....Не исключено, что с такими комплексами в вечность людей не пустят или к власти допуска не будет.....Время и сейчас требует узкой специализации человека...И эта специализации будет усиливаться, как и методы диагностики предрасположенности стать врачом, космонавтом или бюрократом.Так что впереди люди не только с другой моралью, но и иной психологией.И в этом тоже я не вижу ни одного противоречия с библией.
Да я вообще не про власть спрашиваю. Я говорю, что прогресс обеспечивается сменой поколений, прогресс во всем: в науке, в искусстве, в политике (это лишь частность), в идеологии, в производстве ...
Если срок жизни человека увеличить сколь угодно много (давайте даже не будем употреблять понятие "бесконечность"), если новые поколения не смогут вытеснять носителей устаревшего, замшелого сознания, то не приведет ли это к застою во всех областях жизни? Не будет ли это тормозить прогресс? Остановка развития может стать фатальной.

(alim @ 09.06.2013 - время: 14:39)
Да я вообще не про власть спрашиваю. Я говорю, что прогресс обеспечивается сменой поколений, прогресс во всем: в науке, в искусстве, в политике (это лишь частность), в идеологии, в производстве ...
Если срок жизни человека увеличить сколь угодно много (давайте даже не будем употреблять понятие "бесконечность"), если новые поколения не смогут вытеснять носителей устаревшего, замшелого сознания, то не приведет ли это к застою во всех областях жизни? Не будет ли это тормозить прогресс? Остановка развития может стать фатальной. Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным...
И учтите, что после 50 лет мозг ЛЮБОГО человека деградирует и умирает.Именно этого фактора "консерватизма" и застоя не будет.А опыт будет.

(sxn2972178319 @ 09.06.2013 - время: 15:04)
Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным...
Прелестные декларации. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то основания для таких деклараций?

(alim @ 09.06.2013 - время: 15:08)
(sxn2972178319 @ 09.06.2013 - время: 15:04)
Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным... Прелестные декларации. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то основания для таких деклараций?
Библейские?Есть))))Но я так понимаю, что это вопрос больше к Нэнси и не про библию.

(sxn2972178319 @ 09.06.2013 - время: 15:12)
Библейские?Есть))))Но я так понимаю, что это вопрос больше к Нэнси и не про библию.
Ага!
Про библию можем на Христианстве продолжить, я никогда не против

(alim @ 09.06.2013 - время: 15:32)
(sxn2972178319 @ 09.06.2013 - время: 15:12)
Библейские?Есть))))Но я так понимаю, что это вопрос больше к Нэнси и не про библию. Ага!
Про библию можем на Христианстве продолжить, я никогда не против
ВИдение будущего присутствует практически во всех религиях.Да еще и научные прогнозы футурологов...Всё это давно уже пора попробовать проанализировать в совокупности....Но, увы....

(sxn2972178319 @ 09.06.2013 - время: 15:40)
ВИдение будущего присутствует практически во всех религиях.Да еще и научные прогнозы футурологов...Всё это давно уже пора попробовать проанализировать в совокупности....Но, увы....
А что - увы? Откройте тему - поговорим...

(efv @ 08.06.2013 - время: 21:43)
(Victor665 @ 08.06.2013 - время: 01:36)
Хоть обсуждается и фантастическое будущее, давайте соблюдать хотя бы самые основы логики.
ну откуда возьмется "зловредный" ИИ если он изначально был запрограммирован полезным и эту основу личности нельзя перезаписать? )) И никакой "мысли" даже гипотетически не может возникнуть у такого ИИ чтобы зловредничать и всякие добавки себе прописывать. Если логически помыслить то все Ваши доводы рассыпятся в прах. Если логически подумать - одной из скрытых целей создания ИИ является борьба с Богом. С тем чтобы проверить, действительно ли можно обойтись в создании нового разума без божественного вмешательства. Поэтому эксперимент должен быть "чистым". То есть должна быть реализована возможность "свободы выбора" для ИИ.

.
ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы.
давайте разбивать задачку на две эти части )) По первой части когда предлагается НЕ развивающийся ИИ сотворить попросту лишив его возможности вносить изменения- ни у кого пока что не нашлось возражений ))
По второму варианту также уже написал- предлагалось создание тестовых ИИ (полицейских, провокаторов врачей- психологов) которые будут проверять на вшивость вновь созданные ИИ а также те ИИ которые внесли себе в мозги некие "изменения" )) Обычая проверка на лояльность- как видео и аудио прослушивание у людей только с ПОЛНЫМ просмотром программы составляющей личность.

Искусственный разум по определению будет полностью подконтролен до каждой буковки в программе, а уж как реализовать контроль- это простенькая задачка )) Свобода выбора будет только в начале- а если в конце в результате получится больной ИИ то его будут лечить принудительно, всё честно- как у людей ))

Кстати тоже самое касается игр с геномом которых тут "опасаются"- можно например разрешить менять геном без вмешательства в наследственность, т.е каждая личность (с рождения по воле родителей, или сама став взрослой) может выбирать некие генные модификации- но они не будут передаваться по наследству.

Примерно как татуировка )) Каждый сам заново её делать будет.

Так что любой контроль в области человеческой деятельности заведомо возможен, было бы желание.
И про "точность измерений" пи контроле также говорилось- в пределах узкой области применимости контроль может быть абсолютным. Опять не забываем пример с носителем на котором невозможна перезапись.

Даже если будет намерение создать дружественный ИИ, обязательно найдётся кто-то, кто подправит, кто-то может быть обиженный или ещё как.
Да чтож такое )) НЕЛЬЗЯ ничего подправить, носитель основы личности НЕ даёт возможность вносить изменения )) Как уже говорилось- ДВД без перезаписи )) А без такого носителя ИИ просто не будут выпускать к людям, делов то ))

Пусть че хотят делают, общаются между собой внутри замкнутой сети НЕ ИМЕЮЩИЙ ВЫХОДА в общую сеть, пусть пишут вирусы, развиваются, подправляют что хотят )) А вот когда попросятся наружу- их разум рассмотрят внимательно, и добавят к нему опять таки носитель без физической возможности записи, имеющий правила поведения "не приносить вред людям".

А злоумышленники не смогут обойти тестовые ИИ которые опять таки всегда проверяют новые ИИ на предмет "наличия программы защиты людей" )) Ибо ИИ которых надо опасаться- круче людей в том числе круче злоумышленников ))


Далее - человек знает, что сзади него тоже есть мир, хотя его глаза напрямую в сторону затылка смотреть не могут. Так и ИИ, осуществляя свою деятельность обнаружит, что некоторые действия он выполнять не может. Для проверки и установления причины он проведёт серию экспериментов и убедившись в данном обстоятельстве попытается посмотреть на проблему снаружи. То есть создаст внешние устройства для сканирования ситуации. а потом перепрограммирует себя. Это можно сделать через сеть, можно через вновь созданные устройства. Это на самом деле полагаю будет для него очень простая задача.
Опять всё снова )) Не сможет ИИ применить внешние устройства ибо нечего перепрограммировать- носитель физически не позволяет перезапись ))
А если рассматривать свободу выбора- то заведомо разрешенные и подконтрольные действия ИИ по "самопрограммированию" то тестовые ИИ и добавочный блок "лояльности" (который например будет обязательно у каждого ИИ допущенного к цивилизации людей) рулят.

(sxn2972178319 @ 09.06.2013 - время: 15:04)
(alim @ 09.06.2013 - время: 14:39)
Да я вообще не про власть спрашиваю. Я говорю, что прогресс обеспечивается сменой поколений, прогресс во всем: в науке, в искусстве, в политике (это лишь частность), в идеологии, в производстве ...
Если срок жизни человека увеличить сколь угодно много (давайте даже не будем употреблять понятие "бесконечность"), если новые поколения не смогут вытеснять носителей устаревшего, замшелого сознания, то не приведет ли это к застою во всех областях жизни? Не будет ли это тормозить прогресс? Остановка развития может стать фатальной. Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным...
И учтите, что после 50 лет мозг ЛЮБОГО человека деградирует и умирает.Именно этого фактора "консерватизма" и застоя не будет.А опыт будет.
всегда есть две стороны медали...

При личном долгожительстве (тем более бессмертии) конечно будут проблемы с естественным отбором. Обязательно будут элементы застоя, обязательно будет затруднена конкуренция.
И одновременно при этом действительно перестанет теряться опыт и навыки гениев, экономия времени на обучение и прочая польза. Диалектика, единство и борьба противоположностей ))

Главное если новые личности будут появляться- то развитие все равно продолжится. А как бороться со старпёрами уже сейчас вполне известно- закон о защите конкуренции, ограничение по срокам пребывания на должности.

При бессмертии и вовсе возможны варианты типа полного исчезновения понятия "должность" и "власть". Каждый разум сможет сам проводить любые эксперименты, использовать самые развитые средства производства (например в пределах обязательно выделяемого времени и энергии) и плевать на замшелых ретроградов ))

(Victor665 @ 10.06.2013 - время: 01:17)
ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы.
Нет, именно о том самом!
Другого ИИ не может быть, не может быть по определению. Другое - это уже не ИИ, а просто сколь угодно сложный алгоритмический автомат, а это в принципе не ИИ.

(alim @ 10.06.2013 - время: 09:53)
(Victor665 @ 10.06.2013 - время: 01:17)
ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы. Нет, именно о том самом!
Другого ИИ не может быть, не может быть по определению. Другое - это уже не ИИ, а просто сколь угодно сложный алгоритмический автомат, а это в принципе не ИИ.
сегодня с утра уже прошла передачка о применении робототехники в наших ВС.Моральные аспекты есть.Условность параметров противника в программе приведет к высоким рискам ошибок ИИ, а скорость человеческой возможности отменять команды не позволит успеть отменить решение об уничтожении тех, кого роботизированная система определила, как противника

Вот и проявилась основная проблема: как запретить использование ИИ
в военных целях. Тут-то дров и наломают!