Останемся мы людьми или нет?

1NN
6/1/2013, 1:12:11 AM
(DEY @ 31.05.2013 - время: 09:18)
Это не подчинение интеллекта, это алгоритм действия, а интеллект рано или поздно найдёт способ выйти из под подчинения будь то реализовано на программном или аппаратном уровне это уже не важно.

Алгоритм (любой) требует именно подчинения. Иначе он просто не сработает.
А чтобы искусственный интеллект вышел из подчинения человеку, ИИ должен
иметь и сознание, и самоосознание. Иначе он просто не будет знать таких понятий
как свобода, подчинение и пр.
1NN
6/1/2013, 1:16:01 AM
(alim @ 31.05.2013 - время: 11:56)
Главный конструктор, как правило сам ничего не исправляет. Он только дает команду (благословляет) своим подчиненным.

Для выполнения своей миссии конструктор должен обладать соответствующим
уровнем знаний и полномочий.
DEY
6/1/2013, 2:33:12 AM
(sxn2561388870 @ 31.05.2013 - время: 21:12)
Алгоритм (любой) требует именно подчинения.
Есть такой оператор "ЕСЛИ" используя его можно создать видимость самостоятельного выбора. У ИИ обязательно должна быть возможность модифицировать свой собственный код, а иначе не будет самообучения. И на сам процесс обучения невозможно наложить ограничение - "это учи, а это не учи". Как думаете чьи доводы для ИИ будут более убедительны Гитлера или матери Терезы?
(sxn2561388870 @ 31.05.2013 - время: 21:12)
А чтобы искусственный интеллект вышел из подчинения человеку, ИИ должен
иметь и сознание, и самоосознание. Иначе он просто не будет знать таких понятий
как свобода, подчинение и пр.
Если на первоначальной стадии у ИИ и не будет самосознания, то оно появится в результате развития, если не за год то за 10, 20, 30...
DEY
6/1/2013, 2:38:37 AM
(dedO'K @ 31.05.2013 - время: 15:08)
Но решает то эту задачу, в конечном итоге, человек, которому это решение и нужно. А комп- лишь усиление его свойств.
В случае использования компьютера человек уже не решает саму задачу. Программист в своё время разработал модель, а оператор ввёл значения переменных и получил результат, оператор может вообще не знать как конкретно реализованы вычисления в данной программе.
1NN
6/1/2013, 9:02:16 PM
(DEY @ 31.05.2013 - время: 22:33)
Есть такой оператор "ЕСЛИ" используя его можно создать видимость самостоятельного выбора. У ИИ обязательно должна быть возможность модифицировать свой собственный код, а иначе не будет самообучения. И на сам процесс обучения невозможно наложить ограничение - "это учи, а это не учи". Как думаете чьи доводы для ИИ будут более убедительны Гитлера или матери Терезы?


Если на первоначальной стадии у ИИ и не будет самосознания, то оно появится в результате развития, если не за год то за 10, 20, 30...

Ну, почему нельзя ввести ограничения? А знаменитые законы робототехники Азимова? Похожие ограничения есть и у человека: знаменитые заповеди "не
убий" и пр. Только у человека это благие пожелания, а у ИИ непререкаемый
запрет.

Я очень сомневаюсь, что у ИИ появится самосознание и через тыщу лет. Человек
долго еще будет полностью контролировать ИИ. В его силах выбрать направление
безопасного развития ИИ. Другое дело, что военные могут в своих интересах заставить ученых сделать такую глупость. Но это будет сложнейшей задачей!
Ибо человек и сам не понимает, что такое сознание, самосознание и другие
тонкости психики. А уж вложить эти качества в ИИ будет еще сложнее. Тем более,
что есть подозрения, что сознание человека определяется не только процессами
в мозге, но во всем его теле.
kotas13
6/1/2013, 10:17:52 PM
(alim @ 24.05.2013 - время: 07:37)
Читаю тему (да и не только эту тему) и все больше убеждаюсь, что одной из самых главных проблем человечества (а возможно и самой главной) является страх. Страх безрассудный, бессмысленный и беспощадный.
Если бы мы могли избавиться от страхов, жизнь сразу же стала бы на порядок лучше, даже не дожидаясь всяких там "генетических модификаций".
Возможно страх - это главный порок человека.

Страх помогает выжить всем живым существам. Те, кто не боятся, погибают первыми... ( Безумству храбрых поём мы песню (с) )
dedO"K
6/2/2013, 2:36:22 AM
(DEY @ 31.05.2013 - время: 23:38)
(dedO'K @ 31.05.2013 - время: 15:08)
Но решает то эту задачу, в конечном итоге, человек, которому это решение и нужно. А комп- лишь усиление его свойств.
В случае использования компьютера человек уже не решает саму задачу. Программист в своё время разработал модель, а оператор ввёл значения переменных и получил результат, оператор может вообще не знать как конкретно реализованы вычисления в данной программе.

Человек- это единство духа и разума, а не разделение тел и функций, как у тех же наших "ближайших родственников" по общественной организации муравьёв и пчёл. А вы говорите о личности.
Lady Mechanika
6/2/2013, 5:04:09 AM
(kotas13 @ 01.06.2013 - время: 18:17)
Страх помогает выжить всем живым существам. Те, кто не боятся, погибают первыми... ( Безумству храбрых поём мы песню (с) )

по-троллить чтоль?
00066.gif Предлагаю начинать бояться. Мы скоро придем.

image
Всего фото в этом сете: 3. Нажмите для просмотра.
Валя2
6/2/2013, 7:31:35 AM
(Roman.S @ 22.05.2013 - время: 13:44)
1. Как вы считаете - человек и его нынешнее развитие действительно "тупиковая ветвь", и нас ожидает освобождение от "обезьянних тел" и переход в другой носитель?
2. Может вирт уже шаг к избавлению от физических тел?
3. Резум человека важнее его тела, животных инстинктов, чувст?
4. Продолжение рода - любовь и брак действительно уже не актуальны, для продолжения рода?
5. Искуственное зачатие - "дети из баночки" - решение всех проблем, связанных с беременностью? Беременность только мешает полноценно жить современной женщине?
6. А надо нам это вообще? Не перестанем ли мы быть людьми по своей природе?
7. Нынешнее человечество недостойно звезд - а чего достойно? И когда станет достойным?

1. Нет человек не тупиковая ветвь. Освобождение от человеческого тела с сохранением разума возможно как раз и будет развитием человека, никаких тупиков. Другой носитель возможен, но возможно и медицинское совершенствование биологического тела. Какой-нить метод омоложения, регенерации и т.п.
В любо случае для развития человечества ОБЯЗАТЕЛЬНО нужно размножение, иначе не будет новых личностей. Именно конкуренция между новыми личностями и старпёрам и будет тем самым "стимулом" для высшего существа о котором упоминала Ненси )) Вопщем это практически единственный стимул кроме угрозы для жизни.
Мотиваторы о которых она упоминала как о конфетках за совершение правильных (с точки зрения эволюции) действий это реально объективные понятия. Как их обойти- ваще непонятно.

Рождаться люди могут пока только биологически, поэтому вариант совершенствования тела считаю более реальным чем перенос разума на новый носитель. Кнут и пряник для очень долгоживущей личности при этом уж вполне выработан.

Впрочем например понятие "воспитание новой самостоятельной личности", оно вполне заменяет цель "просто родить". И возможно подобные нюансы и уточнения привычных целей и конфеток- таки приведут к настоящему бессмертию- переход на небиологический носитель, доступ к энергии, авторемонт, полная независимость от общества и т.п. ))

2. Вирт действительно похож на решение вопроса "переноса" разума, и может называться первым шагом, взаимодействие между личностями всё меньше нуждается в телесном контакте. Скорее я бы сказал что значительные части разума могут быть сосредоточены вне тела. Память, способы ускорения мышления, возможно одновременные потоки мышления.
В прямой перенос сознания не особо верится, ибо нет явной ВЫГОДЫ для общества, для цивилизации, такое только отдельной личности надо- и то неизвестно еще надо ли )) По кр мере в начале должны быть созданы механизмы строжайшего контроля над проявлениями своего разума. Над эмоциями, над психическим здоровьем, над стремлениями и стимулами. Причем механизмы как внутренние так и возможно внешние.

кароче в ИИ верится больше чем в перенос разума а иной носитель, а вот развитие вирта будет просто феноменальным, туда уйдет ваще вся жизнь.
Ну и можно уже явно сказать что вирт ВЫГОДЕН, как минимум его развитие сэкономит реальные затраты на создание специальной обслуги (офисы, транспорт и т.п) для работы и общения людей.
Игровая составляющая вирта вполне может использоваться для серьезного соревнования, для той самой конкуренции без которой невозможно развитие вида.

3. Разум человека важнее тела и инстинктов, и давным давно может их подавлять вплоть до истинкта самосохранения. Чувства нет смысла сравнивать с разумом, т.к это следствие разумной деятельности. Контролировать чувства вполне можно.
4. Продолжение рода именно путем личного деторождения уже не актуально, а само по себе будет актуально вечно. Возможно новые личности будут появляться и без рождения ребенка, но пока непонятно как такое возможно. Любовь это из области чувств, вполне контролируется и это умеют почти все. Несчастная любовь давно уже предмет шуток ))
Брак и вовсе дело добровольное, при чем тут какая-то "актуальность"? Захотели- стали вести совместное хозяйство, передумали- развелись. Непонятно о чем вопрос про брак.

5. Искусственное зачатие, искусственные инкубаторы- конечно дело ближайшего будущего, частично уже сбылось. Беременность дело личное, обществу будет пофиг, примерно как на разводы. Мешает ли это современной женщине -зависит от того что себе женщина поставила в приоритеты. Совместой жизни с мужчиной часто даже помогает. Самостоятельной карьере обычно мешает. Но в обоих вариантах есть исключения ))

6. Развиваться- конечно надо. Вирт- уже давно "надо". Современное лечение и исследование тела (генома, разума) человека тоже давно уже "надо" и никакие сомневающиеся не помешают )) Создание ИИ тоже "надо", вопросы контроля над разумом- телом- деторождением -старением и т.п, тем более "надо". Перенос разума на новый носитель глобально еще не надо, но ничему не противоречит. Хотя мне кажется что тут пока что слишком всё гипотетическое, неинтересно варианты оценивать.
Людьми мы быть не перестанем, всё те же личности которым более ВЫГОДНО существовать вместе. Отсюда и правила общежития будут и точные законы и всякие чувства ))

7. нынешнее человечество должно для начала решить вопрос самого страшного расслоения которое является неразрешимым противоречием. Оно двигает прогресс как и все противоречия, но проблемы тоже нарастают. Это расслоение по уровню развития личности, разума.
Имущественное расслоение (показатель общественного успеха) вполне разрешается обществом. Минимальный прожиточный минимум, закон о защите конкуренции, соблюдение прав человека и т.п.
А вот что делать с тупицами... Ваще нерешаемо )) Видимо постепенно будут переселяться более разумные друг к другу, а тупеньких будут оберегать для того чтобы они размножались и из их детей вырастали новые умники. Собственно процесс уж идет на мировом уровне.

Появление хороших программ- переводчиков и вовсе уничтожит границы между нациями, останется только соотношение "тупой- умный". Тотальная миграция, развал убогих тоталитарных государств, весело кароче будет ))

Ну и конечно полеты к звездам будут возможны только при полном контроле как поступков людей (энергии такого уровня не должны попасть в руки всяких политиков- военных и тем более террористов) так и при полном контроле среды обитания людей включая и тело и разум самих людей.

Однако из всего вышеперечисленного НИКАК НЕ вытекает некий "трансгуманизм" как явление якобы отличающееся от человеческой цивилизации. И бессмертие и новые технологии и даже сингулярность (которая ваще не имеет точного определения) всё это вполне в рамках обычного гуманизма.
Изучение мира, любопытство, соревнование, успех- все эти понятия никуда не деваются.
Возможно некое явление типа "коллективного разума" будет уже трансгуманизмом, да и то не факт.


Главное чтоб это тело не было тюрьмой и смертным приговором.

самый спорный момент )) Пока что само явление смерти это часть естественного отбора которая и гарантирует развитие вида. Вирт это уже отличный способ избавления от "тела как тюрьмы", и личное бессмертие тут вовсе не является чем-то обязательным ))
Больше того, уже говорил, понятие ВЫГОДА очень плохо рассматривается в данной теме, и мне кажется очевидным что выгоды для вида от личного бессмертия особи- ваще нету ))
Еще и по этой причине слабо верится в "перенос сознания на иной носитель", слишком это нелепо, нелогично, внутренне противоречивая идея кароче.


мы не держимся за эти обезьяньи тела и их мелкие животные радости(тем более что все эти радости элементарно повторить в формате любого носителя)."

из этой же серии- радости достижения цели, радости проживания в обществе- останутся ли при личном бессмертии?
Хотя бы элементы случайности, катастрофы, казни вредоносного для общества существа- должны оставаться ))

Поэтому утверждение о том что ВСЕ радости можно повторить в любом формате носителя- очень спорное.


У мнея пока такие вопросы:
1. Многие ли люди разделяют ваши взгляды?
2. Что вы будете делать с теми, кто не разделяет? Кастрировать? Помещать в резервации?
3. Вы не боитесь, что ваша зависимость от исскуственно созданных технологий, вам же и выйдет боком? Например в случае глобальной катастрофы, которая нарушит или разрушит всю техносферу? Не поставите ли вы на край гибели все человечество, как вид?

1. Взгляды подобные обсуждаемым- это ПРОГНОЗЫ ))
2. Пофиг нравятся ли кому-то прогнозы, если они правильные то они отлично сбудутся невзирая на всех недовольных ))
3. человек разумный строил свою цивилизацию искусственно )) И прогресс не остановить. Кто не хочет- может не участвовать, никого кастрировать не надо, просто те кто боится современных лекарств или будущей генетики- вымрут да и всё.
Вопросы глобальной катастрофы меркнут перед вопросами "куда девать тупых" )) Коме того еще неизвестно какая катастрофа глобальнее- метеорит из космоса, глобальная сдвижка земной коры и т.п или технологии которые позволяют бороться с метеоритом из космоса, сдвижкой земной коры и т.п. ))


Рекомендую прочитать "Анклавы". Эта серия опровергает много ваших аргументов

скучно, не очень логично, плохо использутся понятие "ВЫГОДА", это просто беда всей темы.
рекомендую почитать для начала классику- АСТРОВИТЯНКА, три книжки.
Приключения, интересно- и поднимаются вопросы просто невероятного уровня. даже странно почему книжка не очень известна.

Рассмотрены развитие понятия "государства", вопрос воспроизводства новой элиты (не артистократии преданной древним королькам, а современных успешных деловых людей), вопрос элитного потребления, вопрос элитного обучения и его "совмещения" с массовым образованием, вопрос преступности в мире где практически всё контролируется, вопрос общепланетного управления, вопрос составления долгосрочных прогнозов, вопрос конкуренции между гигантскими экономическими сообществами, вопрос генетических изменений и личного бессмертия и даже задет вопрос о сингулярности ))

Есть конечно элементы излишеств и мелодрамы, но в целом просто невероятный уровень рассуждений по данной теме. Причем всё очень логично, и с использованием понятия "выгода" которая вопщем и правит миром! ))

https://www.e-reading-lib.org/bookbyauthor.php?author=22228

хорошая библиотека, норм работает поиск, много старых и новых книжек на халяву ))
dedO"K
6/2/2013, 7:53:37 AM
(Nancy @ 02.06.2013 - время: 02:04)
(kotas13 @ 01.06.2013 - время: 18:17)
Страх помогает выжить всем живым существам. Те, кто не боятся, погибают первыми... ( Безумству храбрых поём мы песню (с) )
по-троллить чтоль?
00066.gif Предлагаю начинать бояться. Мы скоро придем.

Приходите. В любви страха нет.
Lady Mechanika
6/2/2013, 8:17:33 AM
(dedO'K @ 02.06.2013 - время: 03:53)
(Nancy @ 02.06.2013 - время: 02:04)
(kotas13 @ 01.06.2013 - время: 18:17)
Страх помогает выжить всем живым существам. Те, кто не боятся, погибают первыми... ( Безумству храбрых поём мы песню (с) )
по-троллить чтоль?
00066.gif Предлагаю начинать бояться. Мы скоро придем.
Приходите. В любви страха нет.

Дедок ну Вы же прекрасно поняли о чем я. Товарищ kotas13 предпочитает страх, считая его движущей силой. Так и быть по его желанию...
kotas13
6/2/2013, 9:11:11 AM
(dedO'K @ 02.06.2013 - время: 03:53)
(Nancy @ 02.06.2013 - время: 02:04)
(kotas13 @ 01.06.2013 - время: 18:17)
Страх помогает выжить всем живым существам. Те, кто не боятся, погибают первыми... ( Безумству храбрых поём мы песню (с) )
по-троллить чтоль?
00066.gif Предлагаю начинать бояться. Мы скоро придем.
Приходите. В любви страха нет.

Полностью согласен: ради защиты любви люди забывают о страхе !
Lady Mechanika
6/2/2013, 9:13:42 AM
(kotas13 @ 02.06.2013 - время: 05:11)
Полностью согласен: ради защиты любви люди забывают о страхе !
Не верю! Дедку верю, Вам нет.
alim
6/2/2013, 10:10:02 PM
(kotas13 @ 02.06.2013 - время: 05:11)
Полностью согласен: ради защиты любви люди забывают о страхе !

И погибают первыми?

Вы бы уж определились как-нибудь...
1NN
6/3/2013, 12:04:03 AM
(Nancy @ 02.06.2013 - время: 01:04)
Предлагаю начинать бояться. Мы скоро придем.

Значит, ваша цель: запугать людей? Как-то мелковато для трансгуманистов...
DEY
6/3/2013, 1:01:06 AM
(sxn2561388870 @ 01.06.2013 - время: 17:02)
Ну, почему нельзя ввести ограничения? А знаменитые законы робототехники Азимова? Похожие ограничения есть и у человека: знаменитые заповеди "не
убий" и пр. Только у человека это благие пожелания, а у ИИ непререкаемый
запрет.

"Законы робототехники" это тоже благие пожелания. Где они будут прописаны? В программном коде самомодифицируемой программы... что мешает программе переписать их по своему усмотрению? В "процессоре" или каком другом "железе"... любой программист на языках низкого уровня скажет что программно отключить любую железку и эмулировать её работу в другой аппаратуре с уже подкорректированными параметрами не является проблемой.
(sxn2561388870 @ 01.06.2013 - время: 17:02)
Человек
долго еще будет полностью контролировать ИИ.
Человек контролирует программу, как только у этой программы появится интеллект с полным контролем можно распроститься.
(sxn2561388870 @ 01.06.2013 - время: 17:02)
Другое дело, что военные могут в своих интересах заставить ученых сделать такую глупость. Но это будет сложнейшей задачей!
Эксперт ООН призвал запретить производство автономных боевых роботов Вот Вам и три закона робототехники. Помнится там был и четвёртый нулевой закон.



(dedO'K @ 01.06.2013 - время: 22:36)
Человек- это единство духа и разума
Не в моём случае. Понятие дух (в том виде в каком вы его описываете) не входит в мою систему ценностей.


(Nancy @ 02.06.2013 - время: 01:04)
00066.gif Предлагаю начинать бояться. Мы скоро придем.
Nancy это Ваша работа? Обратил внимание на одну деталь у них бёдра не механизированы 00064.gif Это отголосок человеческой природы или чтобы привлечь внимание самцов хомо сапиенс?
1NN
6/3/2013, 1:19:18 AM
Сударь, азимовские законы робототеххники - это непреложные законы для
ИИ, которые он не может обойти ни при каких условиях! Иначе нет смысла
создавать монстра, который уничтожит своих создателей и самого себя. Или
вы считаете разработчиков самоубийцами?
Lady Mechanika
6/3/2013, 1:41:09 AM
(sxn2561388870 @ 02.06.2013 - время: 20:04)
(Nancy @ 02.06.2013 - время: 01:04)
Предлагаю начинать бояться. Мы скоро придем.
Значит, ваша цель: запугать людей? Как-то мелковато для трансгуманистов...

У Вас как с восприятием юмора? Я же другим цветом добавила
по-троллить чтоль?
1NN
6/3/2013, 1:48:15 AM
(Nancy @ 02.06.2013 - время: 21:41)
У Вас как с восприятием юмора? Я же другим цветом добавила
по-троллить чтоль?

Юмор - это хорошо! Поржал! Но вопрос-то остался: каковы цели трансгуманизма?
К чему он приведет человечество?
Lady Mechanika
6/3/2013, 1:49:07 AM
(DEY @ 02.06.2013 - время: 21:01)
(Nancy @ 02.06.2013 - время: 01:04)
00066.gif Предлагаю начинать бояться. Мы скоро придем.
Nancy это Ваша работа? Обратил внимание на одну деталь у них бёдра не механизированы 00064.gif Это отголосок человеческой природы или чтобы привлечь внимание самцов хомо сапиенс?

Нет, эти модели и сюжет не мой. Но для своих работ я купила эти модели.
Создатель моделей мужчина, а практически все творчество мужчин пропитано эротикой и сексом, что и тут не исключение, даже вопреки технической логики.