Что вы думаете о сингулярности?

Технологическая сингулярность как ближайшее будущее человечества -
В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена.
Первой, и пожалуй, базовой идеей является следствие из закона Мура (приблизительное удвоение количества транзисторов на новых кристаллах микропроцессоров каждые 18 месяцев): где-то между 2025 и 2035 годами вычислительная мощность отдельных компьютеров сравняется с "сырой" вычислительной мощностью человеческого мозга (порядок последней оценивается в 1014–1017 операций в секунду), а затем и превзойдёт её. Конечно, закон Мура — это, на самом деле, никакой не закон, а всего лишь эмпирический вывод из наблюдаемой скорости развития технологий. Однако, если трактовать этот закон более широко (а именно, считать не количество транзисторов на кристалле, а доступные быстродействие процессоров и объёмы памяти), то окажется, что держится он значительно дольше существования интегральных схем, сменив по пути несколько технологий — электромеханические вычислители, ламповые, транзисторы... Кроме того, сам период 18 месяцев условен и с течением времени постепенно уменьшается. Таким образом, у нас есть хорошие шансы, что закон Мура продержится ещё не менее 15 лет.

Итак, давайте примем в качестве рабочей гипотезы, что возможности компьютеров в ближайшем будущем превзойдут человеческие. На этом уровне совершенно не важно, будут ли они "на самом деле" мыслить (вопрос об этом имеет не больше смысле, чем вопрос о том, могут ли подводные лодки "на самом деле" плавать), поскольку результаты их работы будут такими же, как если бы они мыслили, причём быстрее и глубже, чем люди.

Впервые за всю историю человечества мы окажемся в обществе существ, более разумных, чем мы сами.

Первое (и, фактически, единственное) следствие: мы не сможем полностью ни понять, ни предсказать дальнейшее развитие событий, когда "у руля" цивилизации встанут не только, не столько, а затем и исключительно не люди, а сверхинтеллекты. В этом и заключается смысл предложенного Винджем термина "Сингулярность" — условия, в которых привычные модели и представления теряют свою применимость, и начинается нечто принципиально иное.

Человеческое сознание замечательно тем что оно не только работает с цепочками последовательных выводов как это делает машина, но еще и стремиться в любом процессе выискать изощереннейшие баги которые позволяют перепрыгивать через несколько ступенек сразу а это не дано ни какому компьютеру

(masta888 @ 22.07.2008 - время: 19:00) В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект.
То что человек представляет собой далеко не только интеллект, но ещё много чего, то в обозримом историческом будущем даже не предвидится создание технического или какого иного агрегата, сопоставимого с человеком.
В этом смысле мы можем быть спокойны.)

(Эрт @ 24.07.2008 - время: 22:25) То что человек представляет собой далеко не только интеллект, но ещё много чего
Много чего?

(Эрт @ 24.07.2008 - время: 22:25) (masta888 @ 22.07.2008 - время: 19:00) В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект.
То что человек представляет собой далеко не только интеллект, но ещё много чего, то в обозримом историческом будущем даже не предвидится создание технического или какого иного агрегата, сопоставимого с человеком.
В этом смысле мы можем быть спокойны.)
речь идет о том, что наука развивается с ускорением ускорения! если прочертить график, то это будет гипербола! по прогнозам к 2030 году ветвь этой гиперболы становится почти вертикальной! трудно предположить, что при этом произойдет. это назвали сингулярностью.

не будет этого.

masta888 поищи книжку И.С.Шкловского - Вселенная,жизнь,разум.

там всё популярно ,для общего развития расписано.....

(yuta.don @ 25.07.2008 - время: 23:00) не будет этого.

masta888 поищи книжку И.С.Шкловского - Вселенная,жизнь,разум.

там всё популярно ,для общего развития расписано.....
я ее еще в 80-х годах читал... и чего? с тех пор наука больше не развивается? я с живыми учеными общаюсь РАН... и как могу приближаю это будущее. оно будет!

Выскажу своё мнение.
Какими бы мощными и развитыми машины бы не стали, они никогда не смогут соперничать с человеком. Компьютер - это счётная машинка, мощный компьютер - это мощная счётная машинка.... Они могут лишь просчитывать, а мы можем чувствовать ситуацию, предвидеть её не логическими операциями, а работой подсознания, которое сильнее любых просчётов, и возможно, что даже можем творить...
Относительно того, что развитие машин будет представлять линию почти вертикальную, бесконечно стремящуюся в бесконечность. На это я скажу следущее - человеческое сознание, человеческий Разум, как раз таки представляет из себя ту самую линию, бесконечно стремящуюся в бесконечность!!!
Человеческий Разум - это ВСЁ, это Вселенная.

А компьютеры с роботами - всего лишь счётные машинки....

Мозг человека формировался на всем протяжении его развития. Можно сказать, мозг человека - это выжимка из опыта Вселенной. Если удастся создать компьютер, способный к самообучению и саморазвитию, смоделировать на нем бесконечное развитие Вселенной и заставить его обучить себя на этой модели, то, может быть, получим нечто сходное с мозгом человека. Задачка, мягко говоря, не ближайших десятилетий.

karakorum! думаешь, чипы еще не вживляют в мозг? или думаешь, что компьютеры всю жизнь будем за собой таскать? они скоро будут внутри нас! и не понадобятся внешние устройства...
Относительно того, что развитие машин будет представлять линию почти вертикальную, бесконечно стремящуюся в бесконечность. На это я скажу следущее - человеческое сознание, человеческий Разум, как раз таки представляет из себя ту самую линию, бесконечно стремящуюся в бесконечность!!! karakorum! вероятно мы говорим про разные линии. сначала в 1960 - е годы появились ламповые компьютеры. затем транзисторные. в конце 80-х первые настольные. и калькуляторы... и это было пологое развитие. а когда дойдет до вертикального, то утром изобрели ламповый компьютер, через 10 минут - транзисторный, и через 10 минут - самый современный суперкомпьютер! - так это еще не вертикально!!! а что будет к вечеру!? только у очень немногих людей сознание достигало таких режимов! Будда, например!...

(KOJLbT @ 01.08.2008 - время: 18:00) Мозг человека формировался на всем протяжении его развития. Можно сказать, мозг человека - это выжимка из опыта Вселенной. Если удастся создать компьютер, способный к самообучению и саморазвитию, смоделировать на нем бесконечное развитие Вселенной и заставить его обучить себя на этой модели, то, может быть, получим нечто сходное с мозгом человека. Задачка, мягко говоря, не ближайших десятилетий.
My Webpage

а ваши прогнозы на чем основаны?

Что делать в таком случае? Почему никто не думает о том, как не допустить начала этих процессов?

(masta888 @ 01.08.2008 - время: 21:47) (KOJLbT @ 01.08.2008 - время: 18:00) Мозг человека формировался на всем протяжении его развития. Можно сказать, мозг человека - это выжимка из опыта Вселенной. Если удастся создать компьютер, способный к самообучению и саморазвитию, смоделировать на нем бесконечное развитие Вселенной и заставить его обучить себя на этой модели, то, может быть, получим нечто сходное с мозгом человека. Задачка, мягко говоря, не ближайших десятилетий.

а ваши прогнозы на чем основаны?
Мои прогнозы основаны на моих мыслях. Что касается заявлений Рэя Курцвайля, то он говорит о киборгах, а не об искуственном интеллекте. Его прогнозы вполне реализуемы, по-поему. Сочетание уникальных свойств человеческого мозга с вычислительной мощью компьютера даст не количественный, а качественный скачок.

(karakorum @ 01.08.2008 - время: 22:12) Что делать в таком случае? Почему никто не думает о том, как не допустить начала этих процессов?
наоборот, думаем, как ускорить! надоело умирать! хотим жить! что Вы видите плохого в том, что не нужно будет работать, все блага, будут доступны, вообще все будет доступно! что наши возможности возрастут в миллионы раз!...

и потом, прогресс невозможно остановить! никак! даже уже подумывали, а не запретить ли нанотехнологии, генную инженерию и т.д. но поняли, что запрещать бесполезно и опасно! ибо мы запретим, а китай например будет продолжать развивать, и через год получит стратегическое преимущество! понятно, что никто не может позволить себе остановиться, зная, что соседи не остановятся!

Я думаю есть определённая степень опасности при таком безудержном росте нечеловеческого интеллекта. Просто у всех людей так - более хитрый и сильный всегда кушает более глупого и слабого. И я не уверен. что исскуственный интеллект рано или поздно не дойдёт до возможности каких либо враждебных действий или что то в этом роде. Разве нет такой опасности? Никогда нельзя знать что на уме у оппонента. А тут оппонент будет очень сильный, и трудно будет понять его логику. Согласны? У Вас нет таких мыслей?

(karakorum @ 01.08.2008 - время: 23:38) Я думаю есть определённая степень опасности при таком безудержном росте нечеловеческого интеллекта. Просто у всех людей так - более хитрый и сильный всегда кушает более глупого и слабого. И я не уверен. что исскуственный интеллект рано или поздно не дойдёт до возможности каких либо враждебных действий или что то в этом роде. Разве нет такой опасности? Никогда нельзя знать что на уме у оппонента. А тут оппонент будет очень сильный, и трудно будет понять его логику. Согласны? У Вас нет таких мыслей?
1. по моим наблюдениям, чем умнее и мудрее существо, тем более гуманны поступки...
2. компьютер не испытывает боли, и проч... откуда у него возьмется жадность, жажда власти, страх? это железка!.
3. я думаю, что компьютеры интегрируются с мозгом, и это будут внутренние наши приспособления для мышления. тогда - такой киборг может захотеть власти (гипотетически) так не давайте кому попало микросхемы!

(masta888 @ 02.08.2008 - время: 17:05) (karakorum @ 01.08.2008 - время: 23:38) Я думаю есть определённая степень опасности при таком безудержном росте нечеловеческого интеллекта. Просто у всех людей так - более хитрый и сильный всегда кушает более глупого и слабого. И я не уверен. что исскуственный интеллект рано или поздно не дойдёт до возможности каких либо враждебных действий или что то в этом роде. Разве нет такой опасности? Никогда нельзя знать что на уме у оппонента. А тут оппонент будет очень сильный, и трудно будет понять его логику. Согласны? У Вас нет таких мыслей?
1. по моим наблюдениям, чем умнее и мудрее существо, тем более гуманны поступки...
2. компьютер не испытывает боли, и проч... откуда у него возьмется жадность, жажда власти, страх? это железка!.
3. я думаю, что компьютеры интегрируются с мозгом, и это будут внутренние наши приспособления для мышления. тогда - такой киборг может захотеть власти (гипотетически) так не давайте кому попало микросхемы!
А кто гарантирует, что простое население получит что то от Сингулярности
Тот кто сейчас держит бразды правления мировыми процессами, тот не позволит простому человечеству иметь силу - силу любого вида. Правители боятся сильных, знающих и многое умеющих подданых...
Возможно, что о плодах такого развития будет известно лишь немногим. И жить вечно и без болезней смогут лишь немногие... И сверхтехнологии будут использоваться лишь в интересах этих немногих. Может ведь быть такое, верно?

А ещё читал, что как ни развилось человечество, не стало оно счастливее. Возможно, что и тогда не станет. Видимо счастье человека от другого зависит чего то....

P.S. Вот такие вот небольшие наброски...

(karakorum @ 01.08.2008 - время: 23:38)Я думаю есть определённая степень опасности при таком безудержном росте нечеловеческого интеллекта. Просто у всех людей так - более хитрый и сильный всегда кушает более глупого и слабого. И я не уверен. что исскуственный интеллект рано или поздно не дойдёт до возможности каких либо враждебных действий или что то в этом роде. Разве нет такой опасности? Никогда нельзя знать что на уме у оппонента. А тут оппонент будет очень сильный, и трудно будет понять его логику. Согласны? У Вас нет таких мыслей?
Действительно сложность в определении действий оппонента - ИИ (искусственного интеллекта) высока. Однако множество потенциальных решений ИИ конечно, что нельзя сказать о человеке. К тому же многогранность функциональной энтропии человека и подсознания сложно представить известными моделями неопределенности, такими как: Мамдани, Сугено, Цукомото, Ларсена и др. Подходы моделей основанных на нейронных сетях претерпевают сложности в своем развитии, последнее ответвление – вейвлет-нейрон тоже вызывает опасения, что процесс развития нейро-компьютеров остановится. Необходим принципиально новый подход, возможно теория фракталов и мультифракталов позволит построить всеобъемлющую концепцию ИИ. К сожалению, в этом сложном вопросе прикладная математика дает сбои, а философия уводит исследователей от четкой цели.

Думаю современный общественный строй (прежде всего система ценностей) не способствует возникновению технологической сингулярности. Скорее всего пик техн. развития уже пройден, дальше может пойти регрес вплоть до уровня средневековья (это если еще повезет).

(karakorum @ 02.08.2008 - время: 17:24) А кто гарантирует, что простое население получит что то от Сингулярности
Тот кто сейчас держит бразды правления мировыми процессами, тот не позволит простому человечеству иметь силу - силу любого вида. Правители боятся сильных, знающих и многое умеющих подданых...
Возможно, что о плодах такого развития будет известно лишь немногим. И жить вечно и без болезней смогут лишь немногие... И сверхтехнологии будут использоваться лишь в интересах этих немногих. Может ведь быть такое, верно?

В начале 90-х правительство Соединенных Штатов выделило 3 миллиарда долларов на 15-летний проект "Геном человека". Но мало кто верил, что такая сложная работа будет выполнена за столь короткий срок.

в 2000 году он был завершен. на 5 лет раньше! технологии развиваются и дешевеют стремительно!

недавно 2 фирмы объявили, что к концу этого года коммерческая расшифровка гена любому желающему будет стоить 100 долларов. понадобятся сутки!

3 миллиарда и 15 лет против 100 и 24 часа! вы понимаете скорость прогресса?

наверно в 90 годах, тоже были скептики, которые считали, что это смогут себе позволить только миллиардеры!!!

имеющий уши, да услышит!

(masta888 @ 04.08.2008 - время: 15:10) (karakorum @ 02.08.2008 - время: 17:24) А кто гарантирует, что простое население получит что то от Сингулярности
Тот кто сейчас держит бразды правления мировыми процессами, тот не позволит простому человечеству иметь силу - силу любого вида. Правители боятся сильных, знающих и многое умеющих подданых...
Возможно, что о плодах такого развития будет известно лишь немногим. И жить вечно и без болезней смогут лишь немногие... И сверхтехнологии будут использоваться лишь в интересах этих немногих. Может ведь быть такое, верно?

В начале 90-х правительство Соединенных Штатов выделило 3 миллиарда долларов на 15-летний проект "Геном человека". Но мало кто верил, что такая сложная работа будет выполнена за столь короткий срок.

в 2000 году он был завершен. на 5 лет раньше! технологии развиваются и дешевеют стремительно!

недавно 2 фирмы объявили, что к концу этого года коммерческая расшифровка гена любому желающему будет стоить 100 долларов. понадобятся сутки!

3 миллиарда и 15 лет против 100 и 24 часа! вы понимаете скорость прогресса?

наверно в 90 годах, тоже были скептики, которые считали, что это смогут себе позволить только миллиардеры!!!

имеющий уши, да услышит!
Интересная информация, а конкретные ссылки есть? Хотелось бы узнать какой матаппарат под это подложен.