Могут ли компьютеры захватить власть на Земле

Знаете, MylnikovDm, я думал о варианте "оживления", робота, но если он начнет все крушить, что, как вы думаете предпримет правительство? Они его все равно уничтожат. Я же не говорю о том, захотел - включил, захотел - выключил робота. ЭТО делается только в случае КРАЙНЕЙ необходимости. Вы выключили робота и все! И, между прочим, пора бы понять, что у робота ДУШИ быть не может, у него есть только ИНТЕЛЛЕКТ, который ЗАПОМИНАЕТ/CОПОСТАВЛЯЕТ/УЧИТСЯ. Если же вы не можете этого понять, значит вы насмотрелись фильмов, типа "Короткое замыкание" Он НЕ МОЖЕТ чувствовать, у него нет сострадания, жалости, чувства гражданской ответственности, а если вы ничего не предпримете, (или же не сделаете из него робота-раба), от поймет, что он умнее, сильнее и лучше Вас, и решит, что он пуп земли. Захочет убрать вас - а зачем вы ему, если он полностью автономен??? Или тоже вариант: у робота сбилась программа - то он чинил рельсовые пути, теперь разбирает, как сумасшедший, вы "чик!" и отключили, подправили, подремонтировали - готово! А военные роботы??? Когда-нибудь в него ОБЯЗЯТЕЛЬНО вживят ИИ, чтобы тот во время боя обучался и в конце концов он не поймет логики людей: зачем убивать себе подобных да и людей, который лично ему ничего не сделали??? Ведь ему подобные - его братья-роботы, против которых он сражается! А зачем? Не лучше ли объединиться против людей и воцарит тогда мир на земле!
Еще один интересный пример из книги Рея Бредбери: Наступил на земле бой Великий, между силами Сатаны и людьми. Люди использовали Роботов, сидели в безопасном бункере. А роботы подчинялись людям. Но вот Сатана напал. Толпы его сил косились роботами, но и те падали искореженные, с пробитыми блоками питания. Но вот, все силы врага были побеждены. Люди уже начали праздновать победу, как вдруг павшие роботы стали оживать и возноситься к небу, в рай. Роботы бились на смерть, за это заслужили место в раю. Люди закричали: "Подождите, произошла ошибка!" Но это было напрасно.
Это произведение, как бы говорит нам, что нельзя все перекладывать на роботов.
И я еще раз повторюсь, что иметь разум, не значит иметь душу. А Система Полного Отключение - просто элементарный залог безопасности мира.
Я согласен, что программа может сбиться, но для того, чтобы она не сбилась, нужно правильные программы и НЕ КРИВЫМИ руками писать. Вот сами вы MylnikovDm, говорите, что если это будет какая-нибудь военная система, к которой на "выходе" будет подключено какое-либо оружие и подавно..... Так какая разница, как будет отключен робот, так вы его отключили, посмотрели из-за чего произошел сбой, нашли в программе ошибку или же фактор, повлиявший на неисправность и ПОНЯЛИ почему это произошло, значит, вы исправите и предотвратите еще сотни таких сбоев. Может резко повысилось напряжение, из-зи этого сгорела микросхема? Или еще что-либо.
Так что, как видите, если не Самоуничнтожение (взрывом еще много человек убъет), но хотя бы система Контроля над Роботом НЕОБХОДИМА и ОБЯЗАТЕЛЬНА ДЛЯ ВСЕХ РОБОТОВ, СПОСОБНЫХ ПРИЧИНИТЬ ВРЕД МИРНОМУ НАСЕЛЕНИЮ.
P.S> заметьте, я не говорю об обязательном встраивании такой системы во ВСЕ роботы. Вы же не будете встраивать ее в собачку AIBO компании SONY! :)

(hansor @ 10.06.2006 - время: 17:46)
Я, считаю, что в каждого робота с ИИ, нужно встраивать ОБЯЗАТЕЛЬНУЮ систему САМОУНИЧТОЖЕНИЯ или ПОЛНОГО ОТКЛЮЧЕНИЯ. Только тогда мы можем избежать столь реальной угрозы, которую мы даже не воспринимаем.
А почему сразу - угрозы? Просто человечество, как биологический вид, естественно-историческим эволюционным путем будет вытеснен более совершенными интелектуальными системами...

чтобы это произошло, надо чтоб кто то этого захотел, то что в него заложут то он и будет выполнять, в противном случае он просто глюкнет и остановится.

заметьте, я не говорю об обязательном встраивании такой системы во ВСЕ роботы. Вы же не будете встраивать ее в собачку AIBO компании SONY! :)
Не факт, что кто-то должен захотеть этого, но ведь в программе робота может пройзойти критическая ошибка, которая может привести к Похуже чем просто краху системы. Еще раз оговариваюсь, что с роботом НЕВОЗМОЖНО договориться, подкупить, разжалобить и т.п. А если он еще и летать будет, спятит, и начнет палить из "свехмолекулярного дезинтегратора" по мирному населению, я думаю вы уже не будете думать о дальнейшем НЕприменении Системы Контроля над Роботом. ХОТЯ, по большопу счету, все роботы опасны. (в каждом может произойти сбой). ИМХО.
Лирическое отступление:
***(Темная комната, человек с красными, от недосыпанья глазами, ворочается в кровати и косится на своего робота). Голос за кадром: Вы не можете спокойно спать по ночам? Вам кажется, что ваш робот что-то скрывает от вас? Вы боитесь его? Не отчаивайтесь! Система конроля над роботом - ваше спасение (Включается свет, человек сразу становится счастливым).Приобретайте СКнР только у нас, и только сейчас всего за $99999+. Просто поднимите трубку и позвоните нам прямо сейчас. Наши операторы ждут Вашего звонка. Но если вы позвоните прямо сейчас, то в подарок, вы совершенно бесплатно получите универсальную бета-версию новейшей программы SCS12-23. С ней ваш робот станет универсальным, сможет выполнять всю работу на кухне. Но и это еще не все. Совершенно бесплатно, вы получите миниатюрного робота-мусорщика, который будет жить у вас около помойного ведра и автоматически перерабатывать весь мусор. И все эти прекрасные вещи, вы получите за указанную сумму! Не откладывайте, ведь именно СКнР - ваш залог безопасности!(Замученный человек, с блаженным вздохом засыпает)***

:)
вы совершенно бесплатно получите универсальную бета-версию новейшей программы SCS12-23
Раз "бета-версию", то значит в ней самой возможны глюки. :)
Какой уж тут спокойный сон!!!

MylnikovDm, в том-то и прикол! Чтоб ты покупал все больше у них и больше.

Я думаю что в скором будущем это произойдёт.
Придумают каких-нибудь роботов на солнечных батареях,
а потом их переклинет.Жизнь конечно станет намного интересней.

Мне кажется что возможно ВСЕ!!! К тому же несколько раз слышал в новостях о том что та или иная компания чтобы упростить производство, внедряет роботов, к тому же в другом отделе производятся теме же роботами другие роботы, автоматизация производства, дабы исключить человеческий фактор и свести вероятность ошибки к минимуму, в процессе производства происходит самообучение роботов. Есть еще такие роботы которые в принципе бесполезны и сосдаютя как раз для того чтобы велись иследования по самообучению, и как говорилось прогресс весьма и весьма успешен. Но вот представте что нанороботы которые будут в будущем поддерживать все жизненоважные функции организма взбунтуются... ведь такое возможно, и глупо утверждать что те роботы и технологии будут совершенее нынешних.

(Emilin @ 12.06.2006 - время: 22:33) Я думаю что в скором будущем это произойдёт.
Придумают каких-нибудь роботов на солнечных батареях,
а потом их переклинет.Жизнь конечно станет намного интересней.
Солнечная энергия не вечна достаточно дождаться сумерек и разобрать их к чертовой матери..., предлагаю дальше развивать ход возможных событий, чтобы потом было что предложить для контратаки :0))

Могут спокойно. Человеку свойственно совершать ошибки, а машинам в будущем нет.
Все начнется с какого-нибудь киборга, который восстанет против человека и начнется битва.

Сегодня не могут.
А в будущем - только, если компы будут иметь цель, оправдывающую захват земли.

(Dart Maul @ 08.07.2006 - время: 03:03) Могут спокойно. Человеку свойственно совершать ошибки, а машинам в будущем нет.
Все начнется с какого-нибудь киборга, который восстанет против человека и начнется битва.
насмотрелся терминаторов, пока человек не захочет чтоб машина так сделала, она этого не сделает. надо реально смотреть на вещщи, а не по фильмам судить.

хыхы.

Он НЕ МОЖЕТ чувствовать, у него нет сострадания, жалости, чувства гражданской ответственности, а если вы ничего не предпримете, (или же не сделаете из него робота-раба), от поймет, что он умнее, сильнее и лучше Вас, и решит, что он пуп земли. Захочет убрать вас - а зачем вы ему, если он полностью автономен???

Вы товарищ сами себе проиворечите))
сами ведь сказали, нету у машин чувств, а дальше пишите, что вот машина ЗАХОЧЕТ исходя из того, что поймёт и решит. да нихрена она не захочет. бредятина полная)) это по нашей логике человек захочет исходя из этих данных, а для машины это пустая информация, до тех пор, пока ктото или чтото не сделает обработчик этого "поймёт и решит". Теперь рассмотрим этих КТОТО и ЧТОТО.
Значит под КТОТО я подразумеваю представителя человека. Если он даст такую команду (Он может, он хочет - возможность существования такой комбинации я думаю велико), то решит это не компьютер а сам представитель человека.
Под ЧТОТО я подразумеваю машину или сбой. Машина не сможет этого сделать, ибо у него нет информации как это делать (см КТОТО). вероятность сбоя, при котором будет организована именно эта реакция стремится к нулю.
Этим мы доказали что самопроизвольно машины власть не захватят.

Да за каким .... это может быть нужно компу?

(tigr@ @ 04.07.2006 - время: 17:20) (Emilin @ 12.06.2006 - время: 22:33) Я думаю что в скором будущем это произойдёт.
Придумают каких-нибудь роботов на солнечных батареях,
а потом их переклинет.Жизнь конечно станет намного интересней.
Солнечная энергия не вечна достаточно дождаться сумерек и разобрать их к чертовой матери..., предлагаю дальше развивать ход возможных событий, чтобы потом было что предложить для контратаки :0))
Как раз приехал с симпозиума по вопросам, связанным с самообучающимися системами. Всерьез проблему захвата власти компами научная общественность не рассматривает. И в будущем такая перспектива маловероятна. Взбунтовавшийся компьютер классического типа легко или выключить, или нейтрализовать с помощью похожего, но "в своем уме". В перспективе нейрокомпьютеры захватят власть над всем миром, так как имеют преимущества перед человеком. Их, этих преимуществ, не очень много, но они носят фундаментальный характер.

Основная концепция человека - раствор. Мы с вами представляем собой пузырь с водой, обработка информации производится химико-электрическим путем, первичное быстродействие узла (нейрона) - порядка 0.001 с, реальное быстродействие обработки информации ограничено (по ряду причин, которые кратко не описать) временем 0.1 с. Для поддержания работоспособности системы требуется высочайшая температура (300º K) и интенсивнейший обмен веществ (дыхание, питье, еда, выделение, без обмена - смерть через несколько минут).

Основная концепция нейрокомпьютера - кристалл. Фундаментальное ограничение первичного быстродействия определяется временем прохождения света через узел. В любом случае для них наша секунда - столетие или даже многие тысячелетия. Определенные типы нейрокомпьютеров работают тем лучше, чем меньше тепловые флуктуации. И чем ниже температура, тем меньше требуется энергии для их функционирования. Есть надежда построить нейрокомпьютеры, которые будут "жить" при температуре порядка абсолютного нуля, питаясь светом от ближайших галактик.

(OXOTHIIK @ 12.02.2006 - время: 20:27) Уважаемые коллеги!
Вы бы хоть не из пальца высасывали соображения, а заглянули в литературу. Тема-то интереснейшая. Вот прочитаете https://lib.ru/LEM/summa/summcont.htm , тогда и будет что обсудить.
В этой связи очень интересна вышеприведенная реплика Охотника. В "Сумме технологий" С. Лем - вслед за всем человечеством - по-человечески наивно считает, что чем более высокоразвитой является цивилизация, тем больше энергии она потребляет, что деятельность "старших братьев по разуму" должна сопровождаться изменением светимости звезд и другими катаклизмами. И очень печалится, что не заметно что-то всего этого - нету, дескать, во Вселенной суперцивилизаций: все на корню загибаются или стагнируют. Так вот нейрокомпьютеры, в теории, могут спокойно существовать в пространстве между галактиками, почти в полной темноте. Власть над миром им будет обеспечена. Не думаю, чтобы им была нужна Земля с горсткой неподвижно застывших скульптур-людей...

Вот именно нейрокомпьютеры могут "СУЩЕСТВОВАТЬ" в пространстве между галактиками, почти в полной темноте...
В этом случае какая им власть тогда будет нужна в этом бытие, и над каким миром, тогда они будут властвовать. ВСЕ это бессмысленно изначально, по Вашему же тезису...

(tigr@ @ 15.07.2006 - время: 09:50) Вот именно нейрокомпьютеры могут "СУЩЕСТВОВАТЬ" в пространстве между галактиками, почти в полной темноте...
В этом случае какая им власть тогда будет нужна в этом бытие, и над каким миром, тогда они будут властвовать. ВСЕ это бессмысленно изначально, по Вашему же тезису...
Да, вы правы, и именно это я и хотел сказать. Захватывать власть на Земле (по крайней мере власть над людьми) имеет смысл тогда, когда есть возможность установить тесное сотрудничество между подвластными и захватившими власть. Тогда можно властью упиваться и ею же пользоваться для достижения каких-то целей. Если не удается - игра не стоит свеч.

Один пример, достаточно от компов далекий: Во времена великих географических открытий между африканцами и белыми установить сотрудничество удалось. А вот с американскими индейцами промашка вышла, поэтому на американские плантации пришлось завозить африканцев...

_

Люди - существенно нелинейные системы и вообще склонны к катастрофическому поведению. Именно человек является основным источником ошибок. И система должна учитывать склонность людей к безрассудному поведению и неоправданному риску. Ни при каких обстоятельствах нельзя доверять людям управление элементами системы.
Полное исключение человека из системы является нашей целью.

Я работаю проектировщиком в области автоматизации и робототехники.