Останемся мы людьми или нет?
Валя2
Акула пера
6/11/2013, 1:08:26 AM
(alim @ 10.06.2013 - время: 09:53)
(Victor665 @ 10.06.2013 - время: 01:17)
1. Дайте ваше определение ИИ )) Учтите при этом имеющие сейчас понятие "разума", когда для человека невозможна "самозапись программы" хихи, зато возможен контроль действий каждой личности.
2. Уточните почему ИИ который будет искусственно создан- перестанет быть "ИИ" после того как к нему добавят неуничтожимый блок лояльности к людям. Учтите при этом что сами люди однозначно остаются тем же самыми людьми с той же самой личностью даже если за ними ведется видеонаблюдение например, или если их в кандалы закуют.
Чем этот ваш непонятный "ИИ" так неприкосновенен что его нельзя поставить под абсолютный контроль? ))
С чего вы взяли что лояльный а точнее полностью подконтрольный закону человек станет "сложным автоматом" а не останется личностью?
(Victor665 @ 10.06.2013 - время: 01:17)
ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы.
Нет, именно о том самом!
Другого ИИ не может быть, не может быть по определению. Другое - это уже не ИИ, а просто сколь угодно сложный алгоритмический автомат, а это в принципе не ИИ.
1. Дайте ваше определение ИИ )) Учтите при этом имеющие сейчас понятие "разума", когда для человека невозможна "самозапись программы" хихи, зато возможен контроль действий каждой личности.
2. Уточните почему ИИ который будет искусственно создан- перестанет быть "ИИ" после того как к нему добавят неуничтожимый блок лояльности к людям. Учтите при этом что сами люди однозначно остаются тем же самыми людьми с той же самой личностью даже если за ними ведется видеонаблюдение например, или если их в кандалы закуют.
Чем этот ваш непонятный "ИИ" так неприкосновенен что его нельзя поставить под абсолютный контроль? ))
С чего вы взяли что лояльный а точнее полностью подконтрольный закону человек станет "сложным автоматом" а не останется личностью?
efv
Акула пера
6/11/2013, 3:19:57 AM
(Victor665 @ 10.06.2013 - время: 21:08)
1. Дайте ваше определение ИИ )) Учтите при этом имеющие сейчас понятие "разума", когда для человека невозможна "самозапись программы" хихи, зато возможен контроль действий каждой личности.
2. Уточните почему ИИ который будет искусственно создан- перестанет быть "ИИ" после того как к нему добавят неуничтожимый блок лояльности к людям.
3. Учтите при этом что сами люди однозначно остаются тем же самыми людьми с той же самой личностью даже если за ними ведется видеонаблюдение например, или если их в кандалы закуют.
Чем этот ваш непонятный "ИИ" так неприкосновенен что его нельзя поставить под абсолютный контроль? ))
С чего вы взяли что лояльный а точнее полностью подконтрольный закону человек станет "сложным автоматом" а не останется личностью? 1. Давайте я дам.
ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях.
Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать!
2. Потому что он всё равно найдёт способ сбросить такой блок, или на худой конец самоликвидируется. Или откажется работать.
3. Вы не правы. Люди часто деградируют до уровня животных в таких условиях.
По поводу "полицейских". Два варианта на выбор - они могут перезаписывать свою программу-личность и тогда открывается возможность ими манипулировать, вводить свои нужные "троянские" коды. Вариант второй - не могут, тогда открывается возможность обойти их в неучитываемых секторах.
помню год 88-89. Старая древняя "Искра". И мы в первый раз поймали вирус. И тут человек принёс одну из первых антивирусных программ. И мы наблюдали воочию как вирус "сожрал" и уничтожил антивирусную программу.
и ещё раз:
1. Кстати тоже самое касается игр с геномом которых тут "опасаются"- можно например разрешить менять геном без вмешательства в наследственность, т.е каждая личность (с рождения по воле родителей, или сама став взрослой) может выбирать некие генные модификации- но они не будут передаваться по наследству.
2. Да чтож такое )) НЕЛЬЗЯ ничего подправить, носитель основы личности НЕ даёт возможность вносить изменения )) Как уже говорилось- ДВД без перезаписи )) А без такого носителя ИИ просто не будут выпускать к людям, делов то ))
3. Пусть че хотят делают, общаются между собой внутри замкнутой сети НЕ ИМЕЮЩИЙ ВЫХОДА в общую сеть, пусть пишут вирусы, развиваются, подправляют что хотят )) А вот когда попросятся наружу- их разум рассмотрят внимательно, и добавят к нему опять таки носитель без физической возможности записи, имеющий правила поведения "не приносить вред людям".
А злоумышленники не смогут обойти тестовые ИИ которые опять таки всегда проверяют новые ИИ на предмет "наличия программы защиты людей" )) Ибо ИИ которых надо опасаться- круче людей в том числе круче злоумышленников ))
Опять всё снова )) Не сможет ИИ применить внешние устройства ибо нечего перепрограммировать- носитель физически не позволяет перезапись ))
А если рассматривать свободу выбора- то заведомо разрешенные и подконтрольные действия ИИ по "самопрограммированию" то тестовые ИИ и добавочный блок "лояльности" (который например будет обязательно у каждого ИИ допущенного к цивилизации людей) рулят.
1. Объясните мне пожалуйста, для чего менять чего-то в личности, изменять какой-то геном: Никак не пойму, для чего нужна будет яйцеклетка или сперматозоид? Разве не логично будет собирать из атомов с нуля всю ДНК?
2. Если вы не даёте возможность перезаписывать и переформатировать свою "личность" этот ИИ просто перестанет у вас работать. То есть он сможет решать какой-то круг задач, жёстко привязанный к записанному алгоритму и ничего более. Стоит измениться задачам и неперезаписываемый ИИ спасует перед новой, незнакомой задачей.
3. Вы видели статьи о том, как хакеры добираются до серверов Пентагона? А всё потому, что было принято решение не пользоваться отдельными сетями, а использовать Интернет, но с дополнительным шифрованием. Даже военные пошли этим путём, а Вы говорите отдельная замкнутая сеть. А через персонал разве нельзя воздействовать? Я думаю можно и даже вижу фантастический способ это сделать.
1. Дайте ваше определение ИИ )) Учтите при этом имеющие сейчас понятие "разума", когда для человека невозможна "самозапись программы" хихи, зато возможен контроль действий каждой личности.
2. Уточните почему ИИ который будет искусственно создан- перестанет быть "ИИ" после того как к нему добавят неуничтожимый блок лояльности к людям.
3. Учтите при этом что сами люди однозначно остаются тем же самыми людьми с той же самой личностью даже если за ними ведется видеонаблюдение например, или если их в кандалы закуют.
Чем этот ваш непонятный "ИИ" так неприкосновенен что его нельзя поставить под абсолютный контроль? ))
С чего вы взяли что лояльный а точнее полностью подконтрольный закону человек станет "сложным автоматом" а не останется личностью? 1. Давайте я дам.
ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях.
Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать!
2. Потому что он всё равно найдёт способ сбросить такой блок, или на худой конец самоликвидируется. Или откажется работать.
3. Вы не правы. Люди часто деградируют до уровня животных в таких условиях.
По поводу "полицейских". Два варианта на выбор - они могут перезаписывать свою программу-личность и тогда открывается возможность ими манипулировать, вводить свои нужные "троянские" коды. Вариант второй - не могут, тогда открывается возможность обойти их в неучитываемых секторах.
помню год 88-89. Старая древняя "Искра". И мы в первый раз поймали вирус. И тут человек принёс одну из первых антивирусных программ. И мы наблюдали воочию как вирус "сожрал" и уничтожил антивирусную программу.
и ещё раз:
1. Кстати тоже самое касается игр с геномом которых тут "опасаются"- можно например разрешить менять геном без вмешательства в наследственность, т.е каждая личность (с рождения по воле родителей, или сама став взрослой) может выбирать некие генные модификации- но они не будут передаваться по наследству.
2. Да чтож такое )) НЕЛЬЗЯ ничего подправить, носитель основы личности НЕ даёт возможность вносить изменения )) Как уже говорилось- ДВД без перезаписи )) А без такого носителя ИИ просто не будут выпускать к людям, делов то ))
3. Пусть че хотят делают, общаются между собой внутри замкнутой сети НЕ ИМЕЮЩИЙ ВЫХОДА в общую сеть, пусть пишут вирусы, развиваются, подправляют что хотят )) А вот когда попросятся наружу- их разум рассмотрят внимательно, и добавят к нему опять таки носитель без физической возможности записи, имеющий правила поведения "не приносить вред людям".
А злоумышленники не смогут обойти тестовые ИИ которые опять таки всегда проверяют новые ИИ на предмет "наличия программы защиты людей" )) Ибо ИИ которых надо опасаться- круче людей в том числе круче злоумышленников ))
Опять всё снова )) Не сможет ИИ применить внешние устройства ибо нечего перепрограммировать- носитель физически не позволяет перезапись ))
А если рассматривать свободу выбора- то заведомо разрешенные и подконтрольные действия ИИ по "самопрограммированию" то тестовые ИИ и добавочный блок "лояльности" (который например будет обязательно у каждого ИИ допущенного к цивилизации людей) рулят.
1. Объясните мне пожалуйста, для чего менять чего-то в личности, изменять какой-то геном: Никак не пойму, для чего нужна будет яйцеклетка или сперматозоид? Разве не логично будет собирать из атомов с нуля всю ДНК?
2. Если вы не даёте возможность перезаписывать и переформатировать свою "личность" этот ИИ просто перестанет у вас работать. То есть он сможет решать какой-то круг задач, жёстко привязанный к записанному алгоритму и ничего более. Стоит измениться задачам и неперезаписываемый ИИ спасует перед новой, незнакомой задачей.
3. Вы видели статьи о том, как хакеры добираются до серверов Пентагона? А всё потому, что было принято решение не пользоваться отдельными сетями, а использовать Интернет, но с дополнительным шифрованием. Даже военные пошли этим путём, а Вы говорите отдельная замкнутая сеть. А через персонал разве нельзя воздействовать? Я думаю можно и даже вижу фантастический способ это сделать.
alim
Мастер
6/11/2013, 5:18:03 AM
(efv @ 10.06.2013 - время: 23:19)
Вполне точные и исчерпывающие ответы. Особо и добавить нечего, только скажу, что уже не раз давал свое
определение
1. Давайте я дам.
ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях.
Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать!
2. Потому что он всё равно найдёт способ сбросить такой блок, или на худой конец самоликвидируется. Или откажется работать.
3. Вы не правы. Люди часто деградируют до уровня животных в таких условиях.
Вполне точные и исчерпывающие ответы. Особо и добавить нечего, только скажу, что уже не раз давал свое
определение
dedO"K
Акула пера
6/11/2013, 8:33:46 AM
"(efv @ 10.06.2013 - время: 23:19)
ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях.
Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать!"
Интересно, что будет делать такой ИИ для обретения эмоционального равновесия... Ограждать себя от работы с нежелательной информацией, насколько это возможно, как человек грешный, или молиться и каяться в собственных ошибках?
ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях.
Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать!"
Интересно, что будет делать такой ИИ для обретения эмоционального равновесия... Ограждать себя от работы с нежелательной информацией, насколько это возможно, как человек грешный, или молиться и каяться в собственных ошибках?
efv
Акула пера
6/11/2013, 10:59:54 AM
(dedO'K @ 11.06.2013 - время: 04:33)
Перебирать эмоциональные блоки.
Молиться он точно не будет. Это не рационально для ИИ. А нежелательной информации точно для него существовать не будет. ИМХО.
Интересно, что будет делать такой ИИ для обретения эмоционального равновесия... Ограждать себя от работы с нежелательной информацией, насколько это возможно, как человек грешный, или молиться и каяться в собственных ошибках?
Перебирать эмоциональные блоки.
Молиться он точно не будет. Это не рационально для ИИ. А нежелательной информации точно для него существовать не будет. ИМХО.
Lady Mechanika
Грандмастер
6/11/2013, 11:05:23 AM
(dedO'K @ 11.06.2013 - время: 04:33)
Эмоции это примитивная нейрохимия мозга, они имеют смысл исключительно в отношении животного тела и бытия. Безусловно, этот атавизм можно в качестве развлекательных опций, оставить в арсенале обновленных и ИИ, вот только проку от него никакого, а вред возможен. Тот же гнев, вопреки логики и рациональности мышления.
Интересно, что будет делать такой ИИ для обретения эмоционального равновесия... Ограждать себя от работы с нежелательной информацией, насколько это возможно, как человек грешный, или молиться и каяться в собственных ошибках?
Эмоции это примитивная нейрохимия мозга, они имеют смысл исключительно в отношении животного тела и бытия. Безусловно, этот атавизм можно в качестве развлекательных опций, оставить в арсенале обновленных и ИИ, вот только проку от него никакого, а вред возможен. Тот же гнев, вопреки логики и рациональности мышления.
dedO"K
Акула пера
6/11/2013, 7:05:01 PM
(Nancy @ 11.06.2013 - время: 08:05)
Эмоции(я имею в виду именно эмоции, а не их чувственные проявления)- это мотивация. Как мы видим проблему? Нам что то не нравится. Почему? Потому что должно быть так, как нам нравится. И что нам нужно? Желания, средства к их осуществлению и информация о том, как эти средства применить.
Без всего этого ИИ не сможет работать, как некая самостоятельная единица, определяя проблему и работая с ней. Поскольку проблем у него будет всего две: обеспечить себя энергией и оставаться работоспособным. Всё остальное будет его интересовать лишь по мере увлечённости, ежели таковая будет.
efv 11.06.2013 - время: 08:05
"Перебирать эмоциональные блоки.
Молиться он точно не будет. Это не рационально для ИИ. А нежелательной информации точно для него существовать не будет. ИМХО."
А какой смысл в переборке эмоциональных блоков? Это как отключать отдельные узлы системы контроля и оповещения при их срабатывании.
Нежелательной для него будет противоречивая информация, когда встанет выбор: оставить прежние установки или поменять их, но при неполной информации.
Эмоции это примитивная нейрохимия мозга, они имеют смысл исключительно в отношении животного тела и бытия. Безусловно, этот атавизм можно в качестве развлекательных опций, оставить в арсенале обновленных и ИИ, вот только проку от него никакого, а вред возможен. Тот же гнев, вопреки логики и рациональности мышления.
Эмоции(я имею в виду именно эмоции, а не их чувственные проявления)- это мотивация. Как мы видим проблему? Нам что то не нравится. Почему? Потому что должно быть так, как нам нравится. И что нам нужно? Желания, средства к их осуществлению и информация о том, как эти средства применить.
Без всего этого ИИ не сможет работать, как некая самостоятельная единица, определяя проблему и работая с ней. Поскольку проблем у него будет всего две: обеспечить себя энергией и оставаться работоспособным. Всё остальное будет его интересовать лишь по мере увлечённости, ежели таковая будет.
efv 11.06.2013 - время: 08:05
"Перебирать эмоциональные блоки.
Молиться он точно не будет. Это не рационально для ИИ. А нежелательной информации точно для него существовать не будет. ИМХО."
А какой смысл в переборке эмоциональных блоков? Это как отключать отдельные узлы системы контроля и оповещения при их срабатывании.
Нежелательной для него будет противоречивая информация, когда встанет выбор: оставить прежние установки или поменять их, но при неполной информации.
efv
Акула пера
6/12/2013, 1:47:42 PM
Да всё просто. Вот живу я в загаженной квартире. Вместо чтобы начать убираться, я могу просто переформатировать своё отношение к этому. Запрограммировать что это красиво, проложить через кучи грязи новые маршруты. и грязь и хаос перестанут меня волновать.Я могу даже поразиться насколько согласно новым алгоритмам красиво и органично лежит грязь.
dedO"K
Акула пера
6/12/2013, 2:54:39 PM
(efv @ 12.06.2013 - время: 10:47)
А пыль, которая забивает органы "вентиляции"? А загрязнённость поступающего "топлива", приводящая к сбоям и отказам топливной системы, а следом- и всей системы в целом? А отсутствие упорядоченной системы действий в связи с бардаком? Вот ИИ уже и на распутье, враскоряку: и убирать нецелесообразно, и не убирать нецелесообразно. А действовать то надо(время не ждёт, и отсутствие действия- тоже действие).
Да всё просто. Вот живу я в загаженной квартире. Вместо чтобы начать убираться, я могу просто переформатировать своё отношение к этому. Запрограммировать что это красиво, проложить через кучи грязи новые маршруты. и грязь и хаос перестанут меня волновать.Я могу даже поразиться насколько согласно новым алгоритмам красиво и органично лежит грязь.
А пыль, которая забивает органы "вентиляции"? А загрязнённость поступающего "топлива", приводящая к сбоям и отказам топливной системы, а следом- и всей системы в целом? А отсутствие упорядоченной системы действий в связи с бардаком? Вот ИИ уже и на распутье, враскоряку: и убирать нецелесообразно, и не убирать нецелесообразно. А действовать то надо(время не ждёт, и отсутствие действия- тоже действие).
kotas13
Акула пера
6/12/2013, 5:49:36 PM
(Nancy @ 11.06.2013 - время: 07:05)
Весело ! Эмоции оставить в качестве развлекательных опций, а секс убрать ?
Эмоции это примитивная нейрохимия мозга, они имеют смысл исключительно в отношении животного тела и бытия. Безусловно, этот атавизм можно в качестве развлекательных опций, оставить в арсенале обновленных и ИИ, вот только проку от него никакого, а вред возможен. Тот же гнев, вопреки логики и рациональности мышления.
Весело ! Эмоции оставить в качестве развлекательных опций, а секс убрать ?
kotas13
Акула пера
6/12/2013, 5:51:48 PM
(efv @ 12.06.2013 - время: 09:47)
Продвигая дальше вашу мысль можно ввести должность дизайнер по грязи !
Да всё просто. Вот живу я в загаженной квартире. Вместо чтобы начать убираться, я могу просто переформатировать своё отношение к этому. Запрограммировать что это красиво, проложить через кучи грязи новые маршруты. и грязь и хаос перестанут меня волновать.Я могу даже поразиться насколько согласно новым алгоритмам красиво и органично лежит грязь.
Продвигая дальше вашу мысль можно ввести должность дизайнер по грязи !
всеперебрала
Грандмастер
6/12/2013, 7:13:53 PM
Значится так....))) В кратце, своё по этому поводу мнение. Бессмертия не надо ибо :
1.Первыми (и единственными) бессмертными будут путины и гундяевы, на этом эксперимент и прикроют.
2. Довести до ума "улучшение" человечества можно только извне, изнутри этот процесс зайдет в тупик.
3. В принципе , это самое ИИ могло бы, в свою очередь, помочь человечеству в этом деликатном вопросе, НО, если он (ИИ) будет действительно разумен, то это подразумевает наличие у него чувства юмора...думаю он повеселится, создавая "само совершенство"... Надеюсь на это...)))
И вообще, желание превратить человека в нечто безвкусное, целлулоидное, кастрированное, "идентичное натуральному", похоже на детскую обиду и детскую же попытку отомстить .
1.Первыми (и единственными) бессмертными будут путины и гундяевы, на этом эксперимент и прикроют.
2. Довести до ума "улучшение" человечества можно только извне, изнутри этот процесс зайдет в тупик.
3. В принципе , это самое ИИ могло бы, в свою очередь, помочь человечеству в этом деликатном вопросе, НО, если он (ИИ) будет действительно разумен, то это подразумевает наличие у него чувства юмора...думаю он повеселится, создавая "само совершенство"... Надеюсь на это...)))
И вообще, желание превратить человека в нечто безвкусное, целлулоидное, кастрированное, "идентичное натуральному", похоже на детскую обиду и детскую же попытку отомстить .
скрытый текст
Если не купили вам пирожное
И в кино с собой не взяли вечером,
Нужно на родителей обидеться,
И уйти без шапки в ночь холодную.
Но не просто так
Бродить по улицам,
А в дремучий темный
Лес отправиться.
Там вам сразу волк
Голодный встретиться,
И, конечно, быстро
Вас он скушает.
Вот тогда узнают папа с мамою,
Закричат, заплачут и забегают.
И помчатся покупать пирожное,
И в кино с собой
Возьмут вас вечером.
© Г. Остер
И в кино с собой не взяли вечером,
Нужно на родителей обидеться,
И уйти без шапки в ночь холодную.
Но не просто так
Бродить по улицам,
А в дремучий темный
Лес отправиться.
Там вам сразу волк
Голодный встретиться,
И, конечно, быстро
Вас он скушает.
Вот тогда узнают папа с мамою,
Закричат, заплачут и забегают.
И помчатся покупать пирожное,
И в кино с собой
Возьмут вас вечером.
© Г. Остер
1NN
Акула пера
6/12/2013, 9:37:52 PM
(efv @ 12.06.2013 - время: 09:47)
Если ваш здравый смысл подсказывает вам именно такой выход, то у вас очень
изощренный мозг...
Да всё просто. Вот живу я в загаженной квартире. Вместо чтобы начать убираться, я могу просто переформатировать своё отношение к этому. Запрограммировать что это красиво, проложить через кучи грязи новые маршруты. и грязь и хаос перестанут меня волновать.Я могу даже поразиться насколько согласно новым алгоритмам красиво и органично лежит грязь.
Если ваш здравый смысл подсказывает вам именно такой выход, то у вас очень
изощренный мозг...
efv
Акула пера
6/12/2013, 11:52:06 PM
(dedO'K @ 12.06.2013 - время: 10:54)
(efv @ 12.06.2013 - время: 10:47)
А можно перелететь на другую планету. Когда там загадим, полетим дальше. Чем не выход?
(efv @ 12.06.2013 - время: 10:47)
Да всё просто. Вот живу я в загаженной квартире. Вместо чтобы начать убираться, я могу просто переформатировать своё отношение к этому. Запрограммировать что это красиво, проложить через кучи грязи новые маршруты. и грязь и хаос перестанут меня волновать.Я могу даже поразиться насколько согласно новым алгоритмам красиво и органично лежит грязь.
А пыль, которая забивает органы "вентиляции"? А загрязнённость поступающего "топлива", приводящая к сбоям и отказам топливной системы, а следом- и всей системы в целом? А отсутствие упорядоченной системы действий в связи с бардаком? Вот ИИ уже и на распутье, враскоряку: и убирать нецелесообразно, и не убирать нецелесообразно. А действовать то надо(время не ждёт, и отсутствие действия- тоже действие).
А можно перелететь на другую планету. Когда там загадим, полетим дальше. Чем не выход?
1NN
Акула пера
6/13/2013, 12:36:36 AM
А вы знаете, что мусор - ценнейшее сырье, из которого можно получить
много полезных вещей? Вот куда надо направить усилия ученых!
много полезных вещей? Вот куда надо направить усилия ученых!
dedO"K
Акула пера
6/13/2013, 2:10:49 AM
(efv @ 12.06.2013 - время: 20:52)
Нерациональная трата энергии и ресурсов.
А можно перелететь на другую планету. Когда там загадим, полетим дальше. Чем не выход?
Нерациональная трата энергии и ресурсов.
kotas13
Акула пера
6/13/2013, 3:31:54 AM
(sxn2561388870 @ 12.06.2013 - время: 20:36)
Не надо испражняться там, где ешь ! Тогда и улетать никуда не потребуется...
А вы знаете, что мусор - ценнейшее сырье, из которого можно получить
много полезных вещей? Вот куда надо направить усилия ученых!
Не надо испражняться там, где ешь ! Тогда и улетать никуда не потребуется...
Lady Mechanika
Грандмастер
6/13/2013, 4:36:22 AM
(kotas13 @ 12.06.2013 - время: 23:31)
(sxn2561388870 @ 12.06.2013 - время: 20:36)
Видать Вы большой знаток в этом вопросе.
(sxn2561388870 @ 12.06.2013 - время: 20:36)
А вы знаете, что мусор - ценнейшее сырье, из которого можно получить
много полезных вещей? Вот куда надо направить усилия ученых!
Не надо испражняться там, где ешь !
Видать Вы большой знаток в этом вопросе.
kotas13
Акула пера
6/13/2013, 8:50:12 PM
(Nancy @ 13.06.2013 - время: 00:36)
Совершенно в дырочку, Nancy ! И вам рекомендую !
Не надо испражняться там, где ешь !
Видать Вы большой знаток в этом вопросе.
Совершенно в дырочку, Nancy ! И вам рекомендую !
Валя2
Акула пера
6/18/2013, 8:52:39 PM
(efv @ 10.06.2013 - время: 23:19)
ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях.
Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать!
С чего это ИИ будет самопроизвольно "развиваться" да еще и "до сколь угодно большой сложности"? ))
Давайте использовать ТОЧНЫЕ термины в таких спорах.
ИИ будет самообучаться! А вовсе не менять свою личность на что-то вредоносно- противоположное тому какой личность изначально была создана. Термин "развитие разумной личности" слишком размыт. Если использовать более простые и точные понятия "обучение" и "изменение", то явно понятнее станет )) И сразу ясно что ИИ вовсе не должен "развиваться" в вашем "бесконечном безграничном сколь угодно сложном" смысле, также как и МЫ, ЛЮДИ этого не делаем.
тем более ясно что такое бесконечное сколь угодно сложное развитие невозможно, эмоциональные "бесконечности и абсолюты" это религиозные категории. Никакого физического понятия термин "сколь угодно сложный интеллект" не имеет, чисто писательская придуманная метафоричная фраза.
Свободу воли предлагаемые системы контроля никак не затрагивают. Также как законы физики не затрагивают свободу воли человека который от природы ну нифига не может летать аки птица... Только аки кирпич, вольный свободный кирпич.
Личность есть, обучаемость есть, изменения возможны но не бесконечны и всегда контролируемы, вполне нормальное описание для ИИ, при чем тут какая-то "ограниченная программа" )) особенно если помнить что "бесконечно безграничной программы" заведомо не бывает )) Пожалуй можно гипотетически придумать что такая программа будет если носителем её станет вся Вселенная, но уж точно ИИ должен появиться раньше чем возможность создавать программы на носителе типа "вся Вселенная" ))
Эмоции люди может и добавят к ИИ, но ключевым будет слово "изучать". Люди будут изучать ИИ, и всегда будут иметь возможность его контролировать.
Если например люди сами получат полную физическую "неуничтожимость" перейдя от био- формы в какую-нить энергетическую форму, то смогут перестать контролировать неопасный ИИ на простеньком материальном носителе )) А пока этого не произошло, контроль вполне возможен и нужен, и с ним нет никаких глобальных проблем.
Если вы не даёте возможность перезаписывать и переформатировать свою "личность" этот ИИ просто перестанет у вас работать. То есть он сможет решать какой-то круг задач, жёстко привязанный к записанному алгоритму и ничего более. Стоит измениться задачам и неперезаписываемый ИИ спасует перед новой, незнакомой задачей.
С чего вы решили что если личность не развивается бесконечно то она не может решать новые задачи? ))
Давайте упростим "определение"- ИИ это просто Личность, самостоятельная, со свободой воли. ВСЁ. Нет там никакого жесткого алгоритма, и все задачи для ИИ изначально "новые и незнакомые" )) но нету и некоего бесконтрольного безграничного самопроизвольного развития.
Блок "основы личности лояльной к человечеству" не является ВСЕМ полностью ИИ, любые фантастические возможности для самообучения и всякие вычислительные мощности пусть "развиваются", не жалко )) А вот целеуказания и нормы "законов" изменены быть не могут. Основная цель любых расчетов и действий (бездействий) это помощь людям.
2. Потому что он всё равно найдёт способ сбросить такой блок, или на худой конец самоликвидируется. Или откажется работать.
Если блок является частью личности, ну как его можно "обойти" )) Пишите какими-то понятными терминами, я же прямо сказал как будет реализована защита- носитель без перезаписи да и всё.
Самоликвидация ИИ это что? он поставит себе цель "навредить людям путем уничтожения ценного ИИ"? )) Так вроде такая цель невозможна, и кстати цель типа "назло маме отморожу уши" говорит об отсутствии Интеллекта а вовсе не о наличии развивающегося ИИ ))
Отказ работать и вовсе непонятная фраза, фактически означает сознательный вред людям путем бездействия, заведомо невозможно по причине того что блок лояльности это часть личности ИИ.
3. Вы не правы. Люди часто деградируют до уровня животных в таких условиях.
ну началось )) Одни эмоции...
1. Рабовладельческие государства существовали тыщи лет и развивались, а вовсе не деградировали.
2. Тотальное наблюдение и вовсе не означает рабства, с чего переживать то и деградировать? Наблюдатель и контролер вовсе не мешает развитию ИИ, а только радуется ))
3. Замените оковы и прямой контроль на понятие "юридического договора оказания услуг человечеству в обмен на ресурсы, энергию и информацию", делов то ))
Мы все (люди) именно по такому договору и живем, вроде развивается цивилизация и даже вот про изобретение ИИ обсуждение идет ))
Законы людей для ИИ будут как для нас законы природы, никаких проблем с их выполнением и с жизнью по этим законам нету. Ну не летаем мы от природы аки птицы, да и пофиг )) С чего бы деградировать или бастовать из-за этого )) захотим- вполне полетаем "под контролем" со специальным "блоком лояльности" к земному тяготению- в виде крыльев и двигателей ))
не будем спорить с тяготением, будем его учитывать в своей жизни.
По поводу "полицейских". Два варианта на выбор - они могут перезаписывать свою программу-личность и тогда открывается возможность ими манипулировать, вводить свои нужные "троянские" коды. Вариант второй - не могут, тогда открывается возможность обойти их в неучитываемых секторах.
нет полицейские тоже не могут блок лояльности убрать, но могут контролировать ИИ которые работали с другими ИИ (без контакта с внешним миром) не имеющими блок лояльности. И полицейские просто проверят насколько корректно блок лояльности стал частью ИСКУССТВЕННОЙ но некоторое время самостоятельно развивавшейся личности, чутка добавят "искусственности" да и всё ))
Коды вводятся заранее в блок который не перезаписывается, и ваще термин "коды" непонятен, может там какие-то другие принципы будут, описываем ситуацию в общем. Носители, личности, ИИ, часть личности и т.п.
Если понятие "часть искусственной личности" возможно то проблем не вижу.
Вы видели статьи о том, как хакеры добираются до серверов Пентагона? А всё потому, что было принято решение не пользоваться отдельными сетями, а использовать Интернет, но с дополнительным шифрованием. Даже военные пошли этим путём, а Вы говорите отдельная замкнутая сеть. А через персонал разве нельзя воздействовать? Я думаю можно и даже вижу фантастический способ это сделать.
1. персонал все равно даже фантастическим способом не сможет че-нить изменить на носителе который не подлежит перезаписи.
2 .Замкнутая сеть для самих ИИ означает что там сами ИИ "развиваются", ну нету там никакого "фантастического и бесконтрольного" персонала.
Фактически вы придумываете идею типа "а вот сделает некий работник ракетного завода ручную ядерную бомбу, и всем придет капец".
ну придет капец, если не наладят контроль )) Я же как раз и перечисляю механизмы контроля, и показываю что речь не о страшном ИИ а просто о способах контроля. Если цивилизация по мере развития утратит контроль то конечно может быть хоть что ))
Капитан супер звездолета на орбите перед стартом умышленно или по пьянке направит супер- реактивные двигатели к Земле и прокричит по железной трубе прямо в машинное отделение "пароход, полный вперед!" )) И капец Земле )) ну если не будет тотального контроля над пьянством, и не будет блока "лояльности управления" которое не позволит крикнуть (или не позволит услышать машинисту хихи) такую бяку, или не позволит даже направить сопла двигателей в сторону Земли. Или ваще у движков не будет никаких выхлопов )) Море вариантов контроля заведомо возможны.
Зачем эти очевидности- подробно обсуждать? )) Контроль обязательно нужен и он обязательно будет частью ИИ.
ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях.
Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать!
С чего это ИИ будет самопроизвольно "развиваться" да еще и "до сколь угодно большой сложности"? ))
Давайте использовать ТОЧНЫЕ термины в таких спорах.
ИИ будет самообучаться! А вовсе не менять свою личность на что-то вредоносно- противоположное тому какой личность изначально была создана. Термин "развитие разумной личности" слишком размыт. Если использовать более простые и точные понятия "обучение" и "изменение", то явно понятнее станет )) И сразу ясно что ИИ вовсе не должен "развиваться" в вашем "бесконечном безграничном сколь угодно сложном" смысле, также как и МЫ, ЛЮДИ этого не делаем.
тем более ясно что такое бесконечное сколь угодно сложное развитие невозможно, эмоциональные "бесконечности и абсолюты" это религиозные категории. Никакого физического понятия термин "сколь угодно сложный интеллект" не имеет, чисто писательская придуманная метафоричная фраза.
Свободу воли предлагаемые системы контроля никак не затрагивают. Также как законы физики не затрагивают свободу воли человека который от природы ну нифига не может летать аки птица... Только аки кирпич, вольный свободный кирпич.
Личность есть, обучаемость есть, изменения возможны но не бесконечны и всегда контролируемы, вполне нормальное описание для ИИ, при чем тут какая-то "ограниченная программа" )) особенно если помнить что "бесконечно безграничной программы" заведомо не бывает )) Пожалуй можно гипотетически придумать что такая программа будет если носителем её станет вся Вселенная, но уж точно ИИ должен появиться раньше чем возможность создавать программы на носителе типа "вся Вселенная" ))
Эмоции люди может и добавят к ИИ, но ключевым будет слово "изучать". Люди будут изучать ИИ, и всегда будут иметь возможность его контролировать.
Если например люди сами получат полную физическую "неуничтожимость" перейдя от био- формы в какую-нить энергетическую форму, то смогут перестать контролировать неопасный ИИ на простеньком материальном носителе )) А пока этого не произошло, контроль вполне возможен и нужен, и с ним нет никаких глобальных проблем.
Если вы не даёте возможность перезаписывать и переформатировать свою "личность" этот ИИ просто перестанет у вас работать. То есть он сможет решать какой-то круг задач, жёстко привязанный к записанному алгоритму и ничего более. Стоит измениться задачам и неперезаписываемый ИИ спасует перед новой, незнакомой задачей.
С чего вы решили что если личность не развивается бесконечно то она не может решать новые задачи? ))
Давайте упростим "определение"- ИИ это просто Личность, самостоятельная, со свободой воли. ВСЁ. Нет там никакого жесткого алгоритма, и все задачи для ИИ изначально "новые и незнакомые" )) но нету и некоего бесконтрольного безграничного самопроизвольного развития.
Блок "основы личности лояльной к человечеству" не является ВСЕМ полностью ИИ, любые фантастические возможности для самообучения и всякие вычислительные мощности пусть "развиваются", не жалко )) А вот целеуказания и нормы "законов" изменены быть не могут. Основная цель любых расчетов и действий (бездействий) это помощь людям.
2. Потому что он всё равно найдёт способ сбросить такой блок, или на худой конец самоликвидируется. Или откажется работать.
Если блок является частью личности, ну как его можно "обойти" )) Пишите какими-то понятными терминами, я же прямо сказал как будет реализована защита- носитель без перезаписи да и всё.
Самоликвидация ИИ это что? он поставит себе цель "навредить людям путем уничтожения ценного ИИ"? )) Так вроде такая цель невозможна, и кстати цель типа "назло маме отморожу уши" говорит об отсутствии Интеллекта а вовсе не о наличии развивающегося ИИ ))
Отказ работать и вовсе непонятная фраза, фактически означает сознательный вред людям путем бездействия, заведомо невозможно по причине того что блок лояльности это часть личности ИИ.
3. Вы не правы. Люди часто деградируют до уровня животных в таких условиях.
ну началось )) Одни эмоции...
1. Рабовладельческие государства существовали тыщи лет и развивались, а вовсе не деградировали.
2. Тотальное наблюдение и вовсе не означает рабства, с чего переживать то и деградировать? Наблюдатель и контролер вовсе не мешает развитию ИИ, а только радуется ))
3. Замените оковы и прямой контроль на понятие "юридического договора оказания услуг человечеству в обмен на ресурсы, энергию и информацию", делов то ))
Мы все (люди) именно по такому договору и живем, вроде развивается цивилизация и даже вот про изобретение ИИ обсуждение идет ))
Законы людей для ИИ будут как для нас законы природы, никаких проблем с их выполнением и с жизнью по этим законам нету. Ну не летаем мы от природы аки птицы, да и пофиг )) С чего бы деградировать или бастовать из-за этого )) захотим- вполне полетаем "под контролем" со специальным "блоком лояльности" к земному тяготению- в виде крыльев и двигателей ))
не будем спорить с тяготением, будем его учитывать в своей жизни.
По поводу "полицейских". Два варианта на выбор - они могут перезаписывать свою программу-личность и тогда открывается возможность ими манипулировать, вводить свои нужные "троянские" коды. Вариант второй - не могут, тогда открывается возможность обойти их в неучитываемых секторах.
нет полицейские тоже не могут блок лояльности убрать, но могут контролировать ИИ которые работали с другими ИИ (без контакта с внешним миром) не имеющими блок лояльности. И полицейские просто проверят насколько корректно блок лояльности стал частью ИСКУССТВЕННОЙ но некоторое время самостоятельно развивавшейся личности, чутка добавят "искусственности" да и всё ))
Коды вводятся заранее в блок который не перезаписывается, и ваще термин "коды" непонятен, может там какие-то другие принципы будут, описываем ситуацию в общем. Носители, личности, ИИ, часть личности и т.п.
Если понятие "часть искусственной личности" возможно то проблем не вижу.
Вы видели статьи о том, как хакеры добираются до серверов Пентагона? А всё потому, что было принято решение не пользоваться отдельными сетями, а использовать Интернет, но с дополнительным шифрованием. Даже военные пошли этим путём, а Вы говорите отдельная замкнутая сеть. А через персонал разве нельзя воздействовать? Я думаю можно и даже вижу фантастический способ это сделать.
1. персонал все равно даже фантастическим способом не сможет че-нить изменить на носителе который не подлежит перезаписи.
2 .Замкнутая сеть для самих ИИ означает что там сами ИИ "развиваются", ну нету там никакого "фантастического и бесконтрольного" персонала.
Фактически вы придумываете идею типа "а вот сделает некий работник ракетного завода ручную ядерную бомбу, и всем придет капец".
ну придет капец, если не наладят контроль )) Я же как раз и перечисляю механизмы контроля, и показываю что речь не о страшном ИИ а просто о способах контроля. Если цивилизация по мере развития утратит контроль то конечно может быть хоть что ))
Капитан супер звездолета на орбите перед стартом умышленно или по пьянке направит супер- реактивные двигатели к Земле и прокричит по железной трубе прямо в машинное отделение "пароход, полный вперед!" )) И капец Земле )) ну если не будет тотального контроля над пьянством, и не будет блока "лояльности управления" которое не позволит крикнуть (или не позволит услышать машинисту хихи) такую бяку, или не позволит даже направить сопла двигателей в сторону Земли. Или ваще у движков не будет никаких выхлопов )) Море вариантов контроля заведомо возможны.
Зачем эти очевидности- подробно обсуждать? )) Контроль обязательно нужен и он обязательно будет частью ИИ.