Что вы думаете о сингулярности?

Разрозненные исследования российских научных центров в области органической молекулярной электроники, наконец, объединят в академическую программу. На этот шаг академиков толкнул доклад их коллег.

Молекулярные компьютеры, которые станут реальностью уже через 10-20 лет, будут обладать производительностью в миллиарды раз большей нынешних, основанных на кремниевых микропроцессорных технологиях. Их процессоры достигнут размеров, в десятки тысяч раз меньше современных, время отклика составит всего 10-15 секунды (у современных компьютеров - до 10-12). Элементной базой для молекулярной электроники могут стать молекулы и организованные молекулярные ансамбли, способные существовать в двух или нескольких устойчивых состояниях, проводить электрический ток и обладать определенными магнитными характеристиками.

Эти данные были представлены на Президиуме РАН в научном сообщении «Полифункциональные материалы для молекулярной электроники», авторами которого оказались сразу три академика: директор Центра фотохимии РАН Михаил Алфимов, директор Южного научного центра РАН Владимир Минкин и директор Института проблем химической физики РАН Сергей Алдошин.

Докладчик, Владимир Минкин, рассказал об основных подходах к получению молекулярных материалов, сочетающих свойства, необходимые для записи и обработки информационных сигналов. Для молекулярных транзисторов, как оказалось, наилучшими свойствами обладают фотохромные соединения, которые при облучении могут менять свое состояние, отличающееся по своим электрическим и химическим характеристикам. Фотохромные соединения, а также холестерические жидкокристаллические полимеры, как уже показано, можно использовать для создания устройств трехмерной памяти, емкость которой значительно превышает достигнутую в современных системах хранения информации. В научных лабораториях мира сейчас работают над созданием токопроводящих полимеров, углеродных и полупроводниковых нанотрубок, с помощью которых отдельные составляющие будут связываться в работающие молекулярные контуры. Процессы компонования наноразмерных (1 нанометр - одна миллиардная часть метра) транзисторов основываются на эффектах самосборки сложных молекулярных систем, подобных тем, которые существуют при передаче наследственности.

На сегодняшний день программы создания молекулярных устройств в мире разрабатывают 12 организаций. В их числе - национальные агентства, международные компьютерные корпорации, европейский консорциум, объединяющий фирмы и научные центры многих стран. В России исследования в этой области проводят уже названные три научных центра, а также Институт органической химии им. Н. Д. Зелинского, Международный томографический центр РАН, МГУ, Ростовский университет.

Познакомившись с достижениями отечественных ученых в области молекулярной электроники, собравшиеся отметили, что «академия может гордиться тем, что в России есть целая школа в данной области знаний». Правда, академикам пришлось признать, что «в России недооценивается важность исследований в данной области». Чтобы эти исследования поддержать, Президент РАН Юрий Осипов предложил их объединить в академическую программу и добиваться ее государственной поддержки, «пока у России есть шансы не отстать от мирового уровня».

Программа Blue Brain по моделированию мозга млекопитающих объявила осенью 2007 года об успешной имитации кортиковой колонки мозга мыши и запланировала создание полной модели мозга человека до 2020 года . Хотя прямое моделирование мозга не является наилучшим путём к универсальному искусственному интеллекту, успехи в моделировании живого мозга могут служить в качестве легко читаемой временной шкалы прогресса в этой сложной науке. Ник Бостром в своей статье «Сколько осталось до суперинтеллекта?» показывает, что современное развитие технологий ведёт к созданию искусственного интеллекта, превосходящего человеческий, в первой трети XXI века.

Крупнейшая в мире компьютерная компания Google несколько раз пробалтывалась о планах создания искусственного интеллекта, и, безусловно, она обладает необходимыми техническими, информационными и денежными ресурсами, чтобы это сделать, если это вообще возможно . Однако поскольку опыт предыдущих публичных попыток создания ИИ (например, компьютеров 5-ого поколения в Японии в 80-е годы) прочно ассоциируется с провалом, а также с интересом спецслужб, вряд ли большие компании заинтересованы широко говорить о своих успехах в этой области до того, как у них что-то реальное получится.

Компания Novamente заявляет, что 50% кода универсального ИИ уже написано (70 000 строк кода на С++), и, хотя потребуется длительное обучение, общий дизайн проекта понятен .

SIAI обозначил планы по созданию программы, способной переписывать свой исходный код .

Компания Numenta продвигает собственную модель ИИ, основанную на идее «иерархической временной памяти», и уже вышла на уровень демонстрационных продуктов .

Компания CYC собрала огромную базу данных о знаниях человека об обычном мире, иначе говоря, о здравом смысле (1 000 000 высказываний) и уже распространяет демонстрационные продукты . Предполагается, что объединение этой базы с эвристическим анализатором – а автор проекта Ленат разработал ранее эвристический анализатор «Эвриско» – может дать ИИ.

Мощные результаты даёт генетическое программирование. К настоящему моменту список изобретений «человеческого уровня», сделанных компьютерами в компании Genetic Programming Inc, использующими эту технологию, включает 36 наименований , из которых 2 сделаны машинами впервые, а остальные повторяют уже запатентованные проекты. Помимо названных, есть множество университетских проектов. Ведутся разработки ИИ и в РФ.

Критическим выводом является не то, что ИИ труден, а то, что, по неким причинам, людям очень легко думать, что они знают об Искусственном Интеллекте гораздо больше, чем на самом деле.
С удовольствием подписываюсь под этими словами!

Эксперименты по исследованию антропоморфизма показали, что испытуемые часто антропоморфизируют неосознанно, вопреки своим базовым установкам.

Мы подражаем не осознавая это, создавая ИИ люди по любому за образец берут свой собственный интеллект ИМХО ИИ в начале будет именно антропоморфным (с вытекающими последствиями) и если человечество переживёт эту её стадию то СИИ будет так далёк от человечности что … (не спорю во мне живёт древний «животный» страх перед неизведанным: сначала лучше убежать, захватив побольше инфы об увиденном и в спокойной обстановке подумать, а что это было, чем пожалеть что не убежал, все-таки человек тоже животное)

Может показаться, что художник верил, что негуманоидный инопланетянин, с полностью другой эволюционной историей, может сексуально желать женщину-человека. Такие ошибки происходят не из-за того, что люди явным образом рассуждают подобно следующему: «Все умы, скорее всего, возбуждаются похожим образом, и поэтому, вероятно, ЖГМ находит женщину-человека сексуально привлекательной». Скорее, художник просто не задался вопросом о том, действительно ли гигантский жук воспринимает женщин-людей привлекательными. Наоборот, полуобнажённая женщина является сексуальной – изначально, потому что это неотъемлемо присущее ей свойство.

По мне тут какраз всё рассчитано правильно упор ставится не на логику пришельца а на логику читателя – надо защитить свою самку, и чем больше я узнаю о противнике тем я сильнее! Банальная эксплуатация тестостерона. (это небольшое замечание кажись не относится к обсуждаемой теме но всё же)

Опасность перепутать общую интеллектуальность с g-фактором состоит в том, что это ведёт к колоссальной недооценки потенциального воздействия ИИ. (Это относится как к недооценке потенциально хороших воздействий, равно как и плохих воздействий.) Даже фраза «трансгуманистический ИИ» или «искусственный суперинтеллект» по-прежнему может создавать впечатление о «ящике с книгами как сделать карьеру»: ИИ, который реально хорош в когнитивных задачах, обычно ассоциируется с «интеллектуальностью», подобной шахматам или абстрактной математике. Но не со сверхчеловеческой убедительностью, или со способностью гораздо лучше, чем люди, предсказывать и управлять человеческими институтами, или нечеловечески умом в формулировании длительных стратегий. Так что, может, нам следует подумать не об Эйнштейне, а о политическом и дипломатическом гении 19 века Отто фон Бисмарке?
Кажется и я об этом размышлял, если легенда не врёт Бисмарк в предсмертном бреду говорил – это не соответствует национальным интересам! Кто возьмётся прогнозировать что соответствует «национальным» интересам ИИ?

- Достаточно сильный ИИ может преодолеть любое человеческое сопротивление и истребить человечество. (И ИИ решит сделать это.) Поэтому мы не должны строить ИИ.

- Достаточно сильный ИИ может создать новые медицинские технологии, способные спасти миллионы человеческих жизней. (И он решит сделать это.) Поэтому мы должны создать ИИ.

- Когда компьютеры станут достаточно дёшевы, огромное большинство работ будет выполняться ИИ более легко, чем людьми. Достаточно сильный ИИ даже будет лучше нас в математике, конструировании, музыке, искусстве и во всех других работах, которые нам кажутся важными (И ИИ решит выполнять эти работы.) Таким образом, после изобретения ИИ, людям будет больше нечего делать, и мы будем голодать или смотреть телевизор.

Очень реалистично!

Неуважительно по отношению к человеческой изобретательности объявлять проблему неразрешимой без внимательного и творческого рассмотрения. Это очень сильное заявление: сказать, что вы не можете сделать нечто – что вы не можете построить летающую машину тяжелее воздуха, что вы не можете извлечь полезную энергию из ядерных реакций, что вы не можете летать на Луну. Такие заявления являются универсальными обобщениями, относящимися к любому возможному подходу к решению этой проблемы, который кто-либо придумал или придумает. Требуется всего один противоположный пример, чтобы опровергнуть универсальное обощение. Утверждение о том, что Дружественный (или дружественный) ИИ теоретически невозможен, осмеливается относиться к любым возможным устройствам ума и любым возможным процессам оптимизации – включая человеческие существа, которые тоже имеют ум, и многие из которых хорошие (nice) и хотят быть ещё лучше. На настоящий момент имеется неограниченное количество расплывчато убедительных аргументов, почему Дружественный ИИ может быть не под силу человеку, и всё же гораздо вероятнее, что проблема разрешима, но никто не соберётся решить её вовремя.
Я ведь не говорил что ИИ невозможен в принципе, я говорил что это произойдёт в необозримом будущем и выражал сомнение в целесообразности идти на риск. Вероятность создания Дружественного ИИ лично я оцениваю в 10%. С учётом времени необходимым для создания ИИ и ограниченностью не возобновляемых ресурсов лично я прогнозирую что техногенная цивилизация погибнет.

Важно понимать, что автор огромной катастрофы не должен быть злым или особо тупым. Если мы отнесём любую трагедию насчёт зла или особенной глупости, мы посмотрим на себя, правильно обнаружим, что мы не злы и не особенно тупы и скажем: «Но ведь это никогда не случится с нами».
Аргумент в пользу моей оценки вероятности создания Дружественного ИИ в 10%.

С точки зрения глобальных рисков, одно из наиболее критических обстоятельств в связи с ИИ, это то, что ИИ может усилить свой интеллект чрезвычайно быстро.
Подписываюсь!

Но даже при К=1.0006 реактор был контролируем только потому, что некоторые из нейтронов из деления урана задерживаются – они получаются при распаде короткоживущих продуктов деления. На каждые 100 распадов U235 242 нейтрона испускаются почти мгновенно (0,0001 сек) и 1,58 нейтронов испускаются в среднем через десять секунд.
Пример с опытом Ферми очень хорош. Если бы не эта задержка в ≈10сек на теннисном корте появилась бы яма приличных размеров и о контролируемой ядерной реакции не было бы и речи. Есть ли гарантии что с ИИ у нас будет такая задержка позволяющая хотя бы частично проконтролировать его?

Успешное воплощение техники Дружественного ИИ может создать ИИ, который обладает потенциалом расти более быстро, но выбирающего вместо этого расти медленнее и по более управляемой кривой.
Даже в этом случае, после того, как ИИ пройдёт критический порог рекурсивного самоулучшения, вы окажетесь действующими в гораздо более опасном режиме. Если дружественность потерпит неудачу, ИИ может решить направиться с полной скоростью в сторону самоулучшения – метафорически говоря, он станет мгновенно критичным.
Подписываюсь!

Если кто-то знает, как сделать стабильный Дружественный ИИ –если проблема не находится полностью за пределами современных знаний и техники – исследователи будут учиться успешным результатам друг у друга и повторять их.
Вот это хорошее ЕСЛИ!
У армян есть хорошая поговорка – ЕСЛИ (с помощью окончания превращается в существительное) посадили, вот только не проросло.

Нам нужно правильно создать Дружественный ИИ только в одном месте и один раз, а не каждый раз везде. Но создать его нужно правильно с первой попытки, до того, как кто-то построит ИИ с более низкими стандартами.
Хорошая декларация но трудно реализуемая, с учетом того что было в 10: Локальные стратегии и стратегии большинства – ошибка будет неисправимой!

Всё это делает весьма невероятным, что первое человеческое существо будет сканировано в компьютер и вменяемо усовершенствовано до того, как кто-нибудь где-нибудь первым построит ИИ. В тот момент, когда технология впервые станет способна осуществить загрузку, это потребует невообразимо больше компьютерной мощности и гораздо лучшей науки о мышлении, чем требуется, чтобы построить ИИ.
Подписываюсь!

Различают позитивную и негативную евгенику.

Цель позитивной евгеники — содействие воспроизводству людей с признаками, которые рассматриваются, как ценные для общества (отсутствие наследственных заболеваний, хорошее физическое развитие, иногда — высокий интеллект).

Цель негативной евгеники — прекращение воспроизводства лиц, имеющих наследственные дефекты, либо тех, кого в данном обществе считают физически или умственно неполноценными. Негативная евгеника практиковалась в нацистской Германиии и некоторое время в США.

«Русское Евгеническое Общество», созданное в 1920 г. отвергало негативную евгенику и стало заниматься проблемами евгеники позитивной.

Грань между негативной и позитивной евгеникой условна и основные мировые религии в настоящее время отвергают оба вида евгеники. В Китае, Индии широко практикуют диагностику пола плода и часто абортируют девочек[3][4][5]. Например, по данным индийско-канадских исследований, примерно 500 тыс. нерожденных девочек абортируются в Индии каждый год. «В этой стране приходится 927 девочек на каждых 1000 мальчиков в возрасте до 6 лет. В мире это соотношение в среднем составляет 1050 девочек к 1000 мальчиков».[6] Тем самым нарушается естественное соотношение мальчиков и девочек, что приводит к негативным последствиям для общества. Это скорее можно назвать негативной евгеникой — искусственным устранением из популяции людей, которые в данном социуме воспринимаются, как нежелательные.