| автор |
сообщение |
Ant12 
гранд-мастер
 
|
 23 сентября 2010 г. 15:24 [нажмите здесь чтобы увидеть текст поста]
|
|
«2035» — это произвольная догадка, и это может быть с таким уже успехом следующий вторник.
"Я попытался сделать прямой и логичный прогноз дальнейшего развития технологий и был низвергнут в пучину неизвестности. Мы сталкиваемся с этой неразрешимой проблемой каждый раз, когда пытаемся представить себе создание разума, более мощного, чем наш собственный. И вот когда это произойдёт, история человека достигнет сингулярности — точки, где все тенденции теряют силу и нужны новые модели развития — где мир выйдет за пределы нашего понимания."
-- Вернор Виндж, True Names and Other Dangers, p. 47.
К Сингулярности ведёт несколько путей. Нанотехнология даст возможность строить компьютеры атом за атомом и перестраивать мозг нейрон за нейроном. Искусственный интеллект даст нам само-понимающий и самоулучшающий зародышевый ИИ. Для запуска Сингулярности нам хватит и относительно слабого улучшения людей с помощью нейрооптимизации. Прямые нейронно-компьютерные интерфейсы могут достаточно поднять интеллект человека, или машинный интеллект или их оба. А может быть, неожиданный прорыв произойдёт в совершенно другой области.
«Труднейшей задачей для писателя является персонаж, более умный, чем он сам. Это не невозможно. Задачки, на которые автор потратит месяцы, персонаж решит за мгновения. Но только Бог может помочь автору, если его невероятно умный герой ошибётся».
Ларри Нивен.
«Конечно, я никогда не напишу «важную» историю, сиквел о первом транс-человеке. Однажды я попробовал сделать нечто подобное. Джон Камбелл написал отрицательную рецензию, начинавшуюся словами: «Извините, — вы не можете написать этот рассказ. Никто не может».
Вернор Виндж.
»Ум – это то качество, которое делает невозможным написание истории о персонаже умнее, чем вы. Вы можете писать о сверхбыстрых мыслителях, эйдетической памяти, молниеносных вычислителях; о персонаже, который выучит дюжину языков за неделю, который может прочесть книгу за час, или который может изобрести все возможные чудеса – до тех пор, пока вы не должны сделать реальное изобретение. Вы не можете описать героя с более высоким уровнем эмоциональной зрелости, героя, который заметит очевидное решение, которое вы пропустили, героя, который знает (и может рассказать читателю) Смысл жизни, героя со сверхчеловеческим осознанием. Пока не сможете сделать всё это сами.
«Цветы для Алжернона» рассказывают о нейрохирургической операции по интеллектуальному совершенствованию. Процедура была впервые испробована на мыши, Алжерноне, и затем на умственно отсталом человеке, Чарли Гордоне. Усиленный Чарли имел стандартный набор научно-фантастических характеристик; он быстро думал, выучил объём человеческих знаний за несколько недель и обсуждал сложнейшие математические проблемы (не показано). Затем мышь, Алжернон, заболела и умерла. Чарли проанализировал процедуру улучшения (не показано) и пришёл к выводу, что в процессе есть коренная ошибка. Позднее Чарли умирает.
Таково поведение научно-фантастического усовершенствованного человека. Реальный усовершенствованный человек не был бы застигнут врасплох. Он бы понял, что любое простое улучшение интеллекта было бы эволюционно невыгодно – если бы улучшение интеллекта было бы вопросом только одной хирургической процедуры – оно бы давно случилось, как естественная мутация. Это вдвойне верно относительно процедуры, которая работает для крыс! Обратите внимания, что я не ослепляю вас сложным технологическим описанием смерти Чарли; моё объяснение занимает два предложения и может быть понято человеком, не являющимся экспертом в этой области. Эта простота сообразительности так трудно передаваема в фантастике и так шокирует, когда мы сталкиваемся с ней в реальном человеке. Всё, что может показать научная фантастика – это то, что интеллект – это жаргон и технические новинки. Подлинно сверхумный Чарли Гордон не был бы застигнут врасплох; он бы вывел свою будущую судьбу, используя приведенные выше очень простые рассуждения. Он должен был бы допустить такую возможность, реорганизовать свои приоритеты и действовать соответствующим образом до тех пор, пока его время не закончится – или, скорее всего, изобрёл бы настолько же простое и очевидное задним числом средство, чтобы избежать своей судьбы. Если бы Чарли Гордон действительно был бы ультраумён, рассказ бы не получился» Э.Юдковский «Вглядываясь в Сингулярность».
Примечание. Технологи́ческая сингуля́рность в футурологии — гипотетический взрывоподобный рост скорости научно-технического прогресса, предположительно следующий из создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами либо значительного увеличения возможностей человеческого мозга за счёт биотехнологий.
|
|
|
Vlad Tot
магистр
|
|
bbg
миротворец
|
|
23 сентября 2010 г. 15:29 [нажмите здесь чтобы увидеть текст поста]
|
|
Существенно позже номера шестого, но ранее номера седьмого...
|
–––
Стой, кто живёт! Здесь жить запрещено. Это вас касается, и это не смешно.
Тема не в тексте, но в голове у читателя. |
|
|
Elric
миротворец
|
|
Fadvan
философ
|
|
Kshishtof A.
магистр
|
|
23 сентября 2010 г. 15:32 [нажмите здесь чтобы увидеть текст поста]
|
|
Где вариант "Позднее 2040"? Я думаю, что теоретически, в каком-то виде (конечно, не так, как это представляет безумный Курцвайль), она может произойти, но не ранее чем через столетие. В общем, нам можно не волноваться.
|
–––
Who are the ones that we kept in charge?
Killers, thieves, and lawyers |
|
|
Vlad Tot
магистр
|
|
Fadvan
философ
|
|
Ant12
гранд-мастер
|
|
Fadvan
философ
|
|
StasKr
миротворец
|
|
Ant12
гранд-мастер
|
|
23 сентября 2010 г. 15:57 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vlad Tot Откуда такие точные даты?
Нет, братья и сёстры, не в этом веке, это точно.
Есть мнения. "Рассвет Сингулярности" Майкл Диринг цитата Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос — когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой.
|
|
|
Kshishtof A.
магистр
|
|
23 сентября 2010 г. 16:03 [нажмите здесь чтобы увидеть текст поста]
|
Писатель и футуролог Чарльз Стросс, воспевший С. в Singularity Sky и Accelerando, в прошлом году написал уже более серьёзный "FAQ по 21 веку", где про вероятность наступления сингулярности, в частности, было сказано:
цитата Forget it.
The rapture of the nerds, like space colonization, is likely to be a non-participatory event for 99.999% of humanity — unless we're very unlucky. If it happens and it's interested in us, all our plans go out the window. If it doesn't happen, sitting around waiting for the AIs to save us from the rising sea level/oil shortage/intelligent bioengineered termites looks like being a Real Bad Idea. The best approach to the singularity is to apply Pascal's Wager — in reverse — and plan on the assumption that it ain't going to happen, much less save us from ourselves.
Так что добавьте, пожалуйста, вариант "через 50 и более лет". А, уже добавили, извиняюсь. 
|
–––
Who are the ones that we kept in charge?
Killers, thieves, and lawyers |
|
|
sanbar
гранд-мастер
|
|
23 сентября 2010 г. 16:35 [нажмите здесь чтобы увидеть текст поста]
|
|
Сие все же гипотетическая концепция и пока что весьма умозрительная. На мой взгляд дальнейшее и даже экспоненциальное увеличение мощности компьютеров вряд ли может в этом помочь, поскольку ИИ, как и любой интеллект-производная от сознания, а физический (научный) смысл сознания пока что ускользает от исследователей. Мы не сможем создать ИИ до тех пор пока не поймем, что такое сознание, как оно возникает и , как эволюционирует. Великие умы квантовой физики имели ряд прозрений по этому поводу, (редукция квантовой когерентности), но пока нет даже сколь нибудь оформленных теорий на этот счет. Что касается человеко-машинных систем — тут вопрос технологии коммуникативного протокола кажется основным и решающим. Будучи решенным , скажем к концу века, он действительно породит новую социальную реальность, которую трудно даже вообразить.
|
–––
"Мир идет прахом в той стороне, мальчик" |
|
|
Kshishtof A.
магистр
|
|
23 сентября 2010 г. 16:59 [нажмите здесь чтобы увидеть текст поста]
|
цитата sanbar Великие умы квантовой физики имели ряд прозрений по этому поводу, (редукция квантовой когерентности), но пока нет даже сколь нибудь оформленных теорий на этот счет.
Ну, касательно квантовой-механической природы сознания — всё-таки научный консенсус сейчас придерживается теории, что всё это new age mumbo-jumbo, а сознание полностью описывается электрохимическими и биохимическими процессами. Вот эта статья из недавнего заставила о многом задуматься. И вообще, всем интересующимся вопросом о природе сознания порекомендовал бы добавить в подписку блог Питера Уоттса — там часто бывает крайне интересно. |
–––
Who are the ones that we kept in charge?
Killers, thieves, and lawyers |
|
|
GomerX
гранд-мастер
|
|
23 сентября 2010 г. 17:15 [нажмите здесь чтобы увидеть текст поста]
|
|
О какой сингулярности в развитии технологий вообще может ити речь?! Это все может относится только к идельному ситематически развивающемуся миру без внутренних противоречий. С нашей системой мироустройства это в принципе невозможно. Человечество уничтожит себя раньше чем наступит расцвет таких технологий как ИИ и киборгизация.
Посмотрите что происходит в мире: рассы (народы, цивилизации, — называйте как хотите), которые достигли наивысшего развития в плане науки и техники, сейчас постепенно вымирают и вытесняются (со своих этнических жизненных пространств между прочим) народами с более низким уровнем цивилизованности. Это происходит сейчас в западной европе, в америке, в москве. Учитывая рост численности населения в средней азии, на кавказе, юго-восточной азии, центральной и южной америке, лет так через 500 эти народы чисто демографически вытеснят более мягкохарактерных и толерантных славян, европейцев и может даже и американцев.
Итог — пока не будет решена демографическая проблема на земле., пока люди не научатся управлять развитием своей цивилизации (а сейчас оно происходит стихийно), никакой сингулярности в науке не наступит. Я скорей поверю в 3ю мировую чем в каклй-либо прорыв в фундаментальной физике.
|
|
|
grigoriy
магистр
|
|
23 сентября 2010 г. 17:28 [нажмите здесь чтобы увидеть текст поста]
|
цитата Ant12 Примечание. Технологи́ческая сингуля́рность в футурологии — гипотетический взрывоподобный рост скорости научно-технического прогресса, предположительно следующий из создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами либо значительного увеличения возможностей человеческого мозга за счёт биотехнологий.
[
Это выглядит как умствование.Всё происходит достаточно постепенно и не приводит к сингулярности-что бы под ней не понималось. Пример-появление компьютеров. Конечно гипотез можно строить бесконечно много, но навряд ли они будут иметь отношение к реальности
цитата Ant12 Позднее Чарли умирает.
Если Вы читали книгу, то скажите, где это написано?Я не нашёл. |
|
|
sanbar
гранд-мастер
|
|
23 сентября 2010 г. 17:52 [нажмите здесь чтобы увидеть текст поста]
|
цитата Kshishtof A. а сознание полностью описывается электрохимическими и биохимическими процессами.
Конечно описывается, равно, как прав был Ф.Энгельс постулируя, что жизнь есть способ существования белковых тел. Но вот только ли это? По крайней мере меня, как бывшего биолога, такое определение не устраивает никак, ибо не определяет и не объясняет практически ничего. Я, разумеется не котов к научной дискуссии по этому поводу (равно как и никто не готов), поскольку сам не люблю дилетантов, но считаю, что если околонаучные рассуждения (а это были именно рассуждения великих физиков) по поводу квантово-механической природы сознания на настоящий момент опровергнуты научной мыслью, то это означает лишь то, что современная научная картина мира не в состоянии включить в себя феномен сознания и в соответствии с принципом поведения любой квазиживой структуры вытесняет его на периферию, ради самосохранения. |
–––
"Мир идет прахом в той стороне, мальчик" |
|
|
Ant12
гранд-мастер
|
|
23 сентября 2010 г. 17:53 [нажмите здесь чтобы увидеть текст поста]
|
цитата GomerX Посмотрите что происходит в мире: рассы (народы, цивилизации, — называйте как хотите), которые достигли наивысшего развития..
Модификации будут такими, что расовые проблемы станут ничтожными..
цитата grigoriy Это выглядит как умствование.
Материала очень много. Матчасть
цитата grigoriy Если Вы читали книгу, то скажите, где это написано?Я не нашёл.
Это цитата Юдковского. |
|
|
Libanius
авторитет
|
|
23 сентября 2010 г. 18:02 [нажмите здесь чтобы увидеть текст поста]
|
цитата sanbar Великие умы квантовой физики имели ряд прозрений по этому поводу, (редукция квантовой когерентности), но пока нет даже сколь нибудь оформленных теорий на этот счет.
при всем уважении к Пенроузу — но над его кватново-механической теорией сознания нейропсихологи и кибернетики тихо посмеиваются, структура сознания описывается теорией нейросетей и нечетких множеств, и не имеет к редукции волнового пакета никакого отношения. Кстати Пенроуз в своих последних статьях признает свои ошибки (так например он считал что белок тубулин играет роль "редукционной камеры" что в корне неверно).
Что же до точки сингулярности, то думаю что до нее еще лет 50-60 |
–––
я вам не хрен моржовый, я Моцарта читал! |
|
|
Трансгуманизм и Сингулярность? Книги, мнения, идеи.
цитировать
