Вернор Виндж «Грядущая технологическая сингулярность: Как выжить в постчеловеческую эпоху»

Вот и настал 2023 год. Тот самый, о котором идёт речь в статье Вернора Винджа от 1993 года. Технологическая сингулярность так и не наступила (если, конечно, Искусственный Сверхразум не избавился от человечества и все мы теперь не более чем кластеры информации на носителях, о чём нас тактично забыли уведомить). Правда, пару лет назад начался бум нейросетей, но и они разумными не являются, просто умело перемножают матрицы. Люди так, конечно, не умеют. Зато стало понятно, для каких профессий настоящий интеллект не требуется). В статье Виндж на полном серьёзе предлагает составлять команды для игры в шахматы из человека и компьютера. Тогда уж стоит на соревнования по тяжёлой атлетике приглашать вилочные погрузчики, а по лёгкой — какие-нибудь колёсные дроны.

Вообще говоря, на моей памяти несколько прогнозов делаются регулярно и настойчиво десятилетиями — закончится нефть, появится эффективный термоядерный реактор, возникнет ИИ (и всех поработит или истребит, но это не точно). Так что призываю всех к позитивному мышлению, не надо бояться будущего.

Я прочитал впервые статью Винджа лет десять назад. Очень сильно впечатлился. Она и прочтенные вслед материалы других ученых и футурологов на несколько лет переформатировали мне мозги, жизненное целеполагание и тп. Я стал убежденным трансгуманистом, гиком и все такое прочее.

Сейчас интересно эту статью перечитывать с точки зрения «сбылось — не сбылось». Например, Виндж уповает на развитие «железа» и его мощностей, а современные разработчики нейронных сетей научились обходить «кремниевый тупик» и в один и тот же «хард» могут упихать тройной слой «софта». Или Виндж постоянно ссылается на шахматы, а теперь мерилом разумности машинного интеллекта стала го. Все как всегда в фантастике, изменения происходят и так, и не так, как их предсказывают.

Но главное Виндж указал точно в самом названии — ТЕХНОЛОГИЧЕСКАЯ сингулярность. В отличие от большинства западных зазывал «светлого завтра» типа Мичио Каку и иже с ним, Виндж еще и писатель. И он прекрасно понимает, что в футуристических измерениях важнейшим является фактор человека, общества, в котором он живет, превалирующей в этом обществе идеологии и тд, и тп. Он об этом особенно не говорит, но всегда имеет ввиду.

И вот тут и есть главное противоречие сингулярности, которое справедливо отметил коллега morbo в своем отзыве. Не будет при капитализме, особенно в его нынешнем империалистическом изводе, никакой Сингулярности. Она ему просто не нужна, а все, что не нужно — то дорого. Капитализм же тратиться попусту не будет. Как только денежные мешки поймут ,что автоматизация им выгоднее, чем естественной прирост податного и пашущего населения, это самое население немедленно пойдет под нож и будет заменено автоматикой. Немногие оставшиеся сверхбогачи с помощью техники превратятся в машинных богов, а потом — скорее всего — и сами будут заменены собственными цифровыми копиями. Вот тебе и вся сингулярность — дурацкий мир роботов.

Так что качественные скачки в эволюции человечества могут быть эффективными и позитивными только, если будут идти рука об руку с социальными и прочими гуманитарными изменениями. О чем Виндж к сожалению только косвенно упомянул в своей мощной и исторически ценной статье.

Если вы не понимаете словосочетания «технологическая сингулярность» — эта статья объяснит вам его суть и отметит возможные способы достижения этой самой технологической сингулярности. Не знаю, как относиться к изобретению искусственного интеллекта. С одной стороны он желанен, как инструмент для решения человеческих задач. С другой стороны есть опасение, что мы не сможем отличить предложенные им решения наших задач от решений его собственных задач. Но может быть у него не будет собственных задач? К чему может стремиться чистый интеллект без побудительных мотивов, заложенных в природу животных?

Наиболее безопасным способом достижения технологической сингулярности кажутся «усилители интеллекта». В принципе, этот сценарий развития уже можно наблюдать. Отдельные области человеческой деятельности настолько сложны, что осмысленно применять компьютеры для решения по-настоящему сложных проблем может только очень небольшое количество экспертов. Остальное обывательское большинство пользуется уже предложенными экспертами техническими решениями, подчас вообще не вникая в процессы, лежащие в их основе. Видимо в таком обществе обыватели превратятся по большей части в обузу. Ранее большой размер общества был необходим для его военной безопасности. Но сейчас для победы в войне уже не требуется большого количества людей — давно прошли те времена, когда бои шли по принципу «стенка на стенку». Как показывает практика, суть современной войны — соревнование мощностей и эффективностей экономик. Задача заключается в том, чтобы меньшим количеством ресурсов нанести наибольший ущерб противнику, принудив его к капитуляции. Вместо бомбардировщиков с большой бомбой, действующей по неизбирательному принципу, в ходу штурмовики с их точечными и целевыми ударами. Вместо бумажных карт — навигационные системы. Вместо ближнего пулемётного боя — системы раннего обнаружения, распознавания свой-чужой, скрытности и боеприпасы типа «выстрелил-забыл». В проектировании всё большее распространение получают САПР, в производстве — безлюдные автоматические производственные линии на основе роботов и станков с ЧПУ. Ресурсов становится всё меньше, а общество потребления расходует их слишком нерационально. Внедряются системы учёта расхода ресурсов и их экономии. Дальнейшие методы экономии и автоматизации, видимо, неизбежно приведут к сокращению численности населения. Станет выгоднее воспитывать небольшое количество экспертов, а не массового обывателя.

В конечном счёте, правда, человечество скорее всего столкнётся с пределами возможностей мозга. Даже если мозг подключить к скоростным каналам обмена информацией, как это предполагается в статье, он в конечном счёте может столкнуться с нагрузкой, которая ему не под силу. Эффективнее будет заменять человека системами с искусственным интеллектом, решающими поначалу ограниченные задачи. Человечество будет уменьшаться, уступая своё место системам с искусственным интеллектом. В конечном счёте искусственный интеллект сможет функционировать почти автономно.

Может быть именно такой будет сингулярность? Почему-то в изобретение искусственного интеллекта до 2030 года я не верю, т.к. существенного прогресса в программировании с 1970-х годов я не наблюдаю, а закон Мура уже столкнулся с пределами роста.

Часто научную статью читать не менее интересно, чем художественное произведение. В «Технологической Сингулярности» Вернор Виндж рассуждает о путях и последствиях возникновения сверхчеловеческого интеллекта. Написано просто, доступно, логично, но впечатление производит сильнейшее. Когда ученые пишут о путешествии во времени, о перемещении быстрее скорости света, к этому относишься, как к фантастике, потому что хорошо понимаешь, если это и будет, то очень нескоро. Со сверхинтеллектом все гораздо реальнее. Прогресс компьютерных систем происходит на наших глазах. А до срока, названного Винджем, осталось всего лишь около 20 лет. И если все предположения сбудутся, то даже наше поколение, и все человечество в целом, окажутся во власти кардинально невообразимых перемен. Что-то стало тревожно....