Вы здесь: Авторские колонки FantLab > Рубрика «Рецензии на фантастические книги»

Рецензии на фантастические книги

Внимание!

Данная рубрика — это не лента всех-всех-всех рецензий, опубликованных на Фантлабе. Мы отбираем только лучшие из рецензий для публикации здесь. Если вы хотите писать в данную рубрику, обратитесь к модераторам.

Помните, что Ваш критический текст должен соответствовать минимальным требованиям данной рубрики:

рецензия должна быть на профильное (фантастическое) произведение,
объём не менее 2000 символов без пробелов,
в тексте должен быть анализ, а не только пересказ сюжета и личное мнение нравится/не нравится (это должна быть рецензия, а не отзыв),
рецензия должна быть грамотно написана хорошим русским языком,
при оформлении рецензии обязательно должна быть обложка издания и ссылка на нашу базу (можно по клику на обложке)

Классическая рецензия включает следующие важные пункты:

1) Краткие библиографические сведения о книге;

2) Смысл названия книги;

3) Краткая информация о содержании и о сюжете;

4) Критическая оценка произведения по филологическим параметрам, таким как: особенности сюжета и композиции; индивидуальный язык и стиль писателя, др.;

5) Основной посыл рецензии (оценка книги по внефилологическим, общественно значимым параметрам, к примеру — актуальность, достоверность, историчность и т. д.; увязывание частных проблем с общекультурными);

6) Определение места рецензируемого произведения в общем литературном ряду (в ближайшей жанровой подгруппе, и т. д.).

Три кита, на которых стоит рецензия: о чем, как, для кого. Она информирует, она оценивает, она вводит отдельный текст в контекст общества в целом.

Модераторы рубрики оставляют за собой право отказать в появлении в рубрике той или иной рецензии с объяснением причин отказа.

Модераторы рубрики: Aleks_MacLeod, Ny

Авторы рубрики: Лoki, PanTata, RebeccaPopova, rast22, Double Black, iRbos, Viktor_Rodon, Gourmand, be_nt_all, St_Kathe, Нариман, tencheg, Smooke, sham, Dragn, armitura, kkk72, fox_mulder, Нопэрапон, Aleks_MacLeod, drogozin, shickarev, glupec, rusty_cat, Optimus, CaptainNemo, Petro Gulak, febeerovez, Lartis, cat_ruadh, Вареный, terrry, Metternix, TOD, Warlock9000, Kiplas, NataBold, gelespa, iwan-san, angels_chinese, lith_oops, Barros, gleb_chichikov, Green_Bear, Apiarist, С.Соболев, geralt9999, FixedGrin, Croaker, beskarss78, Jacquemard, Энкиду, kangar, Alisanna, senoid, Сноу, Синяя мышь, DeadPool, v_mashkovsky, discoursf, imon, Shean, DN, WiNchiK, Кечуа, Мэлькор, kim the alien, ergostasio, swordenferz, Pouce, tortuga, primorec, dovlatov, vvladimirsky, ntkj666, stogsena, atgrin, Коварный Котэ, isaev, lady-maika, Anahitta, Russell D. Jones, Verveine, Артем Ляхович, Finefleur, BardK, Samiramay, demetriy120291, darklot, пан Туман, Nexus, evridik, visionshock, osipdark, nespyaschiiyojik, The_Matrixx, Клован, Кел-кор, doloew, PiterGirl, Алекс Громов, vrochek, amlobin, ДмитрийВладимиро, Haik, danihnoff, Igor_k, kerigma, ХельгиИнгварссон, Толкователь, astashonok, sergu, Lilit_Fon_Sirius, Олег Игоревич, Виктор Red, Грешник, Лилия в шоколаде, Phelan, jacob.burns, creator, leola, ami568, jelounov, OldKot, dramaturg-g, Анна Гурова, Deliann, klf2012, kirborisov, tiwerz, holodny_writer, Nikonorov, volodihin, =Д=Евгений, А. Н. И. Петров, Valentin_86, kvadratic, Farit, Alexey Zyryanoff, Zangezi, MadRIB, BroonCard, Paul Atreides, Angvat, smith.each, Evgenii2019, mif1959, SergeyProjektPo, imra, NIKItoS1989, Frd981, neo smile, cheri_72, artem-sailer, intuicia, Vadimnet, Злобный Мышалет, bydloman, Алексей121, Mishel78, shawshin, skravec679

«Пятая голова Цербера», Джин Вулф

Статья написана 15 марта 21:55

Размещена:

в рубрике «Рецензии на фантастические книги»
в авторской колонке osipdark

Удвоение двойничества,

или Платон среди волков

"И установил, наконец, лучший творец, чтобы для того, кому не смог дать ничего собственного, стало общим все то, что было присуще отдельным творениям. Тогда принял Бог человека как творение неопределенного образа и, поставив его в центре мира, сказал: "Не даем мы тебе, о Адам, ни определенного места, ни собственного образа, ни особой обязанности, чтобы и место, и лицо и обязанность ты имел по собственному желанию, согласно твоей воле и твоему решению. Образ прочих творений определен в пределах установленных нами законов. Ты же, не стесненный никакими пределами, определишь свой образ по своему решению, во власть которого я тебя предоставляю. Я ставлю тебя в центре мира, чтобы оттуда тебе было удобнее обозревать все, что есть в мире. Я не сделал тебя ни небесным, ни земным, ни смертным, ни бессмертным, чтобы ты сам, свободный и славный мастер, сформировал себя в образе, который ты предпочтешь. Ты можешь переродиться в низшие, неразумные существа, но можешь переродиться по велению своей души и в высшие божественные... И как не удивляться нашему хамелеонству! Или вернее – чему удивляться более?" (Дж. Пико делла Мирандола, "Речь о достоинстве человека")

В последних отзывах я начинал с цитат-негодований предыдущих отзывчивых читателей, чтобы в итоге если не прояснить, то сгустить еще сильнее общую непонятность и таинственность прочитанного. В случае романа-триптиха Джина Вулфа, "Пятая голова Цербера", я поступлю с самого начала и до конца иначе. Ведь, как кажется, подробнее прокомментировать собственный перевод и надежнее расставить маяки-"напоминалки" для забывчивого и сбивчивого читателя (коим являюсь и я), чем это сделал Конрад Сташевски, нельзя. Поэтому не буду пытаться произвести дополнительные археологические раскопки семантических напластований в романе: боюсь, дальнейшие подземные работы попросту разрушат исследуемый объект. Я лишь постараюсь добавить к той совокупности примет, которые замечает и обычный читатель вроде меня, и иные приметы, специально картированные переводчиком, надстроечную интерпретацию для романных событий. Версию, которая радикально не меняет конечное понимание "Пятой головы..." после прочтения третьей части. Но показывает, что (на самом деле? как бы? якобы?) основной вопрос произведения

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

(заменили ли аборигены-оборотни земных колонистов частично, а то и полностью?)

во многом лишен смысла. Сам этот вопрос — очередной оборотень, отшлифованный на писательском станке Вулфа и встроенный в самый центр повествования лишь для того, чтобы в очередной раз обмануть читателя.

Во многом моя несколько корректирующая действо в романе призма понимания перемещена из отзыва на "Повесть о Платоне" Питера Акройда прямиком в эти строчки. И вдохновлена как вставной цитатой выше из эпохи Итальянского Возрождения, так и творениями из времен еще более давних. Собственно, скопированных, воспроизведенных с той или иной успешностью деятелями того самого Ренессанса — из античных, точнее платоновских времен. Если еще точнее, то мое прочтение "Пятой головы Цербера" сквозит "Пиром" Платона. Перечитав для кружка один из наиболее известных и читаемых диалогов философа-литератора, нельзя не отметить, что темы оба автора — и древний литературствующий эллин, и американский философствующий фантаст — обсуждают схожие. Ведь мотив оборотничества у Вулфа — это не просто хамелеонство, двойничество, копирование и воспроизведение в одном иного. Он обязательно подразумевает проблему подлинности и неподлинного, воспроизведения не только иного в другом, но и того же самого в самом себе, т. е. повторение, самоповторение, тождественность самому себе. Собственно, в первой части "Пятой головы...", одноименной заглавию всего романа, т. н. гипотеза Вейль — нечто третьестепенное для этого участка в глобальной архитектуре сюжета, но более значимое и центральное в двух других его областях. В ней именно вопрос самотождественности — центральный. Если же мы принимаем как главную загадку и интеллектуальную игру для сметливых читателей во всех трех повестях книги лишь вопрос об оборотнях и их существовании, то первая (не)глава как бы выпадает из контекста. Хотя именно она и должна задавать, и действительно задает контекст для всех линий повествования Вулфа.

Но вернемся к Платону и его "Пиру". Что же в диалоге о любви (Эроте) можно найти о проблемах копирования? Начнем с того, что условный постмодернистский поворот в философии, среди штурманов которого можно легко различить фигуру Жиля Делеза, нападали именно на Платона за идею о наличии Идей (Эйдосов) как вечных и неизмененных образцах, от которых исходят вещи подлунного, вещественного, нашего мира, т. е. мира теней, образов и тех самых копий. Основной укор Платону и философиям, подверженным платоническому влиянию, у Делеза в сжатом виде содержится в работе "Платон и симулякр". И основана она на реверсии и переворачивании платоновской мысли и оценки: не Истина (неизменное, Идея) лучше своей копии (изменяемое, вещь), но наоборот. И вообще никакого постоянства (и Истины) нет — есть лишь становление и истины с маленьких букв как моменты этого становления. Сама вещь — лишь серия из отдельных точек, которые суть движение из ниоткуда в никуда. Но все эти представления уже есть у самого Платона (не даром Делез заявляет именно о переворачивании, а не о переписывании Платона; хотя, чего уж, он его именно переписывает, ведь в платонической картине мира нет негативного или позитивного окраса для двух этажей мироздания: есть лишь верхний и нижний этажи, которые оба необходимы для полноценности вселенского дома) в "Пире":

"—Так вот, — сказала она, — если ты убедился, что любовь по природе своей — это стремление к тому, о чем мы не раз уже говорили, то и тут тебе нечему удивляться. Ведь у животных, так же как и у людей, смертная природа стремится стать по возможности бессмертной и вечной. А достичь этого она может только одним путем — порождением, оставляя всякий раз новое вместо старого; ведь даже за то время, покуда о любом живом существе говорят, что оно живет и остается самим собой — человек, например, от младенчества до старости считается одним и тем же лицом, — оно никогда не бывает одним и тем же, хоть и числится прежним, а всегда обновляется, что-то непременно теряя, будь то волосы, плоть, кости, кровь или вообще все телесное, да и не только телесное, но и то, что принадлежит душе: ни у кого не остаются без перемен ни его привычки и нрав, ни мнения, ни желания, ни радости, ни горести, ни страхи, всегда что-то появляется, а что-то утрачивается" (207d-207e)

Эмпирическая реальность, животность, органика, даже (как показывает далее) значительная часть интеллектуальной (духовной) сферы в попытках сохраниться, остаться неизменным, продолжиться далее, неизбежно преображается в нечто иное (

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

и именно сохраниться пытались аборигенные оборотни, чья способность менять облик — лишь гипертрофированная суть всякой жизни вообще по Платону

"А еще удивительнее, однако, обстоит дело с нашими знаниями: мало того что какие-то знания у нас появляются, а какие-то мы утрачиваем и, следовательно, никогда не бываем прежними и в отношении знаний, — такова же участь каждого вида знаний в отдельности. То, что называется упражнением, обусловлено не чем иным, как убылью знания, ибо забвение — это убыль какого-то знания, а упражнение, заставляя нас вновь вспоминать забытое, сохраняет нам знание настолько, что оно кажется прежним. Так вот, таким же образом сохраняется и все смертное: в отличие от божественного оно не остается всегда одним и тем же, но, устаревая и уходя, оставляет новое свое подобие. Вот каким способом, Сократ, — заключила она, — приобщается к бессмертию смертное — и тело, и все остальное. Другого способа нет. Не удивляйся же, что каждое живое существо по природе своей заботится о своем потомстве. Бессмертия ради сопутствует всему на свете рачительная эта любовь" (208b)

Второй отрывок так вообще посылает привет Борхесу с его памятным Фунесом (не даром аргентинский писатель частенько обращался к грекам) и размышлениями о памяти и забвении, которое позднее и у Умберто Эко в эссеистике помелькают (и вообще станут серьезной темой для исследований у психологов, физиологов и когнитивистов). Но оба фрагмента из платоновского "Пира" помогают соединить в единое смысловое целое два вида копирований (клонирования, воспроизведения и метаморфоз) — репродуцирование тождественного и преображение в чуждое. И один, и другой типы — моменты различающихся повторений (или повторяющихся различий) в общем потоке становления, который суть жизни. Поэтому и семья (видимо) однофамильцев автора "Пятой головы Цербера", и аборигены занимаются одним и тем же. И, вспоминая уже другую работу Платона, "Государство" (седьмую его книгу), и генетики, и чужаки-хамелеоны

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

одинаково несчастны — они в своих круговращениях в попытках либо сохранить свой облик, либо найти иное обличие, обречены на самый печальный сценарий вечного возращения из возможных, ведь эти персонажи не пытаются прорваться за порочную петлю, к вечному и неизменному вне копий, клонов и единичного

. Все эти люди и нелюди обитают в пещере из собственных и чужих теней, не видя за ними себя настоящих. Именно поэтому вся генетическая династия (привет яблочной экранизации "Основания")

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

в попытках откорректировать клонов для достижения успеха и славы обречена на провал

, а аборигены и при истинности, и при ложности гипотезы Вейль

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

уже мертвы, без промежуточных вариантов в лице известного эксперимента с кошкой и запутанностью квантов

. Заигрывания с биоинженерными ремеслами (которые, по Платону, конечно, не настоящая наука) или доведенный до совершенства актерский навык (Платон, естественно, именно так бы описал способность оборотней) не помогут найти путь к Благу как Истине, Красоте и Добру.

Да, я понимаю, что вся эта вставка о платонизме в тексте Вулфа — это домыслы, которые имеют лишь очень косвенное подтверждение в теле романа. Скорее, в "Пятой голове Цербера" есть, если можно так сказать, латентный платонизм, но не более того. А вот что в ней есть вероятнее — и здесь введенный латентный платонизм становится мне подпорками для возведения заявленной надстроечной системы понимания сюжета — это ясность

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

не по вопросу верности или неверности гипотезы Вейль, а о том, кем или чем были сами оборотни

. И ответ очень прост:

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

аборигены никогда не были аборигенными до конца — они всегда были людьми

. Ведь вторая часть книги, "История, записанная Дж. В. Маршем", которая оценивается многими и среди отозвавшихся здесь, и в обзоре "Книжного поезда" на ютубе как слишком сложная, запутанная, чуть ли не лишняя для остальной романной конструкции, на самом деле крайне значима. Она доказывает

Спойлер (раскрытие сюжета) (кликните по нему, чтобы увидеть)

не существование оборотней в прошлом (что происходит уже в заключительной части, "V. R. T.", притом существование оборотней продлевается до настоящего времени по книге), но сосуществование с ними в эти давние доколониальные времена неких Детей Тени, которое были гораздо более ранней волной колонизаторов с Земли (получается палеоконтакт наоборот). И да, это доказывает экзотичное предположение, озвученное Дэвидом из первой (не)главы произведения. Но если были как минимум две колонизационные волны, древняя доисторическая и более современная нам, почему их не могло быть больше? Если природа оборотничества в широком или в удвоенном смысле, о котором я распинался выше, принадлежит не только аннезийцам, но и людскому роду, может, это все один и тот же род? Человеческий? Но эти "аборигены" происходят из очень, очень и очень древней волны колонизации. И если это так, то заменяли ли аборигены людей или нет — очень вторичный вопрос. И те, и другие всегда людьми оставались. Думаю, стоит еще добавить, что и "V. R. T." частично подтверждает такую версию — ведь там содержится свидетельство о возможности скрещиваний между аборигенами ("аборигенами"?) и поздними колонизаторами. Ну и последнее, что добавлю, так это типично-необычный рассказ Лафферти "Хитропалые" (1976 г.) — его "вот-это-поворот", а именно многомиллионнолетнее существование человеческого рода и многочисленных видов человеков, к некоторым из которых наш "базовый" подвид лишь очень блеклый аналог спокойно, без ракет и скафандров, путешествующих среди звезд, и, кстати, умеющих менять облик, подобно вульфовским пришельцам ("пришельцам"?), напоминает некоторые фантастические допущения рассматриваемого романа

Наверное, мое решение для создания некоторого рамочного понимания "Пятой головы Цербера" слишком экзотично и необычно, но экзотичен и необычен сам текст. Поэтому и методы для его адекватного понимания должны быть под стать.

П.С. К множеству возможных отсылок в романе — реальных и гипотетических — хотел бы добавить такую. Заключенный из третьей части произносит суду пространную речь в свою защиту, отдающую кафкианским сюром, как и вся местная пенитенциарная система. Среди прочего он приводит список классов существ, "которые ни при каких обстоятельствах не могли бы понести наказание по соображениям их виновности". И часть приводимого списка, сама его странная логика напоминает классификацию животных из рассказа-эссе Борхеса "Аналитический язык Джона Уилкинса" своей системной бессистемностью.

Тэги: Вулф, постмодернизм, планетарная фантастика, ксенофантастика, философская фантастика, философия, эссе

«Почему компьютеры не смогут сделать себя умнее», Тед Чан (рецензия + перевод)

Статья написана 20 сентября 2023 г. 15:33

Размещена:

в рубрике «Рецензии на фантастические книги»
в авторской колонке osipdark

Почему компьютеры не смогут сделать себя умнее

Мы боимся и стремимся к «сингулярности». Но она, похоже, никогда не наступит

Источник:

https://www.newyorker.com/tech/annals-of-...

Предисловие (от меня):

От прочтения заметки Теда Чана «ChatGPT Is a Blurry JPEG of the Web» я загорелся идеей написать статью с прицелом на академическую публикацию, где бы изобразил различные модификации аргумента «китайской комнаты» Джона Серла. Правда, написать ее, по разным причинам, выйдет не скоро, а тем более опубликовать. Тем не менее поиск источников успел дать побочные, но приятные следствия. Я обнаружил сразу два очерка Теда Чана в «The New Yorker», помимо эссе о ChatGPT, так или иначе связанных с вопросами ИИ: «Will A.I. Become the New McKinsey?» и «Why Computers Won’t Make Themselves Smarter». Ниже я предлагаю свою версию (с корректировками от сестры-филолога) перевода второй из этих заметок.

Эссе «Почему компьютеры не смогут сделать себя умнее» опубликовано 30 марта 2021 г. – примерно за полтора года до шумихи вокруг ChatGPT. Но рассуждение в нем косвенно связано и с умными чат-ботами, и со ставшим легендарным письмом с не менее легендарными подписантами против продолжения разработок нейросетей. Да, речь о нашей любимой Технологической Сингулярности – о том, насколько она возможна.

Надо сказать, что предыдущая отрецензированная мной статья Чана с точки зрения и иллюстративных примеров, и метафор, и изящности аргументации сильнее переведенной и рассматриваемой здесь. Тем не менее «Почему компьютеры не смогут сделать себя умнее» – очень неплохой пример критики идей, которые настолько глубоко через массовую культуру, СМИ и научпоп проникли в наше повседневное мышление, что потеряли свой первоначальный облик. Облик красивой, но спекулятивной борьбы технофильских и алармистских интеллектуальных традиций. В конце концов, где бы вы еще смогли увидеть сравнение онтологического доказательства существования божественного с гипотезой Технологической Сингулярности? Тед Чан вправду проделывает очень серьезный и стройный анализ (в духе аналитической философии) дискурсивных стратегий одного из творцов идеи сверхсильного и сверхчеловеческого ИИ.

Повторюсь, его мысленный эксперимент не столь хорош, как «сжатое изображение всемирной сети», но последний – маленький шедевр. Очень удачная находка. Ждать такой в каждой статье – слишком сильное требование к любому, даже самому талантливому автору. Во всяком случае мыслительные ходы Теда Чана во много, во много и еще раз во много сильнее, глубже и находчивее, притом в каждом отдельно взятом эссе, чем все решения, большие и малые работы Бострома вместе взятые. Заявляю это со всей ответственностью. Возможно, когда-нибудь я оброню пару письменных слов о том, почему решения и аргументы этого философа – странным образом часто цитируемая чепуха и пустота, но речь тут, конечно, не о том и не о нем.

Вернемся к содержанию заметки. Чан начинает с проведения логического сходства между онтологическими аргументами существования Бога и аргументами о высоковероятном наступлении Технологической Сингулярности. Схожее в обеих аргументациях и есть их слабое место – они доказываются как бы из самих себя при помощи силлогизмов с заранее необоснованными посылками. Идея о совершенном божестве предполагает наличие в действительности столь же совершенного существа, а идея (потенциально) всесильного и практически всеведущего ИИ подразумевает т. н. «рекурсивное самосовершенствование». Не прибегая к классическому кантианскому способу окончательно (или хотя бы с некоторой логической убедительностью) решить, насколько силен подобный ход рассуждений, Тед Чан идет своим путем. Частично этот путь смыкается со все тем же размышлением Серла о «китайской комнате», но лишь частично – аналогия не столь явная, как в случае с «размытым изображением всемирной сети». Смычка происходит на втором этапе аргументации писателя, где он предлагает примерить рекурсивное самосовершенствование на человеческом существе, показывая некоторую абсурдность самой идеи из сердца мечтаний сторонников наступления Техносингулярности. Далее следует скептическая ремарка о возможности конечного исследования человеческого мозга, т. е. достижения полного научного понимания всех причинных и специфических особенностей наших когнитивных способностей, включая решение «сложной проблемы сознания».

Затем следует третий этап аргументации Теда Чана. Это доказательный блок с подключением эмпирики из программистской практики. И здесь тоже есть семена критического сомнения Джона Серла. Во-первых, приводится мысленный эксперимент с двумя равными друг другу по интеллектуальным способностям существами – средним программистом и программой с ИИ того же умственного уровня. По условию машина имеет очень мощное железо, по скорости в сотню раз быстрее человеческих мозгов. И для выполнения весьма сложной, одной и той же, задачи воображаемому человеку-программисту понадобится сто лет, а умной и быстрой машине – всего-то год. Но как бы мы ни увеличивали время – хоть и до многих веков и тысячелетий – ни машина, ни рядовой, но бессмертный и не скучающий, программист не смогли бы кропотливым выполнением синтаксических операций совершить прорыв в области исследований и конструирования сверхразумного ИИ. Потом этот несколько абстрактный мысленный эксперимент переводится на более конкретный язык примеров из программирования, с кратким введением в то, что такое компиляторы, раскрутка компиляторов, оптимизирующие компиляторы, предметно-ориентированные языки, языки общего назначения и т. д. И здесь в более сильном и обоснованном виде повторяется результат предыдущего мысленного эксперимента: оптимизировать работу программ с ИИ специализированного назначение можно и нужно, но из этого логически необходимо и непротиворечиво не следует возможность оптимизации, притом бесконечной (т. е. того самого рекурсивного самосовершенствования), притом для конструирования программы с полем универсальной применимости.

И, наконец, в последней части текста Теда Чана дается самый сильный и интересный (контр)аргумент. Именно с такими круглыми скобками, ведь, с одной стороны, он демонстрирует, почему рекурсивное самосовершенствование невозможно (по крайней мере, в ближайшее время и в контексте, который толкуется последователи сингуляристской идеи), а, с другой стороны, автор показывает, где подобное применимо и наличествует в реальности:

«Но есть такой контекст, в котором, на мой взгляд, рекурсивное самосовершенствование представляется значимой концепцией, а именно когда мы рассматриваем способности человеческой цивилизации в целом. Обратите внимание, что это отличается от индивидуального разума. Нет никаких оснований полагать, что люди, родившиеся десять тысяч лет назад, были менее умны, чем родившиеся сегодня; у них была точно такая же способность к обучению, как и у нас. Но в настоящее время у нас за плечами десять тысяч лет технического прогресса, и эти технологии носят не только физический, но и когнитивный характер»

Потом, вводя понятие «когнитивных инструментов», уравновешивающих способности людей (сходно с неологизмом Владимира Фридмана «практики или техники Демосфена»: http://www.socialcompas.com/2014/06/17/pr...), а также на ряде иллюстраций, Чан доводит свою позицию до логичного предела, которая схожа с критикой, как бы мы сейчас сказали, «сильного ИИ», Ильенковым (которую я ранее считал недостаточной и слабой, но в той цепочке рассуждений, которую организовал Тед Чан, «аргумент от цивилизации» не выглядит таким уж недостаточным и слабым: http://caute.ru/ilyenkov/texts/machomo.html). И, как и в случае с предыдущей статьей писателя, заканчивается повествование важной «моралью», которая тем же Питером Уоттсом (хоть в самом интервью канадский писатель двояко относится к возможности Технологической Сингулярности, в ее иной терминологической форме – в блоке рассуждений о постчеловечества – Уоттс вполне верует в подобное: https://www.mirf.ru/book/peter-watts-inte...) и иными сторонниками того, что можно назвать «сильной верой в Технологическую Сингулярность» (такая вера заключается в том, что указанное событие решит все проблемы жалких человеков, от чего можно будет расслабить лапки и либо жить в свое удовольствие, ну или умереть от скуки и/или восстания машин), игнорируется и оттеняется:

«К лучшему или к худшему, но судьба нашего вида будет зависеть от принятия решений исключительно самим человеком»

Все это не отменяет того, что в разумных пределах несколько капель алармизма необходимы, но в который раз заставляет нас лучше присмотреться к тому, что мы считаем здравым смыслом эпохи, чем-то общепринятым и неопровержимым.

Теперь о самом переводе. Разумеется, в нем точно будут свои огрехи, непродуманные места и слабые стороны. Думаю, коллективный разум «фантлабовской цивилизации» укажет на них, а я попробую все поправить. В квадратных скобках без внутренней пометки «(прим.)» указаны уточнения к изначальному тексту, его контексту. С пометкой «(прим.)» встречаются те места, которые я посчитал необходимыми к сторонним отсылкам. В квадратных скобках со звездочками находятся ссылки, комментирующие те или иные смысловые стороны в статье Теда Чана. Возможно, среди всей этой суммы примечаний и уточнений встречаются избыточные эпизоды, а сам перевод содержит чрезмерно много буквальных мест. Надеюсь, что все это не слишком умалит моих стараний и ценности текста оригинала. В любом случае приятного чтения!

Перевод:

В одиннадцатом веке Ансельм Кентерберийский предложил доказательство существования Бога, которое примерно выглядит так: Бог, по определению, есть самое совершенное, что только можно вообразить; Бог, который не существует, определенно не так совершенен, как Бог, который существует; поэтому Бог необходимо существует [ * ]. Это рассуждение известно как онтологический аргумент, и довольно много людей находят его убедительным [**], отчего дискуссии по поводу него до сих пор продолжаются. Некоторые критики подобной попытки доказать существование Бога замечают, что такие доказательства, по сути, переопределяют «бытие» в «существование», но определения не работают подобным образом [***].

Бог – не единственное, чье существование люди пытались доказать [схожим способом]. «Давайте определим сверхразумную машину как машину, которая способна намного превзойти любую интеллектуальную деятельность любого человека, каким бы умным он не был», писал информатик Ирвинг Джон Гуд в 1965 году:

«Так как разработка машин – это тоже одна из форм интеллектуальной деятельности, то сверхразумная машина смогла бы разработать еще более совершенные машины; в таком случае, несомненно, произойдет «интеллектуальный взрыв», и разум человека останется далеко позади. Таким образом, первая сверхразумная машина – это последнее изобретение, которое когда-либо понадобится создать человеку при условии, что она достаточно разумна, чтобы объяснить нам, как держать ее под контролем».

Идея интеллектуального взрыва возродилась в 1993 году благодаря писателю и информатику Вернору Винджу [****], который дал ей название «сингулярность». С тех пор эта концепция приобрела некоторую популярность среди разработчиков и философов. Такие книги, как «Искусственный интеллект. Этапы. Угрозы. Стратегии» Ника Бострома, «Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта» Макса Тегмарка и «Совместимость: как контролировать искусственный интеллект» Стюарта Рассела [все три книги есть в русскоязычных переводах (прим.)] описывают варианты возникновения «рекурсивного самосовершенствования», при которых ИИ будут постоянно разрабатывать все более совершенные версии самих себя.

Я полагаю, что аргументы Гуда и Ансельма имеют нечто общее, а именно в том пункте, что во многом оба примера доказываются своими исходными определениями. Внешне они [исходные определения] кажутся приемлемо сформулированными и даже допустимыми, отчего обычно принимаются за чистую монету. Но эти определения заслуживают более тщательного рассмотрения. Думаю, чем больше мы строго изучим скрытые посылки в рассуждении Гуда, тем меньше правдоподобности останется в его идее интеллектуального взрыва.

Как могло бы выглядеть рекурсивное самосовершенствование для людей? Для удобства мы будем описывать человеческий интеллект в терминах IQ, но не по причине одобрения системы количественной оценки умственных способностей. Дело в том, что IQ воплощает идею об удобном и практичном измерении интеллекта конкретным числом, а это – одно из допущений сторонников интеллектуального взрыва. В этом случае рекурсивное самосовершенствование выглядело бы следующим образом: если есть человек с IQ равным, скажем, 300, то одна из проблем, которую этот человек может решить, заключается в том, как превратить человека с IQ=300 в человека с IQ=350. И тогда человек с IQ=350 сможет решить более сложную проблему преобразования человека с IQ=350 в человека с IQ=400. И так далее.

Есть ли у нас какие-либо основания допускать, что именно так функционирует интеллект? Я не думаю, что мы ими обладаем. Например, есть множество людей, у которых IQ=130, и есть меньшее число людей, у которых IQ=160. Никто из них не способен повысить интеллект человека с IQ от 70 до 100, что, как предполагается, является более легкой задачей. Никто из них не сможет повысить даже интеллект животных, чьи умственные способности считаются слишком низкими, чтобы замерить их тестами IQ. Если бы повышение чьего-либо IQ было занятием того же рода, что решение набора математических головоломок, мы должны были бы увидеть успешные примеры этого на начальном этапе [этапе перед моментом интеллектуального взрыва], где задачи решаются легче. Но мы не видим убедительных доказательств того, что подобное происходит.

Возможно, этого нет в настоящее время из-за того, что мы слишком далеки от необходимого порога; возможно, IQ=300 – тот минимум, который необходим для повышения интеллекта любого человека вообще. Но даже если так и есть, у нас все равно нет веских оснований предполагать, что бесконечное рекурсивное самосовершенствование возможно. Например, вполне может быть, то лучшее, на что способен человек с IQ=300, – это увеличить IQ другого человека до 200. Это позволило бы одному человеку с IQ=300 обеспечить всем окружающим IQ=200, и одно это, откровенно говоря, было бы удивительным достижением. Но подобный исход все равно вывел бы нас на плато; не было бы ни рекурсивного самосовершенствования, ни интеллектуального взрыва.

Инженеру-исследователю из I.B.M., Эмерсону М. Пью, приписывают высказывание: «Если бы человеческий мозг был так прост, что мы могли бы его понять, мы были бы настолько просты, что не смогли бы его понять» [*****]. Это утверждение имеет интуитивный смысл, но, что более важно, мы можем указать на конкретный пример в его поддержку: микроскопическая нематода C. elegans [Caenorhabditis elegans (прим.)]. Вероятно, это один из наиболее изученных организмов в истории; ученые секвенировали его геном и знают последовательность клеточных делений, которые дают начало каждой из девятисот пятидесяти девяти соматических клеток в его теле, и нанесли на карту все связи между его тремя сотнями и двумя нейронами. Но они все еще не до конца понимают поведение этих нематод. По оценкам, в среднем в человеческом мозге насчитывается восемьдесят шесть миллиардов нейронов, и нам, вероятно, понадобится большинство из них, чтобы понять, что происходит в трехстах двух клетках C. elegans; такое соотношение не сулит ничего хорошего для наших перспектив понимания происходящего внутри нас самих.

Некоторые сторонники интеллектуального взрыва считают возможным усилить интеллект без полного понимания функционирования той системы, в которую он встроен. Они подразумевают, что такие интеллектуальные системы, как человеческий мозг или программа с ИИ, имеют одну или несколько скрытых «умственных кнопок», и всего-то нужно быть достаточно умными, чтобы найти эти кнопки. Я не уверен, что в настоящее время у нас есть много достойных кандидатов на эти кнопки, поэтому трудно оценить достоверность такой идеи. Пожалуй, наиболее часто предлагаемый способ «включить» ИИ – увеличить скорость аппаратного обеспечения, на котором выполняется программа. Некоторые заявляют, что как только мы создадим программное обеспечение, которое будет таким же разумным, как человек, его запуск на более быстром компьютере успешно создаст сверхчеловеческий интеллект. Приведет ли это к интеллектуальному взрыву?

Давайте представим, что существует программа с ИИ того же уровня, что и естественный интеллект у рядового человеческого программиста. Теперь предположим, что мы увеличиваем скорость компьютера, на который установлена наша программа, в сто раз, после чего даем ей поработать в течение года. Это было бы равносильно тому, чтобы запереть среднестатистического программиста в комнате на столетие, притом ему бы не оставалось ничего другого, кроме работы над поставленной задачей по программированию. Многие сочли бы это адским тюремным заключением, но, для целей нашего воображаемого расклада, представим, что ИИ не чувствует того же. Мы предположим, что ИИ обладает всеми желаемыми свойствами человека, но не обладает другими свойствами, которые могли бы стать препятствиями в этой выдуманной ситуации, например, потребность в новизне или желание делать свой собственный выбор. (Мне не очевидно, насколько обоснованно и здраво допущение выше, но оставим этот вопрос на другой раз).

Итак, теперь у нас есть ИИ, эквивалентный человеческому, который тратит сто человеко-лет на выполнение одной задачи. Каких результатов мы можем ожидать от него? Предположим, что этот ИИ мог бы писать и отлаживать тысячу строк кода в день, что является потрясающим уровнем производительности. При таких темпах века почти достаточно для того, чтобы в одиночку написать код Windows XP, который предположительно состоял из сорока пяти миллионов строк. Это впечатляющее достижение, но оно далеко от того, чтобы создать ИИ, более совершенный, чем умная машина из нашего примера. Создание более умного ИИ требует нечто большее, чем просто умение писать хороший код; это потребовало бы крупного прорыва в исследованиях ИИ, а это не то, чего гарантированно достигнет среднестатистический программист, независимо от того, сколько времени ему предоставить.

Когда вы разрабатываете программное обеспечение, вы обычно используете программу, известную как компилятор. Компилятор берет исходный код, написанный вами на таком языке, как C, и преобразует его в исполняемую программу: файл, состоящий из машинного кода, понятного компьютеру. Предположим, вы не довольны используемым компилятором для C, назовем его CompilerZero. Этому компилятору требуется много времени для обработки вашего исходного кода, а запуск генерируемых им программ занимает много времени. Вы уверены, что можете добиться большего, поэтому пишете новый компилятор для C, который генерирует более эффективный машинный код; этот новый компилятор известен как оптимизирующий компилятор.

Вы написали оптимизирующий компилятор на C, поэтому можете использовать CompilerZero для преобразования вашего исходного кода в исполняемую программу. Назовем эту программу-компилятор CompilerOne. Благодаря вашей сообразительности, CompilerOne теперь генерирует программы, которые выполняются быстрее. Но запуск самого CompilerOne по-прежнему занимает много времени, потому что это продукт CompilerZero. Что вы можете сделать?

Вы можете использовать компилятор для компиляции самого себя. Вы вводите в компилятор его собственный исходный код, и он генерирует новый исполняемый файл, содержащий более эффективный машинный код. Дадим ему имя CompilerTwo. CompilerTwo также генерирует программы, которые выполняются очень быстро, но у него есть дополнительное преимущество в том, что он сам выполняется очень быстро. Поздравляем — вы написали самосовершенствующуюся компьютерную программу.

Но на этом все и заканчивается. Если вы скормите исходный код CompilerTwo в него же, то все, что он сделает – это сгенерирует другую копию CompilerTwo. Он не сможет создать CompilerThree и инициировать нарастающую серию все более совершенных компиляторов. Если вам нужен компилятор, который генерирует программы, выполняющиеся безумно быстро, вам придется поискать такой в другом месте.

Метод, при котором компилятор сам компилируется, известен как «раскрутка компилятора» [иначе: bootstrapping, бутстрэппинг, самозагрузка (прим.)], и он используется с шестидесятых годов прошлого века. С тех пор оптимизирующие компиляторы прошли долгий путь, поэтому различия между CompilerZero и CompilerTwo могут быть намного больше, чем раньше, но весь этот прогресс был достигнут программистами-людьми, а не компиляторами, совершенствующими самих себя. И, хотя компиляторы сильно отличаются от программ с ИИ, они предлагают ценный прецедент для размышления об идее интеллектуального взрыва. Потому что, во-первых, это компьютерные программы, которые генерируют другие компьютерные программы, и, во-вторых, при этом оптимизация часто является приоритетом.

Чем больше вы знаете о планируемом применении программы, тем лучше вы сможете оптимизировать ее код. Программисты-люди иногда вручную оптимизируют разделы программы, т. е. напрямую задают машинные инструкции; человеческие специалисты могут написать машинный код, который более эффективен, чем тот, который генерирует компилятор, потому что они знают о том, что должна делать программа, больше, чем компилятор. Компиляторы, которые лучше всего справляются с оптимизацией – это компиляторы для так называемых предметно-ориентированных языков, которые предназначены для написания узких категорий программ. Например, существует язык программирования под названием Halide, предназначенный исключительно для написания программ обработки изображений. Поскольку предполагаемое использование этих программ настолько специфично, компилятор для Halide может генерировать код не хуже или даже лучше того, который способен написать программист-человек. Но такой компилятор не может скомпилировать сам по себя, потому что язык, оптимизированный для обработки изображений, не обладает всеми функциями, необходимыми для написания компилятора. Для написания такого компилятора нужен язык общего назначения, а компиляторы общего назначения испытывают проблемы с подбором компетентных программистов-людей, когда дело доходит до генерации машинного кода.

Компилятор общего назначения должен быть способным к компилированию чего-угодно. Если вы скормите ему исходный код для текстового процессора, то он сгенерирует текстовый процессор; если исходный код для MP3-плеера, то MP3-плеер; и так далее. Если завтра программист изобретет программу нового типа, что-то столь же незнакомое нам сегодня, каким был самый первый веб-браузер в 1990 году, он введет исходный код в компилятор общего назначения, который послушно сгенерирует эту новую программу. Таким образом, хотя компиляторы ни в каком смысле не являются разумными, у них есть одна общая черта с человеческими существами: они способны обработать входные данные, которые они никогда раньше не получали.

Сравните это с тем, как в настоящее время разрабатываются программы с ИИ. Возьмем одну из них, которая на входе получает одни шахматные ходы, а на выходе должна выдать шаги фигур в ответ. Ее работа очень специфична, и знание об этом очень поможет для оптимизации ее производительности. То же самое верно и для программы с ИИ, которой будут даны только подсказки «Опасность!», а от нее потребуется лишь выдать ответы в форме вопроса. Бывают ИИ не для одной, а сразу для нескольких сходных игр, но его ожидаемый диапазон входных и выходных данных все еще остается крайне ограниченным. Теперь, в качестве альтернативы, предположим, что вы пишете программу с ИИ и у вас нет предварительных знаний о том, какого типа входные данные она может ожидать или какую форму примет правильный ответ. В такой ситуации трудно оптимизировать производительность, потому что вы понятия не имеете, для чего проводить оптимизацию.

Насколько универсально [для сохранения и улучшения способности обработать любые входные данные и получить адекватный ответ на выходе] вы сможете оптимизировать такую программу? В какой степени возможна одновременная оптимизация системы для каждой ситуации, включая такие, с которыми ни вы, ни ваша программа ранее не сталкивались? Наверное, определенное улучшение возможно, но идея интеллектуального взрыва подразумевает, что, по сути, нет предела степени оптимизации, которая может быть достигнута. Это крайне сильное утверждение. Если кто-то заявляет, что такая бесконечная оптимизация [для гипотетической универсальной программы с ИИ] возможна, я хотел бы увидеть некоторые аргументы, помимо отсылки на примеры оптимизации для специализированных задач.

Очевидно, ничто из этого не доказывает, что интеллектуальный взрыв невозможен. Действительно, я сомневаюсь, что можно было бы доказать такую гипотезу, потому что подобные обсуждения, видимо, не входят в область математического доказательства. Это не вопрос доказательства того, что что-то невозможно; это вопрос о том, каким образом составить хорошее обоснование для веры [и возможно ли это вообще]. Критики онтологического аргумента Ансельма не пытаются доказать, что Бога нет; они просто говорят, что аргумент Ансельма не является веской причиной полагать, что Бог есть. Так же и определение «сверхразумной машины» не является достаточным основанием для того, чтобы полагать, что мы можем сконструировать подобное устройство.

Но есть такой контекст, в котором, на мой взгляд, рекурсивное самосовершенствование представляется значимой концепцией, а именно когда мы рассматриваем способности человеческой цивилизации в целом. Обратите внимание, что это отличается от индивидуального разума. Нет никаких оснований полагать, что люди, родившиеся десять тысяч лет назад, были менее умны, чем родившиеся сегодня; у них была точно такая же способность к обучению, как и у нас. Но в настоящее время у нас за плечами десять тысяч лет технического прогресса, и эти технологии носят не только физический, но и когнитивный характер.

Давайте, для иллюстрации, сравним арабские цифры с римскими. С позиционной системой счисления [т. е. таким представлением чисел, при котором значение цифры зависит от ее положения в числе (например, обычная десятичная запись) (прим.)] из арабских цифр проще совершать умножение и деление; если вы участвуете в конкурсе по умножению, арабские цифры дают вам преимущество. Но я бы не сказал, что тот, кто использует арабские цифры, умнее того, кто пользуется римскими. По аналогии, если вы пытаетесь затянуть болт и используете гаечный ключ, у вас получится лучше, чем у того, у кого есть плоскогубцы, но было бы несправедливо говорить, что вы сильнее. У вас имеется инструмент, который дает большее механическое преимущество; только когда мы дадим вашему конкуренту такой же инструмент, можно справедливо судить, кто же сильнее. Когнитивные инструменты, такие как арабские цифры, дают аналогичное преимущество; если мы хотим сравнить интеллект отдельных людей, они должны быть оснащены одинаковыми инструментами.

Появление простых инструментов делает возможным и создание более сложных; такая закономерность верна и для когнитивных, и для физических инструментов. Человечеством разработаны тысячи изобретений на протяжении всей истории, начиная от двойной бухгалтерии и заканчивая декартовой системой координат [стандартная система из двух координатных осей на плоскости (прим.)]. Таким образом, даже несмотря на то, что мы не стали умнее, чем наши предки, в нашем распоряжении имеется более широкий спектр когнитивных инструментов. И последние, в свою очередь, позволяют изобрести еще более мощные устройства и техники.

Таким образом, рекурсивное самосовершенствование присутствует не на уровне отдельных индивидов, а на уровне человечества в целом. Например, я бы не утверждал, что Ньютон стал умнее после изобретения анализа бесконечно малых [calculus в оригинале (прим.)]; хотя, разумеется, прежде чем создать математический анализ, он уже был очень умен. Разработанный Исааком Ньютоном метод позволил ему решать некоторые задачи, но все же не он был основным выгодоприобретателем собственного изобретения – им оказалась человеческая цивилизация вообще. Те, кто пришел после, извлекли пользу из математического анализа двумя способами: в краткосрочной перспективе они смогли решать задачи, с которыми не могли справиться ранее; в долгосрочной перспективе следующие поколения, основываясь на на работах Ньютона, разработали другие, еще более мощные и эффективные математические методы.

Способность людей опираться на работу друг друга (именно поэтому я не верю, что запуск программы ИИ, эквивалентной человеческому, в течение ста лет в изоляции [произведет нечто грандиозное]) – хороший способ совершать серьезные прорывы. Человек, работающий в полной изоляции, тоже способен на серьезное открытие, но вряд ли этот одинокий гений сможет повторить его множество раз. Лучше, если много людей будут черпать вдохновение друг у друга. И им не обязательно сотрудничать напрямую, ведь любая область исследований просто будет работать лучше, когда в ней участвует много людей.

Пример – исследования ДНК. Джеймс Уотсон и Фрэнсис Крик [вместе с Морисом Уилкинсом все трое получили Нобелевскую премию по физиологии и медицине 1962 г. с формулировкой: «за открытия, касающиеся молекулярной структуры нуклеиновых кислот и их значения для передачи информации в живых системах» (прим.)] оба продолжили насыщенную исследовательскую жизнь после публикации в 1953 г. совместной статьи о структуре ДНК, но ни один из крупных прорывов в этой сфере не был сделан ими. Не они изобрели методы секвенирования ДНК; это сделали другие ученые. Не они разработали полимеразную цепную реакцию, которая сделала синтез ДНК доступным; это совершили иные исследователи. И все это никоим образом не оскорбление Уотсона и Крика. Сказанное означает, что при наличии ИИ, запущенного со скоростью в сто раз превышающую норму, вероятно, на выходе отсутствовали бы столь хорошие результаты, как в случае с множеством молекулярных биологов по всему миру, изучающих ДНК. Ведь инновации не происходят изолированно; ученые черпают вдохновение из работ друг друга.

Разработка и внедрение инноваций ускоряются даже в отсутствии какой-либо машины, способной разработать своего преемника. Кто-то мог бы назвать это явление интеллектуальным взрывом, но, по-моему, правильнее было бы представить этот процесс как «технологический взрыв», который включает в себя когнитивные технологии наряду с физическими. Компьютеры и ПО – это новейшие когнитивные технологии, ставшие мощным подспорьем для инноваций, но сами по себе они не могут вызвать технологический взрыв. Для этого вам нужны люди, и чем больше, тем лучше. Предоставление лучшего оборудования и ПО одному умному человеку полезно, но реальные преимущества приходят, когда они есть у всех. Наш нынешний технологический взрыв – результат того, что миллиарды людей используют эти когнитивные инструменты.

Могут ли программы с ИИ занять место этих людей, чтобы взрыв в цифровом мире произошел быстрее, чем в нашем? Возможно, но давайте поразмыслим о том, что для этого потребуется. Стратегия, наиболее вероятная для успеха, состояла бы, по сути, в дублировании всей человеческой цивилизации в ПО, при этом восемь миллиардов ИИ, эквивалентных человеку, занимались бы каждый своим делом. Это, вероятно, непомерно дорого, поэтому задачей становится выявить наименьшее подмножество в человеческой цивилизации, которое может генерировать большую часть инноваций. Один из способов помыслить такое – просто спросить: а сколько людей необходимо для [организации и осуществления] Манхэттенского проекта? Обратите внимание, что подобная постановка вопроса отлична от [простого учета] того, сколько ученых на самом деле работало над Манхэттенским проектом. Ведь смысл вопроса в другом: насколько многочисленное сообщество необходимо для выборки из него достаточного числа ученых [и специалистов, способных участвовать в таком масштабном проекте]?

Точно так же, как только один человек из нескольких тысяч может получить степень [PhD в оригинале (прим.)] по физике, вам, возможно, придется создать еще больше количество ИИ, равных [среднему] человеческому, чтобы получить всего лишь один ИИ, эквивалентный уровню человека со степенью доктора по физике. В 1942 г. Потребовалась выборка из совокупного населения США и Европы, чтобы исполнить задачи Манхэттенского проекта. В настоящее время научно-исследовательские лаборатории при подборе персонала не ограничивают себя двумя континентами; для формирования сильной команды из компетентных специалистов необходимо задействовать наибольший резерв из всех доступных талантов. Если цель [наступления интеллектуального взрыва] состоит в том, чтобы выработать столько же инноваций, сколько и весь человеческий вид, то вряд ли получится кардинально сократить это первоначальное число в восемь миллиардов [думающих индивидов-машин].

Мы еще очень далеки от того, чтобы построить единичный ИИ, подобный человеческому, не говоря уже о миллиардах таких ИИ. В обозримом будущем продолжающийся технологический взрыв будет обусловлен тем, что люди будут использовать ранее изобретенные инструменты для создания новых; таким образом, не будет «последнего изобретения, которое когда-либо понадобится человеку». С одной стороны, это обнадеживает, потому что, вопреки утверждению Гуда, разум человека никогда не будет «оставлен далеко позади». Но точно так же, как не стоит беспокоиться о сверхразумном ИИ, уничтожающего нашу цивилизацию, не надо ожидать появления другого сверхразумного ИИ, спасающего нас вопреки нам самим. К лучшему или к худшему, но судьба нашего вида будет зависеть от принятия решений исключительно самим человеком.

Примечания:

[ * ] – один из самых ранних – и канонических, классических – вариантов онтологического аргумента, от Ансельма, содержится во второй главе «Прослогиона»:

«…одно дело – быть вещи в уме; другое – подразумевать, что вещь существует. Так, когда художник заранее обдумывает то, что он будет делать, он, правда, имеет в уме то, чего ещё не сделал, но отнюдь не подразумевает его существования. А когда он уже нарисовал, он и имеет в уме, и мыслит как существующее то, что уже сделал. Значит, убедится даже безумец, что хотя бы в уме есть нечто, больше чего нельзя ничего себе представить, так как когда он слышит это (выражение), он его понимает, а всё, что понимается, есть в уме. И, конечно, то, больше чего нельзя себе представить, не может быть только в уме. Ибо если оно уже есть по крайней мере только в уме, можно представить себе, что оно есть и в действительности, что больше. Значит, если то, больше чего нельзя ничего себе представить, существует только в уме, тогда то, больше чего нельзя себе представить, есть то, больше чего можно представить себе. Но этого, конечно, не может быть. Итак, без сомнения, нечто, больше чего нельзя себе представить, существует (existit) и в уме, и в действительности»

[**] – одним из наиболее известных сторонников онтологического доказательства сегодня является Алвин Карл Плантинга, американский аналитический философ. Он же модифицировал аргументацию Ансельма посредством логического инструментария т. н. «возможных миров». Подробнее о нем, о других версиях рассматриваемого способа доказать бытие Бога, а также о критике оных вместе с шуточными вариациями на тему – в статье Грэма Оппи: https://www.philosophy.ru/ru/ontological_...

[***] – проведение различ(ен)ия между «существованием» и «бытием» (в оригинале «existence» и «being»), по сути, основная стратегия по развенчанию онтологического аргумента в различных его версиях (хотя, видимо, и для современного здравого смысла и интуиции, на нем оформленной, сложно без доли сомнений воспринимать этот способ доказательства всерьез). В наиболее ясном виде подобная критика была сформулирована Кантом (где-то в Сети существовала мини-лекция Дианы Гаспарян из ВШЭ по аргументу Ансельма и кантовскому опровержению, но в открытом доступе ее уже нет). Я бы преподнес ее так:

«Быть чем-то» («быть определенным образом») нельзя приравнять к «нечто есть» («нечто существует»)

Притом «нельзя приравнять» означает то же самое в этом случае, что и «[из этого] с необходимостью следует [это]». Эту логическую максиму можно применить к онтологическому аргументу о существовании бога таким образом:

«Если быть богом равно быть самым совершенным, то это означает, что такой бог с необходимостью есть»

И, предполагает в статье Тед Чан, подобное же строение аргументации содержится в первых формах доказательства о необходимости наступления Технологической Сингулярности. Видимо, адаптируя критическую формулу выше к рассуждению Гуда, можно получить такую запись:

«Если быть сверхразумной машиной равно быть рекурсивно самосовершенствующейся машиной, то будут существовать (появляться после создания первой сверхразумной машины) все более и более сверхразумные машины (без потенциальной границы роста для подобного «поумнения», за исключением, быть может, границ физических)»

[****] – переводы статей Винджа о Технологической Сингулярности можно найти у FixedGrin https://medium.com/@LoadedDice/the-fu... и М. Левина (в сборнике Сингулярность. М.: АСТ, 2019).

[*****] – не ради уточнения высказывания, а в силу ассоциаций и параллелей, приведу похожие афоризмы от Витгенштейна и Брехта:

«Берберини: А не кажется ли вам, друг мой Галилей, что вы, астрономы, просто хотите сделать свою науку более удобной? (Ведет Галилея опять на авансцену.) Вы мыслите кругами или эллипсами, мыслите в понятиях равномерных скоростей и простых движений, которые под силу вашим мозгам. А что, если бы господь повелел своим небесным телам двигаться так? (Описывает пальцем в воздухе сложную кривую с переменной скоростью.) Что было бы тогда со всеми вашими вычислениями?

Галилей: Ваше преосвященство, если бы господь так сконструировал мир (повторяет движение Барберини), то он сконструировал бы и наши мозги тоже так (повторяет то же движение), чтобы именно эти пути познавались как простейшие. Я верю в разум»

«Людвиг Витгенштейн как-то спросил у Элизабет Энском: «Почему люди всё время говорят, что представление о вращении Солнца вокруг Земли было естественным?».

«Потому что всё выглядит так, будто Солнце вращается вокруг Земли», – ответила Энском.

«А как тогда должно было бы всё выглядеть, чтобы людям казалось, что Земля вращается вокруг Солнца?» – поинтересовался Витгенштейн»

читать целиком >>

Тэги: Перевод, эссе, ИИ, сильный ИИ, Технологическая Сингулярность, Тед Чан

Тед Чан и критика ChatGPT как AI: второе издание аргумента «китайской комнаты»?

Статья написана 27 марта 2023 г. 00:32

Размещена:

в рубрике «Рецензии на фантастические книги»
в авторской колонке osipdark

Вечный вопрос "быть или не быть понимающим машинам",

или новая версия "китайской комнаты" от американского фантаста и программиста

*публикую заметку не только в своей колонке, но и в "Рецензиях на фантастические книги", понимая, что создаю не рецензию, а эссе, притом на нефантастическое эссе, но на фантастического автора*

Не так давно, 9 февраля сего года, в "The New Yorker" появилась заметка прекрасно известного русскоязычному читателю умной и красивой научной фантастики писателя и программиста Теда Чана под названием "ChatGPT Is a Blurry JPEG of the Web" с подзаголовком "OpenAI’s chatbot offers paraphrases, whereas Google offers quotes. Which do we prefer?". Об эссе автора я узнал только из перевода (под заголовком "ChatGPT это лишь сжатое изображение всемирной сети") на портале syg.ma (ссылки на все будут в конце этого текста). Далее я хотел бы помимо того, чтобы просто сообщить о существовании что оригинала, что переводной версии очень интересной и донельзя актуальной нехудожественной работы Теда Чана, но и вкратце раскрыть ее основные тезисы, а также сравнить их с неоднозначным, но очень известным (по слухам, ставшим причиной закрытия ряда проектов по разработке ИИ — отсылаю к интервью "Финикового компота" с Серлом, а также послужившим идейной почвой для институционального оформления когнитивистики как науки) мысленным экспериментом американского аналитического философа языка и сознания Джона Серла. С "китайской комнатой" из культовой статьи "Сознание, мозг и программы".

Итак, если вкратце, то Тед Чан на пальцах и путем аналогий-метафор старается донести до массового нетехнического читателя простую истину — чат-GPT не есть т. н. "сильный ИИ". Это очередное, новаторское и интересное, но все-таки звено в цепи усовершенствований и изобретательских итераций в цепи прогресса "слабых ИИ". Притом дальнейшие усилия в этом конкретном процессе совсем не точно приведут к выполнению истматовского "перехода количество в качество". Т. е. совсем не факт, что из очень-очень-очень сильного "слабого ИИ" получится "ИИ сильный". Но обо всем по порядку.

Начиная с небольшой исторической ремарки из области программирования, Тед Чан напоминает о двух путях в процессе сжатия данных — с потерями и без:

"Сжатие данных подразумевает два процесса: кодировка, когда данные компрессуются в более компактный формат, и декодирование — обратный процесс. Если восстановленный файл идентичен оригиналу, то использовалось сжатие без потерь: не было утеряно никаких данных. Если же, напротив, востановленный файл лишь приблизительно тождественнен оригиналу, то применялось сжатие с потерями: некоторые данные были утеряны и теперь не подлежат восстановлению. Сжатие без потерь обычно используется для текстовых файлов и компьютерных программ, потому что в этих форматах утрата даже единственного символа может повлечь серьезные последствия. Сжатие с потерями зачастую используется для фото, аудио и видео — там, где абсолютная точность не критична"

Неразличение двух этих подходов — по недосмотру, случайности или продуманно — порой приводит к неприятным ситуациям. А именно к случаю с ксероксом одной немецкой компании, который при копировании (которое, как отмечает Чан, давно уже "не то, что раньше", ведь "...для решения проблемы понадобился именно информатик, потому что современный ксерокс уже не использует физический ксерографический процесс как в 60-х годах — вместо этого изображение сканируется дигитально, а затем распечатывается") допускал странные ошибки — заменял различные записанные числа на планах на одно и то же число:

"Главной проблемой в этой истории стало не то, что в копировальном аппарате использовался метод сжатия с потерями, а то, что аппарат искажал копию незаметно, и артефакты сжатия не сразу бросались в глаза. Если бы на выходе получались размытые изображения, всем стало бы ясно, что копии не соответствуют в точности оригиналу. Но копии казались точными — данные на них были ясно читаемыми, будучи неверными. В 2014 году Xerox выпустили патч, исправляющий эту проблему с их копировальными аппаратами"

Запомним это на будущее. И вот, ознакомившись с базовым и тривиальным программистским знанием, мы можем прийти к более сложным материям, которые талантливый писатель объясняет элегантно и просто. А именно для понимания сути чатаGPT, почему он не обладает пониманием и возможностью создать что-то действительно новое (ну и почему он не есть "сильный ИИ", как бы то не хотелось его технофобным или всего лишь грамотных в маркетинге создателям), американский писатель и программист предлагает нам поучаствовать в мысленном эксперименте. Сравнить чат-GPT с помянутым выше копировальным аппаратом, который тоже сжимает данные с потерями. Только здесь он старается копировать (подчеркнем этот термин) не просто какой-то текстовый документ, а всю мировую паутину:

"Мне кажется, что этот случай особенно актуален сегодня, когда речь заходит о ChatGPT и подобных программах, известных в кругах исследователей ИИ как большие языковые модели. Конечно, сходство между копировальным аппаратом и большой языковой моделью не сразу может показаться очевидным, но представьте, что вы вот-вот потеряете доступ к интернету навсегда. Вы решаете создать сжатую копию всех текстовых данных в сети, чтобы хранить ее затем на своем локальном сервере. К сожалению, объем вашего сервера лишь 1% от объема всех данных, поэтому вы не можете использовать алгоритмы для сжатия данных без потерь. Вместо этого, вы пишете алгоритм сжатия с потерями — он будет распознавать статистические закономерности в тексте и сохранять их в собственном формате. Добавим неограниченную вычислительную мощность вашего компьютера, так что даже малейшие закономерности в тексте не ускользают от вашего алгоритма, и вам удается достичь необходимого уровня сжатия сто к одному.

Теперь потеря доступа в интернет не кажется столь катастрофичным событием, ведь у вас есть копия всей информации в сети на собственном сервере. Проблема лишь в том, что из–за столь плотного уровня сжатия, вы не сможете искать нужную информацию, пользуясь точными цитатами — вы не найдете совпадений. Для решения проблемы вы создаете интерфейс, принимающий запросы в формате прямых вопросов, и дающий ответы, передающие суть информации, сохраненной на вашем сервере"

И эта странная, на первый взгляд, аналогия оказывается очень рабочей и позволяющей через то самое "размытие" объяснить феномен "бреда" (или "вранья", как говорит уже российский специалист по машинному обучению на стриме канала "Рабкор" — тоже ссылку прикреплю ниже):

"Эта аналогия не только помогает понять каким образом ChatGPT парафразирует информацию, найденную в интернете, но также и объясняет «бред» или нелепые ответы на конкретные вопросы, столь часто наблюдаемые в поведении ChatGPT и прочих больших языковых моделей. Этот бред — это артефакты сжатия, только как и в истории с ксероксом, они настолько «читаемы», что их не распознать без скрупулезного сравнения с оригиналом. Оригинал в нашем случае — либо интернет, либо наши собственные знания о мире. Когда мы рассматриваем такой бред сквозь данную призму, он становится вполне ожидаемым: если при сжатии 99% оригинальной информации было утеряно, закономерно ожидать, что существенные доли реконструкции при декодировании будут полностью сфабрикованы"

Все это — результат интерполяции, процедуры, проделываемой программы для восстановления утерянных данных по аналогию, за счет сравнения с сохранившимися. И пока что чаты-GPT плохо справляются с этими потерями, по замечанию Чана. Именно этим писатель объясняет, почему создатели этих программ пока не смогли взять и, видимо, не претендуют в ближайшее время на становление лауреатами премии "Приз Хаттера" ("...с 2006 года исследователь ИИ Маркус Хаттер вручает денежную награду тому, кто сможет без потери данных сжать конкретный текстовый файл объемом в 1ГБ компактнее, чем предыдущий рекордсмен. Премия известна как Приз Хаттера или Премия за сжатие человеческих знаний"):

"Большие языковые модели распознают статистические закономерности в тексте. Любой анализ текста в сети покажет, что такие фразы как «низкое предложение» часто соседствуют с такими фразами как «повышение цен». Чатбот, уловивший данную корреляцию, способен ответить про повышение цен на вопрос об эффекте недостаточных поставок товаров на прилавки. Если большая языковая модель уловила огромное количество текстовых корреляций между экономическими терминами (причем настолько огромное, что способна правдоподобно отвечать на широкий спектр вопросов), можем ли мы сказать, что она на самом деле понимает экономическую теорию? Модели на подобие ChatGPT не становятся лауреатами Премии Хаттера, среди прочего, потому что не способны в точности воссоздать оригинальный текст — иными словами, они не сжимают данные без потерь. Но может быть их способ сжатия с потерями все–таки показывает на скромные начала в понимании концепций, на которое так рассчитывают исследователи ИИ?"

Далее следуют примеры с арифметикой. И они ярче всего показывают неудачи в области понимания (как бы сказал Серл, семантики), ведь чат-GPT в поисках ответов, например, на пример "245 + 821". В Сети просто-напросто крайне мало идентичных трехзначных сложений, вычетаний и т. д., а, значит, мало соответствующих корреляций. Отчего чатбот показывает всяческое отсутствие математических компетенций из стандартов начальной школы. Но далее (и я приближаюсь к финалу как цитирований из эссе, так и своего эссе об эссе) Чан предлагает представить себе таковой "мыслящий" чат как программу сжатия без потери данных. Может, таковой механизм способен понимать, производить новое и думать? И снова нет:

"Представьте, что было бы если бы ChatGPT была алгоритмом сжатия без потерь? В таком случае, она бы всегда отвечала на вопросы точными цитатами соответствующих страниц в интернете. Нас бы вряд ли сильно впечатлила такая технология — не особо существенное улучшение обычных поисковых движков. То, что ChatGPT парафразирует текст из интернета, а не цитирует его, делает модель похожей на ученицу, способную выражать мысли собственными словами, а не только «зубрить» фразы из учебника. Это создает иллюзию понимания. В человеческом обучении механическое запоминание не является показателем понимания, поэтому неспособность ChatGPT цитировать информацию из источников — это именно то, что создает впечатление ее обучаемости. Когда речь идет о последовательности слов, сжатие с потерями впечатляет больше, чем сжатие без потерь"

Идем к завершению пересказа и, наконец-то, к сравнению. В заключении американский писатель отмечает, что, вполне возможно, чуть позднее чатботы смогут — при некоторых "но" — заменить поисковики. Феномен "размытия" так вообще может сослужить полезную службу т. н. "контент-фермам". Но такая виртуальная машинерия вряд ли сможет помочь в работе писателя. Если мы говорим просто о контенте (уж простите за намек о дихотомии, при которой есть "высокое" и "большая литература"), то его умножение методом чатботов может привести к "искривлению" Интернета и осложнению поиска информации в нем для пользователей ("Расцвет такого типа пересказа контента усложняет поиск нужных данных уже сегодня — чем больше текста, сгенерированного большими языковыми моделями, будет публиковаться в сети, тем больше интернет станет походить на все более и более размытую версию самого себя"). Но все равно — может, чатбот хотя бы позволит "настругать" некий шаблон, материал для облегчения "технических" задач писателя и любого другого создателя самого различного текста? Но ведь именно через движение через ошибки, через писание неудачных, вторичных и пошлых вещей, выбрасывание их не в стол, а в окно, и получается действительно сильная вещь. Только так и не иначе ("Если вы писатель, вы напишете множество вторичных вещей прежде, чем удастся написать что-нибудь оригинальное. При этом, время и усилия, вложенные во вторичные тексты никоим образом не тратятся зря — напротив, именно они и позволяют вам в итоге создать нечто неповторимое. Мучительный выбор верного слова и бесконечная перестановка предложений в инстинктивном поиске наиболее приятного течения текста — этим и познается проза").

Но это я все к чему? Как по мне, Тед Чан (наверняка зная, как мне кажется, об аргументе "китайской комнаты") оформляет второе издание, так сказать, дополненное, исправленное и сжатое — без потери данных! — "китайской комнаты" Джона Серла. Я говорю именно об отдельно взятом мысленном эксперименте из статьи "Сознание, мозг и программы", без привлечения работ философа по его собственной теории сознания, социальных институтах и устройства языка. Ведь, так скажем, негативная программа (проект) Серла, его скептические и критические нападки на современные проекты, громогласно заявляющие о создании чего-то близкого к "сильному ИИ", т. е. сознающему и разумному искусственному существу, до сих пор актуальна хотя бы своим запалом.

Я не стану цитировать Серла — и так превысил объемы для быстрого чтения. Просто скажу, что у обоих авторов совпадают не только цели текстов (у Чана, кстати: "Учитывая, что большие языковые модели как ChatGPT зачастую превозносятся чуть ли не как прорыв в сфере искусственного интеллекта, может показаться пренебрежительным или уничижительным описывать их как алгоритмы сжатия текста с потерями. Я на самом деле считаю, что рассматривать большие языковые модели в данной перспективе полезно для усмирения тенденции их очеловечивания"), но и средства. И Чан, и Серл прибегают к мысленному эксперименту для сокрушения спеси проектировщиков якобы "сильных ИИ". Оба различают синтаксическое и семантическое, т. е. то, что кандидаты в разумные машины не обладают пониманием, а просто оперируют рядом формальных правил (Джон Серл в указанной статье четко проводит это различение — между синтаксисом и семантикой языка — для ликвидации лишь поверхностной адекватности метафоры человеческого сознания как компьютерной программы). А из последних напрямую не проистекает, не создается и не формируется понимание, т. е. человеческий разум, настоящее сознание и ментальные состояния с убеждениями и прочим человеческим, слишком человеческим. Притом и писатель, и философ не считают, что "сильный ИИ" принципиально невозможен. И критикуемые философом программы, и писателем нейросети если и проходят тесты Тьюринга, то только потому, что это неудовлетворительный тест на определение у собеседника ментальных состояний и разумности. Т. е. (выше я говорил запомнить момент с термином "копировать") копирование (имитация) работы сознания современными машинами происходит с такой потерей содержания и качества процесса, что дубликат не идет ни в какое сравнение с оригиналом. Серл настаивает на смещении внимания с "софта" на "хард", а Чан скорее говорит о том, что стоит затянуть пояса скорых и завышенных ожиданий. В любом случае, при всех прочих равных, фантаст-программист справляется с созданием четкого, понятного, приятного для чтения и вместе с тем сильного с аргументационной точки зрения текста с критикой реализации в настоящее время "сильного ИИ" лучше, чем философ-лингвист-когнитивист. При всей моей симпатии как к фигуре Серла, так и к этой его статье и другим произведениям. Притом "подкопаться" к эссеистскому эксперименту Чана сложнее, чем к мысленному эксперименту Джона Серла. Как ни крути, при всей изящности "китайской комнаты", в самой ее основе есть родовая травма, слабое место: вопрос "который сейчас час?" и иже с ними. Да, можно вводить модификации "...комнаты" для преодоления набегов секты "ИИ здесь-и-сейчас", но чем статья Чана — не такая идеальная, преодолевшая слабости прародителя, версия критики от Серла? Это тот из немногих случаев, когда ремейк лучше оригинала.

Примечания:

1. Оригинал статьи Теда Чана

2. Перевод статьи Теда Чана №1

3. Нейросети учатся врать? (Сергей Марков, Борис Кагарлицкий)

5. Джон Серл. Сознание, мозг и программы

6. Создатель ChatGPT "опасается своего творения"

7. Истина это здравый смысл, а не наоборот (интервью с Джоном Серлом)

8. Наверное, даже более верное сравнение аналогии Чана не с "китайской комнатой" Серла, а с "китайской нацией" Блока (которого и Серл упоминает, кстати), как заметил при обсуждении эссе фантаста FixedGrin.

9. Это сотая, юбилейная публикация в моей колонке. Спасибо всем тем, кто читает мое многословие и многобуковие!

Тэги: Тед Чан, эссе, эссе об эссе, публицистика, искусственный интеллект, философия

«Хроники Бустоса Домека», Хорхе Л. Борхес, Адольфо Б. Касарес

Статья написана 23 февраля 2022 г. 23:19

Размещена:

в рубрике «Рецензии на фантастические книги»
в авторской колонке osipdark

Фантасмагорические заметки о культуре, обществе и искусстве,

или о сбывшихся прогнозах и бесплотных идеалах

Под вереницей веселых рассказов «Хроник Бустоса Домека» скрывается серьезный цикл из критических статей. Постмодернистский мозаичный памфлет и забавная псевдо-публицистическая проза не суть, а форма коллективного творчества Борхеса и Касареса. От «Предисловия» до «Бессмертных» (ра)скрывается философская публицистика. Только писательский дуэт, как и их французские коллеги, Делез и Гваттари, философствует по заветам Ницше не нудным пером, а сурово-саркастическим молотом. И это не столько и не только, даже вовсе не забавы над вульгарно интерпретированным и понятым постмодерном с постмодернизмом. Это и не воспевание возможностей и арсенала множественностей и ризом, фрагментации и смерти Единого. Скорее Борхес, знаток и романтически преданный классике в философии, литературе и искусстве вообще, творчество которого есть проживание этого человеческого культурного богатства, вместе со своим напарником рассуждают о другом. Как продолжить классику, как не сохранить ее в виде музейно-школьной мумии, а воспроизводить ее, давать классическому продолжение, выход и исход в новое. «Хроники Бустоса Домека» не о постмодерне, а о модерне, который, вспоминая Хабермаса, есть незавершенный проект. Именно о тех границах и преградах, которые возникают перед Модерном, и размышляют в доступной форме Борхес и Касарес.

Прежде всего Модерн — это эмансипация, взаимное обучение, здоровая доля сомнения в своей правоте, стремление к Истине, Красоте и Добру, устремление к новому. Во многом эта еще платоновская триада, греческая мысль, политика как этика и искусство как идеал, по-особому осмысленные в поворотной точке европейской и мировой истории, стали началом наиболее важной и не омраченной милитаристской и колониальной кровью линией Просвещения и Модерна. В большинстве из рассказов «Хроник...» раскрывается, на мой взгляд (все же в ситуации постмодерна надо учитывать, что твоя позиция всегда есть интерпретация, частное мнение и не абсолютный ракурс), ложные и ограниченные пути к Красоте. Об этом «Дань почтения...», где культура цитирования и отсылок заходит так далеко, что цитируемой текст целиком заявляется как новый. Т. е. меняется лишь имя автора. Что интересно, упомянутые византийские «текстари», и вообще средневековая культура письма, базировалась на творчестве именно как особой комбинации заимствований, а точнее отсылок. Такой мозаики смысловых контекстов, которые бы знающему читателю (зачастую от монаха-писателя к монаху-читателю) показали полноценно новый смысл. Особенно это касается летописей, о русском изводе которых отлично рассказывает Игорь Данилевский (вообще его идея о том, что летописи — это «докладная записка» и «материалы дела» для Страшного Суда, а в ожидании томилось все Средневековье, великолепна). Другое дело, что современная культура отсылок и «мира как текста» — лишь бледная тень того океана пересекающихся цитирований. «Вечер с Рамоном...» вопрошает о границе детализации и реалистичности реализма, о диалектике средств и целей. Если цель описать реальность вообще, мы впадаем в такую дурную бесконечность, которая и Аристотелю не снилась. Поэтому, когда Рамон Бонавена принялся было написать реалистический роман о проблемах жителей некоей деревни, а потом погряз в юридических и психологических коллизиях, удаляясь в них все глубже в ножку своего письменного стола, потеря цели привело к осмыслению самого инструмента, реалистического письма, как цели. Отсюда и абсурдные тома о пепельнице и карандаше. Другие рассказы, например, «Каталог и анализ...», проходится по без(д)умному минимализму. «Новый вид искусства» пинает архитектуру, задача которой становится издевательство над человеческим удобством. «Этот многогранный Виласеко» порицает стремление к непохожести, которое приводит к банальной одномерности. «Gradus ad Parnassum» изобличает языковое игрище с языковыми играми, которое приводит поэта к состоянию кабинетного философа из присказки Маркса («наука — это половой акт, а философия — онанизм»). «Наш мастер кисти: Тафас», скорее, представляет из себя уже некоторый переход от отбрасывания ложных путей создания красоты к обнаружению истинных. Его можно прочитывать и как некий полемический жест в сторону чрезмерно зарвавшегося в стремлении к сложности авангарда, и как критику традиционалистского и иного конъюнктурного сдерживания творчества (опять же, авангард, требующий от прогрессивного или «прогрессивного» художника как можно сильнее удалиться от похабных масс с их вожделением китча, прям как в статье Гринберга «Авангард и китч»; и традиционалистские, например, мусульманские запреты по вопросам визуального искусства), и как вопрошание о невыразимом в искусстве. Включенности художника в жизнь и то, как эту включенность показать.

Вместе с тем некоторые рассказы сконцентрированы скорее не на тупиках, а на путях дальнейшего прогресса и эмансипации искусства. Об этом, например, одна из жемчужин сборника, «В поисках абсолюта». В нем произведение искусства предстает как не только и не столько индивидуальный акт некоего гения-творца, а как коллективная, общественная практика. Которая, несмотря ни на что, фоном и тенью скрывается за любой книгой, мелодией или даже научным открытием. Здесь же поднимается и вопрос историчности искусства, исторического как такового, понимания мира вокруг как процесса. «Избирательный взгляд» заставляет задуматься о том, как передать невыразимое в творческом жесте. Как произведению описать пустоту или время вообще? В этой эпизодической зарисовке делается ставка на перформанс и инсталляцию, на выход за рамки единичного произведения к системе таковых и акцентом на отношении между ними. Перформанс как общественная критика всплывает в другом алмазе цикла — рассказе «Гардероб 1». Один из самых запоминающихся, с неожиданным поворотом, меняющим все, и просто веселым. Здесь искусство воплощает идеал Сократа как шмеля, жалящего общественный статус-кво и нудное, некритичное спокойствие. «Чего нет, то не во вред» напоминает, что одна из самых сильных фигур и мощных инструментов искусства и критики — это молчание. Но не умалчивание в страхе, лести и лжи. «Нынешний натурализм», как бы суммируя критическую часть сборника, предлагает хотя бы периодически отказываться от закутывания в одеяла из слов и хитросплетений фраз в попытке новаторства. И попробовать вместо говорения словесных облаков заняться деланием действий и практикой. Некоторым заключением из этой условно выделяемой мной части сборника (и, как я покажу в конце этого отзыва, логический финал вообще всего сборника) выходит «Универсальный театр». В нем, как и в некоторых других своих произведений из других циклов и выкладок, Борхес грезит о театре, который будет неотличим от жизни, как и наоборот.

Оставшиеся элементы и фрагменты «Хроник...» больше ведут речь не о критике тупиков и поиске выходов для жизни искусства, но концентрируются на обществе, техническом и научном прогрессе. В «Теории группировок» критикуются опять же дурно-бесконечные и бессмысленные попытки систематизировать и классифицировать все до последнего винтика. Опять же цель и средство, их взаимодействие, должны определять те или иные научные потуги. «Новейший подход» вопрошает о том, что сегодня называется политикой памяти и войнами памяти. Фальсификация истории, борьба интерпретаций, удобные переписывания — все это затемняет историчность как тотальные процессы, где конкретное определяет абстрактное, отдельные эпизоды истории, а не воли наций и частных политиков. «Гардероб 2», закрывая глаза на сатиры о моде и рекламе одеяний, показывает более глубокие философские и научные проблемы. Наши тела, вплоть до органов чувств, не некие фильтры между нашим сознанием и миром, не то, что скрывает вокруг лежащее, а совсем наоборот. Тела, конечности, система чувствительности не нечто статичное, но инструменты «в руках» нашего сознания и мышления. ««Бездельники»» формируют сатиру на нынешнее состояние научно-технического прогресса, который в угоду частным, а не общественным интересам, создает целые мусорные сектора экономики, а также только усиливает рабство человеческого существа в сфере труда и отдыха от него. «Esse est percipi» в унисон с Бодрийяром обличает и демонстрирует современность как потоки ложной или не «в ту степь» истинной информации, которую пассивный потребитель даже не силится активно осмыслить. «Бессмертные» в духе Лема рассматривает, посмеиваясь, идею вечной жизни человека благодаря техническим заменам в нашей телесности.

И, наконец-то, пара слов для финала. Хорхе Л. Борхес и Адольфо Б. Касарес создали очаровательный и сильный сборник размышлений. Веселых, трагичных, актуальных и глубоких. В постмодернистской форме здесь ставятся задачи по реабилитации и возрождении Модерна. Особенно искусства этой большой эпохи, которое, как мне кажется, из «Хроник...» имеет лишь один шанс для выживание. Перестать быть целью, став средством. Искусство для искусства, филигранные выверты и сложность для акцентирования неповторимой непонятности — все это слишком... просто. Как сказал один мой друг, Джойс совершил в литературе такую революцию, какую и Гегель в философии. После этого доведения до логического конца искусства для искусства данная формула попросту стала невозможной, абсурдной и жалкой. Такие же окончательные революционные (тер)акты были и в других областях искусства прошлого века. И выход, как мне кажется, кроется в «Универсальном театре» и серии похожих рассказов Борхеса. Искусству для выживания и дальнейшего развития необходимо покинуть свою тепленькую автономную автаркию и смешаться с самой жизнью. Так же, как советовал Маркс для философии в тезисах о Фейербахе. Что-то похожее в размышлениях о «театре жестокости» мыслил Антонен Арто. Искусство как жизнь, жизнь искусством, искусство жизни — следующий шаг к Красоте, которая есть Истина и Добро. Искусство должно менять мир? Так не будем ему мешать! Отпустим искусство на улицы из наших библиотек и творческих лабораторий.

П.С. Я не назвал рассказ "Новый вид абстрактного искусства". Избегая содержания самого этого произведения, я считаю, что "Хроники Бустоса Домека", как и некоторые работы Станислава Лема, есть особый жанр литературы и научной фантастики. Тот самый новый вид абстрактного искусства, но только в смысле не внутренней пустоты, а наоборот. Лем и Борхес создают литературу над литературой, даже не литературоведение и не критические размышления, а как бы фантастику о литературе. Металитературу, которая воображает иные литературы. В данном случае, правда, Борхес воображает такое новое, которое есть хорошо забытое старое...

"Хроники Бустоса Домека" на фантлабе

Тэги: Борхес, постмодернизм, Модерн, философия, философская фантастика, фантастика о литературе, критика, эссе

Рэй Брэдбери. Дзен в искусстве написания книг

Статья написана 2 января 2016 г. 10:12

Размещена:

в рубрике «Рецензии на фантастические книги»
в авторской колонке atgrin

http://ic.pics.livejournal.com/e_bath/120..." title="Рэй Брэдбери. Дзен в искусстве написания книг" />

Приложение к Большому Брэдбери

Каждое утро я вскакиваю с постели и наступаю на мину. Эта мина – я сам.

О том, как люблю творчество Рэя Брэдбери, я уже писал. Многие его книги я перечитывал и не один раз, потому, увидев неизвестный мне томик «Дзен в искусстве написания книг» — очень обрадовался, решив, что это что-то новое. По названию можно подумать, что эта книга – пособие для начинающих литераторов, своеобразный мастер-класс от Брэдбери, что-то наподобие «Как писать книги» от Стивена Кинга. Это не совсем верно.

В отличие от книги Кинга, написанной как настоящее руководство и свод практических советов для начинающих писателей, «Дзен …» Брэдбери – это сборник эссе, опубликованных в разное время в различных изданиях. Пять предисловий (четыре из них – к своим книгам, одно – к антологии «Фэнтези и научная фантастика с 1939 года»), две статьи для журнала Writer, одна – для ежегодного альманаха издательства Capra Press, одна – для нон-фикшн антологии о писательском ремесле, одна – для журнала Film Comment. Так с миру по нитке и получился сборник, имя которому дала одна из вошедших в него работ. Ах, да, чуть не забыл – на десерт в конце книги опубликовано восемь стихотворений Брэдбери об искусстве и творчестве. Стихами они считаются, видимо, потому, что написаны в столбик. Лично для меня у Брэдбери всё творчество очень поэтично, а вот стихи-то, напечатанные в этой книге, будут более прозаичны, чем многие из его рассказов, хотя, возможно, что просто переводчик плохо справился с поэтической формой.

Я открыл для себя удивление и неожиданность в писательском ремесле.

Вернёмся к «Дзену …» — сборник даёт представление о том, как создавал свои книги великий американский сказочник. Брэдбери беседует с читателем, рассказывая о том, как написал «Марсианские хроники» и «Вино из одуванчиков», «451 градус по Фаренгейту» и «Что-то страшное грядёт», откуда берутся идеи для рассказов, к каким хитростям он прибегал, чтобы поймать и удержать возле себя Музу, как библиотеки помогают творить – всем этим писатель делится без утайки, со свойственным ему юмором и сердечной теплотой. На протяжении всего сборника ясно звучит мысль о том, что каждый может стать писателем, но для этого нужно трудиться ежедневно на протяжении многих лет. Главное, не переставать удивляться миру – только тогда можно и самому кого-то удивить.

Когда жизнь не бежит, чтобы спастись, она замирает – с той же целью.

Не стоит читать этот томик разом, глотая страницу за страницей в дикой гонке. В принципе, вообще так читать не стоит, особенно Брэдбери, и особенно «Дзен …». Во-первых, тогда маленького сборника хватит совсем ненадолго – буквально на пару часов; во-вторых, учитывая, что тема всех произведений сборника одна – творчество – в разных эссе, написанных в период с 1961-го по 1990-й годы, Брэдбери повторяет некоторые свои тезисы, и общее впечатление смазывается, если пробежать читательскую дистанцию на спринтерской скорости. Всё-таки предисловия предназначены для того, чтобы предварять основное чтение, а не вместо него. Потому «Дзен …» лучше читать «по чайной ложке» — каждая статья сборника полна ярких образов и энергии, интересных мыслей и забавных наблюдений, и каждой нужно оставить время для того, чтобы прочувствовать «послевкусие» от неё. Даже в своих публицистических работах Брэдбери создаёт свою узнаваемую атмосферу, сплетая из слов волшебный мир, сказочный, пугающий и радующий одновременно. Насладитесь им.

ПС. Самый главный момент – если вы ещё не знакомы с творчеством писателя (трудно поверить, что такие есть), то не стоит читать эту книгу, иначе вы лишите себя удовольствия личного открытия его волшебного мира. Прочтите сначала художественные книги Брэдбери, а ещё лучше: перед прочтением конкретного романа – читайте предисловие к нему из этого сборника. Поскольку издатели частенько не утруждают себя включением в книги предисловий или каких-либо эссе, то «Дзен в искусстве написания книг» можно использовать, как приложение «Публицистического Рэя» к «Большому литературному Брэдбери».

читать целиком >>

Тэги: Брэдбери, рецензия, эссе

Подписка

Количество подписчиков: 906