"И установил, наконец, лучший творец, чтобы для того, кому не смог дать ничего собственного, стало общим все то, что было присуще отдельным творениям. Тогда принял Бог человека как творение неопределенного образа и, поставив его в центре мира, сказал: "Не даем мы тебе, о Адам, ни определенного места, ни собственного образа, ни особой обязанности, чтобы и место, и лицо и обязанность ты имел по собственному желанию, согласно твоей воле и твоему решению. Образ прочих творений определен в пределах установленных нами законов. Ты же, не стесненный никакими пределами, определишь свой образ по своему решению, во власть которого я тебя предоставляю. Я ставлю тебя в центре мира, чтобы оттуда тебе было удобнее обозревать все, что есть в мире. Я не сделал тебя ни небесным, ни земным, ни смертным, ни бессмертным, чтобы ты сам, свободный и славный мастер, сформировал себя в образе, который ты предпочтешь. Ты можешь переродиться в низшие, неразумные существа, но можешь переродиться по велению своей души и в высшие божественные... И как не удивляться нашему хамелеонству! Или вернее – чему удивляться более?" (Дж. Пико делла Мирандола, "Речь о достоинстве человека")

В последних отзывах я начинал с цитат-негодований предыдущих отзывчивых читателей, чтобы в итоге если не прояснить, то сгустить еще сильнее общую непонятность и таинственность прочитанного. В случае романа-триптиха Джина Вулфа, "Пятая голова Цербера", я поступлю с самого начала и до конца иначе. Ведь, как кажется, подробнее прокомментировать собственный перевод и надежнее расставить маяки-"напоминалки" для забывчивого и сбивчивого читателя (коим являюсь и я), чем это сделал Конрад Сташевски, нельзя. Поэтому не буду пытаться произвести дополнительные археологические раскопки семантических напластований в романе: боюсь, дальнейшие подземные работы попросту разрушат исследуемый объект. Я лишь постараюсь добавить к той совокупности примет, которые замечает и обычный читатель вроде меня, и иные приметы, специально картированные переводчиком, надстроечную интерпретацию для романных событий. Версию, которая радикально не меняет конечное понимание "Пятой головы..." после прочтения третьей части. Но показывает, что (на самом деле? как бы? якобы?) основной вопрос произведения

Во многом моя несколько корректирующая действо в романе призма понимания перемещена из отзыва на "Повесть о Платоне" Питера Акройда прямиком в эти строчки. И вдохновлена как вставной цитатой выше из эпохи Итальянского Возрождения, так и творениями из времен еще более давних. Собственно, скопированных, воспроизведенных с той или иной успешностью деятелями того самого Ренессанса — из античных, точнее платоновских времен. Если еще точнее, то мое прочтение "Пятой головы Цербера" сквозит "Пиром" Платона. Перечитав для кружка один из наиболее известных и читаемых диалогов философа-литератора, нельзя не отметить, что темы оба автора — и древний литературствующий эллин, и американский философствующий фантаст — обсуждают схожие. Ведь мотив оборотничества у Вулфа — это не просто хамелеонство, двойничество, копирование и воспроизведение в одном иного. Он обязательно подразумевает проблему подлинности и неподлинного, воспроизведения не только иного в другом, но и того же самого в самом себе, т. е. повторение, самоповторение, тождественность самому себе. Собственно, в первой части "Пятой головы...", одноименной заглавию всего романа, т. н. гипотеза Вейль — нечто третьестепенное для этого участка в глобальной архитектуре сюжета, но более значимое и центральное в двух других его областях. В ней именно вопрос самотождественности — центральный. Если же мы принимаем как главную загадку и интеллектуальную игру для сметливых читателей во всех трех повестях книги лишь вопрос об оборотнях и их существовании, то первая (не)глава как бы выпадает из контекста. Хотя именно она и должна задавать, и действительно задает контекст для всех линий повествования Вулфа.

Но вернемся к Платону и его "Пиру". Что же в диалоге о любви (Эроте) можно найти о проблемах копирования? Начнем с того, что условный постмодернистский поворот в философии, среди штурманов которого можно легко различить фигуру Жиля Делеза, нападали именно на Платона за идею о наличии Идей (Эйдосов) как вечных и неизмененных образцах, от которых исходят вещи подлунного, вещественного, нашего мира, т. е. мира теней, образов и тех самых копий. Основной укор Платону и философиям, подверженным платоническому влиянию, у Делеза в сжатом виде содержится в работе "Платон и симулякр". И основана она на реверсии и переворачивании платоновской мысли и оценки: не Истина (неизменное, Идея) лучше своей копии (изменяемое, вещь), но наоборот. И вообще никакого постоянства (и Истины) нет — есть лишь становление и истины с маленьких букв как моменты этого становления. Сама вещь — лишь серия из отдельных точек, которые суть движение из ниоткуда в никуда. Но все эти представления уже есть у самого Платона (не даром Делез заявляет именно о переворачивании, а не о переписывании Платона; хотя, чего уж, он его именно переписывает, ведь в платонической картине мира нет негативного или позитивного окраса для двух этажей мироздания: есть лишь верхний и нижний этажи, которые оба необходимы для полноценности вселенского дома) в "Пире":

"—Так вот, — ска­за­ла она, — если ты убедил­ся, что любовь по при­ро­де сво­ей — это стрем­ле­ние к тому, о чем мы не раз уже гово­ри­ли, то и тут тебе нече­му удив­лять­ся. Ведь у живот­ных, так же как и у людей, смерт­ная при­ро­да стре­мит­ся стать по воз­мож­но­сти бес­смерт­ной и веч­ной. А достичь это­го она может толь­ко одним путем — порож­де­ни­ем, остав­ляя вся­кий раз новое вме­сто ста­ро­го; ведь даже за то вре­мя, покуда о любом живом суще­стве гово­рят, что оно живет и оста­ет­ся самим собой — чело­век, напри­мер, от мла­ден­че­ства до ста­ро­сти счи­та­ет­ся одним и тем же лицом, — оно нико­гда не быва­ет одним и тем же, хоть и чис­лит­ся преж­ним, а все­гда обнов­ля­ет­ся, что-то непре­мен­но теряя, будь то воло­сы, плоть, кости, кровь или вооб­ще все телес­ное, да и не толь­ко телес­ное, но и то, что при­над­ле­жит душе: ни у кого не оста­ют­ся без пере­мен ни его при­выч­ки и нрав, ни мне­ния, ни жела­ния, ни радо­сти, ни горе­сти, ни стра­хи, все­гда что-то появ­ля­ет­ся, а что-то утра­чи­ва­ет­ся" (207d-207e)

Эмпирическая реальность, животность, органика, даже (как показывает далее) значительная часть интеллектуальной (духовной) сферы в попытках сохраниться, остаться неизменным, продолжиться далее, неизбежно преображается в нечто иное (

"А еще уди­ви­тель­нее, одна­ко, обсто­ит дело с наши­ми зна­ни­я­ми: мало того что какие-то зна­ния у нас появ­ля­ют­ся, а какие-то мы утра­чи­ва­ем и, сле­до­ва­тель­но, нико­гда не быва­ем преж­ни­ми и в отно­ше­нии зна­ний, — тако­ва же участь каж­до­го вида зна­ний в отдель­но­сти. То, что назы­ва­ет­ся упраж­не­ни­ем, обу­слов­ле­но не чем иным, как убы­лью зна­ния, ибо забве­ние — это убыль како­го-то зна­ния, а упраж­не­ние, застав­ляя нас вновь вспо­ми­нать забы­тое, сохра­ня­ет нам зна­ние настоль­ко, что оно кажет­ся преж­ним. Так вот, таким же обра­зом сохра­ня­ет­ся и все смерт­ное: в отли­чие от боже­ст­вен­но­го оно не оста­ет­ся все­гда одним и тем же, но, уста­ре­вая и ухо­дя, остав­ля­ет новое свое подо­бие. Вот каким спо­со­бом, Сократ, — заклю­чи­ла она, — при­об­ща­ет­ся к бес­смер­тию смерт­ное — и тело, и все осталь­ное. Дру­го­го спо­со­ба нет. Не удив­ляй­ся же, что каж­дое живое суще­ство по при­ро­де сво­ей забо­тит­ся о сво­ем потом­стве. Бес­смер­тия ради сопут­ст­ву­ет все­му на све­те рачи­тель­ная эта любовь" (208b)

Второй отрывок так вообще посылает привет Борхесу с его памятным Фунесом (не даром аргентинский писатель частенько обращался к грекам) и размышлениями о памяти и забвении, которое позднее и у Умберто Эко в эссеистике помелькают (и вообще станут серьезной темой для исследований у психологов, физиологов и когнитивистов). Но оба фрагмента из платоновского "Пира" помогают соединить в единое смысловое целое два вида копирований (клонирования, воспроизведения и метаморфоз) — репродуцирование тождественного и преображение в чуждое. И один, и другой типы — моменты различающихся повторений (или повторяющихся различий) в общем потоке становления, который суть жизни. Поэтому и семья (видимо) однофамильцев автора "Пятой головы Цербера", и аборигены занимаются одним и тем же. И, вспоминая уже другую работу Платона, "Государство" (седьмую его книгу), и генетики, и чужаки-хамелеоны

Да, я понимаю, что вся эта вставка о платонизме в тексте Вулфа — это домыслы, которые имеют лишь очень косвенное подтверждение в теле романа. Скорее, в "Пятой голове Цербера" есть, если можно так сказать, латентный платонизм, но не более того. А вот что в ней есть вероятнее — и здесь введенный латентный платонизм становится мне подпорками для возведения заявленной надстроечной системы понимания сюжета — это ясность

Наверное, мое решение для создания некоторого рамочного понимания "Пятой головы Цербера" слишком экзотично и необычно, но экзотичен и необычен сам текст. Поэтому и методы для его адекватного понимания должны быть под стать.

П.С. К множеству возможных отсылок в романе — реальных и гипотетических — хотел бы добавить такую. Заключенный из третьей части произносит суду пространную речь в свою защиту, отдающую кафкианским сюром, как и вся местная пенитенциарная система. Среди прочего он приводит список классов существ, "которые ни при каких обстоятельствах не могли бы понести наказание по соображениям их виновности". И часть приводимого списка, сама его странная логика напоминает классификацию животных из рассказа-эссе Борхеса "Аналитический язык Джона Уилкинса" своей системной бессистемностью.

Это эссе вновь далеко от формата рецензии. Ниже я не буду пересказывать отдельные события или вообще весь сюжет сериала, не примусь подробно останавливаться ни на первом, ни на втором сезоне, а также не стану выстраивать критические разборы конфликтов между теми или иными героями. Разборов с подобным содержанием уже вдоволь. Тем не менее я хочу остановиться на двух сторонах этого проекта. Первая из них — подобность и порой навязчивое тождество между "Локи" и "Концом Вечности" Азимова, а также очередное для меня доказательство закономерности отставания кинофантастики от фантастической литературы. Вторая сторона дела — финал сериала. Выпущенный в свет два дня назад последний эпизод сериала уже успел обрасти несколькими текстовыми и видео комментариями, которые, как мне кажется, несколько усложняют суть происходящего на экране. Только на двух этих пунктах я остановлюсь ниже, оттого как минимум из-за рассмотрение концовки "Локи" мне придется вскрывать самые существенные заключительные события и кадры сериала.

Ранее я уже два раза останавливался на проектах Marvel Studios ("Мстители: Финал" и "Черная вдова"). И мои отзывы были либо с негативными, либо со смешанными оценками. Понимая, что во многом эти отрицательные описания с моей стороны предвзяты, что я не сильно погружен в эту франшизу, преимущественно смотря ее как чистый аттракцион, но вменяя ей при этом слишком строгие критерии, после завершения просмотра "Локи" мне захотелось написать что-то очень комплиментарное и для этой киновселенной, и для конкретного ее проекта. Начав смотреть этот сериал скорее ради заполнения фона, без особых открытий и эмоций пройдя первый сезон, все же финал второго сезона и всей суммы эпизодов относится к тому роду примеров из искусства, когда качественный финиш перечеркивает и неудачный старт, и не самую оригинальную и интересную середину. Но перед осмотром концовки, поговорим о сериале в целом, о первом заявленном пункте.

Во многом антураж и практически вся визуальная часть — впрочем, как и событийный ряд "Локи" — очень нехарактерны для Marvel. И дело тут не в путешествиях во времени как таковых — в конце концов, какая-то их версия, пусть и перемудренная и оглупленная мешаниной с альтернативными вселенными из "Финала", уже встречалась ранее. Любая большая как кино-сериальная, так и книжно-комиксовая вселенные, переходя определенный уровень масштабирования, обязательно уходит как минимум один раз в сюжетные повороты, связанные с путешествиями во времени. Суть отличия заключается в ретрофутуристическом характере графической составляющей. Это очень нарочито непохожий стиль на все остальные технологические и научно-фантастические выверты в остальных фильмах киновселенной, где даже магия (ре-/де-)конструированных скандинавских богов и прочих скорее объясняется одним из законов Кларка от неотличимости высокоразвитых технологий от всяческого волшебства и мистики, нежели чем иррациональными и потусторонними силами. Возможно, причины для этого (скорее всего, это именно так) в комиксных первоисточниках, а именно (как подсказывает Вики) в линейках о Рама-Тут / Канге (дебют: 1963), об "Управлении временными изменениями" / "УВИ" (дебют: 1986), о Викторе Таймли (дебют: 1992). Ну и, наверное, на чем-то еще. А также создатели проекта много рассказывали и показывали в интервью, откуда еще бралось вдохновение для визуального оформления сериала: тут и восточноевропейский модернизм, и один конкретно-взятый отель "Atlanta Marriott Marquis", и общая идея намеренной архаизации облика УВИ через отсутствие цифровых и доминирование аналоговых технологий. И вроде бы всего этого массива первоисточников достаточно для объяснения общей формы — визуальной и чуть более — сериала. Но все-таки призрак "Конца вечности" бродит грозной тенью над самыми разными гранями и образами "Локи".

В чем же именно, кроме общего духа ретрофутуризма, еще проявляет себя классика хронооперы от 1955? УВИ как таковая — очень, очень и очень напоминает азимовскую "Вечность". Да, не одной ею богата фантастика о путешествиях во времени, но все-таки именно Азимов заложил некоторый канон, образец для этого жанра, который потом неоднократно модифицировался и подвергался прогрессивным переформатированиям ("Палимпсест" Стросса , "Порядок вековой" Краули, "Пятнадцать жизней Гарри Огаста" Уэбб, "Падение Хроноплиса" Бейли и т. д.). И здесь мы в лице УВИ видим: организацию вне пространства и времени, которая совершает минимальные вмешательства во время / удаляет неверные варианты ради увеличения блага всего человечества / ради сохранения Священной линии времени и представляет себе сложную бюрократическую многоуровневую инфраструктуру с аналоговым техническим оснащением. Но это еще только половина сопоставление. Ведь далее можно провести и исключительно сюжетное сравнение романа Азимова и сериала. Идея возникновения обеих организаций через самопричинное закольцованное вмешательство в отдаленное прошлое (Виккор Маллансон / Шеридан Купер передает привет Виктору Таймли / Кангу / Тому, кто остается; при этом сюжетный поворот и связь двух персонажей у Азимова более ясная, чем во втором случае), конфликт между поначалу сторонник безопасности в обмен на несвободу Локи и сторонницей свободы в обмен на потенциальную всеобщую гибель Сильви (сравнить и с любовной линией, и с идентичным конфликтом между Эндрю Харланом и Нойс, который разрешается немного иначе, но в аналогичном ключе) и не только. Опять же, все эти сходства не говорят о плагиате. Скорее мне приятнее и любопытнее описать все это как некую незапланированную, неосознанную или даже бессознательно проделанную экранизацию Айзека Азимова, которую я очень давно ждал. Перефразируя классика, можно сказать, что гениальные рукописи в конечном счете проникают на экран, пусть и весьма тернистыми путями. Но это же отдельно подтверждает мою неявную мысль из рецензии на "Дзен-пушку" Баррингтона Бейли: существует закон о необходимом отставании научной фантастики на экране от научной фантастики на бумаге. Сценаристы с некой, почти в духе фатализма, необходимостью всегда, даже создавая независимые от какого-либо книжного первоисточника фильм или сериал, находятся в хвосте и созависимости от литературной суммы научно-фантастических идей и сюжетов. В этом нет ничего плохого как такового, но это приводит к тому, что такой прорывной для своего времени (и до сих подпитывающий финансами правообладателей) проект, как "Звездные войны", представляет собой космооперу на несколько уровней ниже что все того же Азимова, что Фрэнка Герберта, что Пола Андерсона или любого другого классика золотого века фантастики ближе к середине или чуть после нее века. Скорее те же "Звездные войны" по эксплуатируемым образам и сюжетам ближе к циклу о Джоне Картера Эдгара Берроуза. Ни в коем случае, кстати, подобное замечание не уничижительно для творчества последнего автора, который стоял у первоистоков всего жанра, но поучительно и язвительно в адрес творцов джедаев и бесконечных клонов. Прогресс в жанре должен больше замечаться кинодельцами, и тому есть и позитивные примеры, но пока удач на этом поприще меньше.

И последнее. О второй теме эссе. Концовка "Локи". Как-то Игорь Данилевский сказал, что в христианском понимании истории, точнее, истории отдельных правителей, в итоге подвергшихся канонизации и причислению к лику святых, важна не общая праведность этого мирского лица, а буквально одно событие, которое перечеркивает все прошлые его проступки, а то и преступления. Примерно то же самое можно сказать о некоторых книгах или кино: не самый удачный, интересный, оригинальный сюжет с периодическими провалами ожиданий или странными поступками персонажей, не особой проработанностью их облика и повествовательной канвы как таковой может предстать в совершенно ином свете благодаря блистательному завершению истории. Именно это многие зрители и критики — и вслед за ними и я — подмечаю это и за рассматриваемым сериалом. В течение двух сезонов встречалось много разных странностей и неудачных решений, противоречий и недоработок. Иногда сюжет скатывался в медлительное филлерство, а потом — в слишком стремительный рассказ. Связь Виктора Таймли и Канга до сих пор не совсем ясна — как минимум мне. Тезис авторов о том, что путешествия во времени в сериале и в "Мстители: Финал" имеют общую природу и механизм кажется натягиванием совы на глобус. Как и водится, никуда не девается странный и диковинный на фоне как бы бесконечного и многообразного космоса и как бы еще более масштабной мультивселенной антропоцентризм, порой скатывающийся в какой-то антропофашизм. В мире, где есть целестиалы и настоящие боги, именно человек из 31 столетия смог открыть путешествия во времени и перекроить все возможные и невозможные реальности. "Да-да, конечно" (с). Но все эти концептуальные, сюжетные и эстетические предвзятости и минусы оттеняются наглядным развитием персонажа Локи, как всегда через отличную игру Тома Хиддлстона, и выбором в ложной дилемме Канга-Сильвии (либо сохранение УВИ с убийством Локи Сильвии и многих миллиардов нерожденных / умерщвленных реальностей, но предотвращение появления множественных злых Кангов; либо уничтожение УВИ, которое все равно приведет к появлению УВИ через кровавую и апокалиптичную войну, но где хоть немного будет сиять свобода воли), где бог обмана, иллюзий и лжи выбирает разрезать гордиев узел. Ну а дальше следует та самая великолепная сцена восшествия на трон и прорастания Иггдрасиля. И об этой сцене я хочу сказать в заключении, прежде чем просто посоветовать сериал к просмотру, даже тем, кто, как и я, не фанат "Марвел".

По мне, скопилось уже множество интерпретаций или лишних вопросов к завершению сериала. К его значению, скрытым смыслам и т. д. И как бы я сам не любил попытки — зачастую никак не связанные с замыслами авторов — проникнуть в изнаночную плоскость произведений, здесь, мне кажется, все дано на поверхности. Аспект с самопожертвованием и решением дилеммы через некий третий, радикальный вариант, и так очевидны. На них я останавливаться не буду. Но далее остановлюсь на трех деталях. Первая из них, ставшая уже самодостаточным вопросом — за счет каких сил Локи, с одной стороны, путешествует сквозь время по собственной линии жизни, а с другой, как он при этом в конце как бы оживляет нити реальностей? Первая половина вопроса, по-моему, достаточно банальна. Локи же бог обмана и лжи? Вот он и вывел свою способность на максимум — смог обмануть само время, его ход и даже его как бы отсутствие в здании УВИ. С оживлением реальностей чуть сложнее. Мне кажется, что это не придание им какой-то витальной энергии, а скорее что-то тоже связанное с иллюзией. Помним же индуистско-буддистские идеи пелены обмана, т. е. Майю? Вот, наверное, это что-то из этой же серии. Хотя и само как бы отмирание размножившихся реальностей после уничтожения Ткача времени не очень понятно и объяснено. Далее, второй пункт, это появление Иггдрасиля. Пишут, что Локи специально придал форму как-бы-новой-но-не-совсем-мультивселенной в образе известного мифического мирового древа. Не вижу причин, зачем бы ему это намерено и сознательно делать. Как показано, кроны и корни как-бы-дерева-миров — это натянутые сети из множества множеств множащихся реальностей. Т. е. она скорее вынужденно такая, а не ради утверждения мультивселенного Асгарда. Ну и последнее. Кто-то усматривает в возведении золотого трона Локи для самого себя в месте ("не-месте") вне пространства и времени исполнение осознанного желания Локи. Якобы, решая вселенскую и нравственную проблему, он еще и мимолетом, для себя любимого, все-таки стал управителем мира, но благородным и прошедшим духовную эволюцию. Опять же, здесь видится скорее не такое объяснение более верным, простым и очевидным, а все та же вынужденность и необходимость именно такого оформления своего положения в центре мультивселенной (трон Локи — это трон Того, кто остается в разрушенной Цитадели в конце времен), а также определенная ирония и усмешка бога не только лжи и иллюзий, но и шуток над самим собой в прошлом. Трон есть, и его значение теперь еще влиятельнее, чем предполагалось, но эта ноша устраняет всякую выгоду и удовольствие от того недоправление всеми возможными мирами. И, кстати, напоследок, в новом и необычном троне Локи мне видится (наверное, самая притянутая из всего, что я написал ранее) даже новозаветная отсылка ("это библейская история, абсолютно" (с) ), по которой не Царствие Земное, но Царствие Небесное и правление в нем предназначено Спасителю. И здесь Локи предназачен не трон Асгарда, но трон всех вселенных.

От прочтения заметки Теда Чана «ChatGPT Is a Blurry JPEG of the Web» я загорелся идеей написать статью с прицелом на академическую публикацию, где бы изобразил различные модификации аргумента «китайской комнаты» Джона Серла. Правда, написать ее, по разным причинам, выйдет не скоро, а тем более опубликовать. Тем не менее поиск источников успел дать побочные, но приятные следствия. Я обнаружил сразу два очерка Теда Чана в «The New Yorker», помимо эссе о ChatGPT, так или иначе связанных с вопросами ИИ: «Will A.I. Become the New McKinsey?» и «Why Computers Won’t Make Themselves Smarter». Ниже я предлагаю свою версию (с корректировками от сестры-филолога) перевода второй из этих заметок.

Эссе «Почему компьютеры не смогут сделать себя умнее» опубликовано 30 марта 2021 г. – примерно за полтора года до шумихи вокруг ChatGPT. Но рассуждение в нем косвенно связано и с умными чат-ботами, и со ставшим легендарным письмом с не менее легендарными подписантами против продолжения разработок нейросетей. Да, речь о нашей любимой Технологической Сингулярности – о том, насколько она возможна.

Не так давно, 9 февраля сего года, в "The New Yorker" появилась заметка прекрасно известного русскоязычному читателю умной и красивой научной фантастики писателя и программиста Теда Чана под названием "ChatGPT Is a Blurry JPEG of the Web" с подзаголовком "OpenAI’s chatbot offers paraphrases, whereas Google offers quotes. Which do we prefer?". Об эссе автора я узнал только из перевода (под заголовком "ChatGPT это лишь сжатое изображение всемирной сети") на портале syg.ma (ссылки на все будут в конце этого текста). Далее я хотел бы помимо того, чтобы просто сообщить о существовании что оригинала, что переводной версии очень интересной и донельзя актуальной нехудожественной работы Теда Чана, но и вкратце раскрыть ее основные тезисы, а также сравнить их с неоднозначным, но очень известным (по слухам, ставшим причиной закрытия ряда проектов по разработке ИИ — отсылаю к интервью "Финикового компота" с Серлом, а также послужившим идейной почвой для институционального оформления когнитивистики как науки) мысленным экспериментом американского аналитического философа языка и сознания Джона Серла. С "китайской комнатой" из культовой статьи "Сознание, мозг и программы".

Итак, если вкратце, то Тед Чан на пальцах и путем аналогий-метафор старается донести до массового нетехнического читателя простую истину — чат-GPT не есть т. н. "сильный ИИ". Это очередное, новаторское и интересное, но все-таки звено в цепи усовершенствований и изобретательских итераций в цепи прогресса "слабых ИИ". Притом дальнейшие усилия в этом конкретном процессе совсем не точно приведут к выполнению истматовского "перехода количество в качество". Т. е. совсем не факт, что из очень-очень-очень сильного "слабого ИИ" получится "ИИ сильный". Но обо всем по порядку.

Начиная с небольшой исторической ремарки из области программирования, Тед Чан напоминает о двух путях в процессе сжатия данных — с потерями и без:

"Сжатие данных подразумевает два процесса: кодировка, когда данные компрессуются в более компактный формат, и декодирование — обратный процесс. Если восстановленный файл идентичен оригиналу, то использовалось сжатие без потерь: не было утеряно никаких данных. Если же, напротив, востановленный файл лишь приблизительно тождественнен оригиналу, то применялось сжатие с потерями: некоторые данные были утеряны и теперь не подлежат восстановлению. Сжатие без потерь обычно используется для текстовых файлов и компьютерных программ, потому что в этих форматах утрата даже единственного символа может повлечь серьезные последствия. Сжатие с потерями зачастую используется для фото, аудио и видео — там, где абсолютная точность не критична"

Неразличение двух этих подходов — по недосмотру, случайности или продуманно — порой приводит к неприятным ситуациям. А именно к случаю с ксероксом одной немецкой компании, который при копировании (которое, как отмечает Чан, давно уже "не то, что раньше", ведь "...для решения проблемы понадобился именно информатик, потому что современный ксерокс уже не использует физический ксерографический процесс как в 60-х годах — вместо этого изображение сканируется дигитально, а затем распечатывается") допускал странные ошибки — заменял различные записанные числа на планах на одно и то же число:

"Главной проблемой в этой истории стало не то, что в копировальном аппарате использовался метод сжатия с потерями, а то, что аппарат искажал копию незаметно, и артефакты сжатия не сразу бросались в глаза. Если бы на выходе получались размытые изображения, всем стало бы ясно, что копии не соответствуют в точности оригиналу. Но копии казались точными — данные на них были ясно читаемыми, будучи неверными. В 2014 году Xerox выпустили патч, исправляющий эту проблему с их копировальными аппаратами"

Запомним это на будущее. И вот, ознакомившись с базовым и тривиальным программистским знанием, мы можем прийти к более сложным материям, которые талантливый писатель объясняет элегантно и просто. А именно для понимания сути чатаGPT, почему он не обладает пониманием и возможностью создать что-то действительно новое (ну и почему он не есть "сильный ИИ", как бы то не хотелось его технофобным или всего лишь грамотных в маркетинге создателям), американский писатель и программист предлагает нам поучаствовать в мысленном эксперименте. Сравнить чат-GPT с помянутым выше копировальным аппаратом, который тоже сжимает данные с потерями. Только здесь он старается копировать (подчеркнем этот термин) не просто какой-то текстовый документ, а всю мировую паутину:

"Мне кажется, что этот случай особенно актуален сегодня, когда речь заходит о ChatGPT и подобных программах, известных в кругах исследователей ИИ как большие языковые модели. Конечно, сходство между копировальным аппаратом и большой языковой моделью не сразу может показаться очевидным, но представьте, что вы вот-вот потеряете доступ к интернету навсегда. Вы решаете создать сжатую копию всех текстовых данных в сети, чтобы хранить ее затем на своем локальном сервере. К сожалению, объем вашего сервера лишь 1% от объема всех данных, поэтому вы не можете использовать алгоритмы для сжатия данных без потерь. Вместо этого, вы пишете алгоритм сжатия с потерями — он будет распознавать статистические закономерности в тексте и сохранять их в собственном формате. Добавим неограниченную вычислительную мощность вашего компьютера, так что даже малейшие закономерности в тексте не ускользают от вашего алгоритма, и вам удается достичь необходимого уровня сжатия сто к одному.

Теперь потеря доступа в интернет не кажется столь катастрофичным событием, ведь у вас есть копия всей информации в сети на собственном сервере. Проблема лишь в том, что из–за столь плотного уровня сжатия, вы не сможете искать нужную информацию, пользуясь точными цитатами — вы не найдете совпадений. Для решения проблемы вы создаете интерфейс, принимающий запросы в формате прямых вопросов, и дающий ответы, передающие суть информации, сохраненной на вашем сервере"

И эта странная, на первый взгляд, аналогия оказывается очень рабочей и позволяющей через то самое "размытие" объяснить феномен "бреда" (или "вранья", как говорит уже российский специалист по машинному обучению на стриме канала "Рабкор" — тоже ссылку прикреплю ниже):

"Эта аналогия не только помогает понять каким образом ChatGPT парафразирует информацию, найденную в интернете, но также и объясняет «бред» или нелепые ответы на конкретные вопросы, столь часто наблюдаемые в поведении ChatGPT и прочих больших языковых моделей. Этот бред — это артефакты сжатия, только как и в истории с ксероксом, они настолько «читаемы», что их не распознать без скрупулезного сравнения с оригиналом. Оригинал в нашем случае — либо интернет, либо наши собственные знания о мире. Когда мы рассматриваем такой бред сквозь данную призму, он становится вполне ожидаемым: если при сжатии 99% оригинальной информации было утеряно, закономерно ожидать, что существенные доли реконструкции при декодировании будут полностью сфабрикованы"

Все это — результат интерполяции, процедуры, проделываемой программы для восстановления утерянных данных по аналогию, за счет сравнения с сохранившимися. И пока что чаты-GPT плохо справляются с этими потерями, по замечанию Чана. Именно этим писатель объясняет, почему создатели этих программ пока не смогли взять и, видимо, не претендуют в ближайшее время на становление лауреатами премии "Приз Хаттера" ("...с 2006 года исследователь ИИ Маркус Хаттер вручает денежную награду тому, кто сможет без потери данных сжать конкретный текстовый файл объемом в 1ГБ компактнее, чем предыдущий рекордсмен. Премия известна как Приз Хаттера или Премия за сжатие человеческих знаний"):

"Большие языковые модели распознают статистические закономерности в тексте. Любой анализ текста в сети покажет, что такие фразы как «низкое предложение» часто соседствуют с такими фразами как «повышение цен». Чатбот, уловивший данную корреляцию, способен ответить про повышение цен на вопрос об эффекте недостаточных поставок товаров на прилавки. Если большая языковая модель уловила огромное количество текстовых корреляций между экономическими терминами (причем настолько огромное, что способна правдоподобно отвечать на широкий спектр вопросов), можем ли мы сказать, что она на самом деле понимает экономическую теорию? Модели на подобие ChatGPT не становятся лауреатами Премии Хаттера, среди прочего, потому что не способны в точности воссоздать оригинальный текст — иными словами, они не сжимают данные без потерь. Но может быть их способ сжатия с потерями все–таки показывает на скромные начала в понимании концепций, на которое так рассчитывают исследователи ИИ?"

Далее следуют примеры с арифметикой. И они ярче всего показывают неудачи в области понимания (как бы сказал Серл, семантики), ведь чат-GPT в поисках ответов, например, на пример "245 + 821". В Сети просто-напросто крайне мало идентичных трехзначных сложений, вычетаний и т. д., а, значит, мало соответствующих корреляций. Отчего чатбот показывает всяческое отсутствие математических компетенций из стандартов начальной школы. Но далее (и я приближаюсь к финалу как цитирований из эссе, так и своего эссе об эссе) Чан предлагает представить себе таковой "мыслящий" чат как программу сжатия без потери данных. Может, таковой механизм способен понимать, производить новое и думать? И снова нет:

"Представьте, что было бы если бы ChatGPT была алгоритмом сжатия без потерь? В таком случае, она бы всегда отвечала на вопросы точными цитатами соответствующих страниц в интернете. Нас бы вряд ли сильно впечатлила такая технология — не особо существенное улучшение обычных поисковых движков. То, что ChatGPT парафразирует текст из интернета, а не цитирует его, делает модель похожей на ученицу, способную выражать мысли собственными словами, а не только «зубрить» фразы из учебника. Это создает иллюзию понимания. В человеческом обучении механическое запоминание не является показателем понимания, поэтому неспособность ChatGPT цитировать информацию из источников — это именно то, что создает впечатление ее обучаемости. Когда речь идет о последовательности слов, сжатие с потерями впечатляет больше, чем сжатие без потерь"

Идем к завершению пересказа и, наконец-то, к сравнению. В заключении американский писатель отмечает, что, вполне возможно, чуть позднее чатботы смогут — при некоторых "но" — заменить поисковики. Феномен "размытия" так вообще может сослужить полезную службу т. н. "контент-фермам". Но такая виртуальная машинерия вряд ли сможет помочь в работе писателя. Если мы говорим просто о контенте (уж простите за намек о дихотомии, при которой есть "высокое" и "большая литература"), то его умножение методом чатботов может привести к "искривлению" Интернета и осложнению поиска информации в нем для пользователей ("Расцвет такого типа пересказа контента усложняет поиск нужных данных уже сегодня — чем больше текста, сгенерированного большими языковыми моделями, будет публиковаться в сети, тем больше интернет станет походить на все более и более размытую версию самого себя"). Но все равно — может, чатбот хотя бы позволит "настругать" некий шаблон, материал для облегчения "технических" задач писателя и любого другого создателя самого различного текста? Но ведь именно через движение через ошибки, через писание неудачных, вторичных и пошлых вещей, выбрасывание их не в стол, а в окно, и получается действительно сильная вещь. Только так и не иначе ("Если вы писатель, вы напишете множество вторичных вещей прежде, чем удастся написать что-нибудь оригинальное. При этом, время и усилия, вложенные во вторичные тексты никоим образом не тратятся зря — напротив, именно они и позволяют вам в итоге создать нечто неповторимое. Мучительный выбор верного слова и бесконечная перестановка предложений в инстинктивном поиске наиболее приятного течения текста — этим и познается проза").

Но это я все к чему? Как по мне, Тед Чан (наверняка зная, как мне кажется, об аргументе "китайской комнаты") оформляет второе издание, так сказать, дополненное, исправленное и сжатое — без потери данных! — "китайской комнаты" Джона Серла. Я говорю именно об отдельно взятом мысленном эксперименте из статьи "Сознание, мозг и программы", без привлечения работ философа по его собственной теории сознания, социальных институтах и устройства языка. Ведь, так скажем, негативная программа (проект) Серла, его скептические и критические нападки на современные проекты, громогласно заявляющие о создании чего-то близкого к "сильному ИИ", т. е. сознающему и разумному искусственному существу, до сих пор актуальна хотя бы своим запалом.

Я не стану цитировать Серла — и так превысил объемы для быстрого чтения. Просто скажу, что у обоих авторов совпадают не только цели текстов (у Чана, кстати: "Учитывая, что большие языковые модели как ChatGPT зачастую превозносятся чуть ли не как прорыв в сфере искусственного интеллекта, может показаться пренебрежительным или уничижительным описывать их как алгоритмы сжатия текста с потерями. Я на самом деле считаю, что рассматривать большие языковые модели в данной перспективе полезно для усмирения тенденции их очеловечивания"), но и средства. И Чан, и Серл прибегают к мысленному эксперименту для сокрушения спеси проектировщиков якобы "сильных ИИ". Оба различают синтаксическое и семантическое, т. е. то, что кандидаты в разумные машины не обладают пониманием, а просто оперируют рядом формальных правил (Джон Серл в указанной статье четко проводит это различение — между синтаксисом и семантикой языка — для ликвидации лишь поверхностной адекватности метафоры человеческого сознания как компьютерной программы). А из последних напрямую не проистекает, не создается и не формируется понимание, т. е. человеческий разум, настоящее сознание и ментальные состояния с убеждениями и прочим человеческим, слишком человеческим. Притом и писатель, и философ не считают, что "сильный ИИ" принципиально невозможен. И критикуемые философом программы, и писателем нейросети если и проходят тесты Тьюринга, то только потому, что это неудовлетворительный тест на определение у собеседника ментальных состояний и разумности. Т. е. (выше я говорил запомнить момент с термином "копировать") копирование (имитация) работы сознания современными машинами происходит с такой потерей содержания и качества процесса, что дубликат не идет ни в какое сравнение с оригиналом. Серл настаивает на смещении внимания с "софта" на "хард", а Чан скорее говорит о том, что стоит затянуть пояса скорых и завышенных ожиданий. В любом случае, при всех прочих равных, фантаст-программист справляется с созданием четкого, понятного, приятного для чтения и вместе с тем сильного с аргументационной точки зрения текста с критикой реализации в настоящее время "сильного ИИ" лучше, чем философ-лингвист-когнитивист. При всей моей симпатии как к фигуре Серла, так и к этой его статье и другим произведениям. Притом "подкопаться" к эссеистскому эксперименту Чана сложнее, чем к мысленному эксперименту Джона Серла. Как ни крути, при всей изящности "китайской комнаты", в самой ее основе есть родовая травма, слабое место: вопрос "который сейчас час?" и иже с ними. Да, можно вводить модификации "...комнаты" для преодоления набегов секты "ИИ здесь-и-сейчас", но чем статья Чана — не такая идеальная, преодолевшая слабости прародителя, версия критики от Серла? Это тот из немногих случаев, когда ремейк лучше оригинала.

Примечания:

1. Оригинал статьи Теда Чана

2. Перевод статьи Теда Чана №1

3. Нейросети учатся врать? (Сергей Марков, Борис Кагарлицкий)

5. Джон Серл. Сознание, мозг и программы

6. Создатель ChatGPT "опасается своего творения"

7. Истина это здравый смысл, а не наоборот (интервью с Джоном Серлом)

8. Наверное, даже более верное сравнение аналогии Чана не с "китайской комнатой" Серла, а с "китайской нацией" Блока (которого и Серл упоминает, кстати), как заметил при обсуждении эссе фантаста FixedGrin.

9. Это сотая, юбилейная публикация в моей колонке. Спасибо всем тем, кто читает мое многословие и многобуковие!

В свое время я уже писал про сериал "Рассказ служанки", который до сих пор выходит на канале Hulu. В этом, 2023, году проект наконец-то должен завершиться последним, шестым по счету сезоном. После просмотра третьего сезона пару лет назад я успел несколько устать от интересного, но все-таки противоречивого сериального произведения. О некоторых преувеличениях мира, диалогах персонажей и некоторых иных если не минусах, то специфических характеристик сериала я писал в уже указанной заметке. Здесь же я хотел бы рассмотреть в паре абзацах буквально одного единственного персонажа, сыгранного актером Брэдли Уитфордом, который появился еще в далеком втором сезоне, но наиболее активно проявил себя в последних двух. В общем, эссе посвящается командору Джозефу Лоуренсу.

Второй и третий сезон, особенно третий, конечно, стал выводить этого героя на все более важные сюжетные тропинки. Например, самолетного бегства нескольких десятков детей в Канаду не было бы без Лоуренса. Тем не менее особо он никак не светился, и отношения между персонажами Элизабет Мосс, Джозефа Файнса, Ивонн Страховски и Энн Дауд теснят роль и развитие этого героя. Но с первой же серии четвертого сезона все меняется.

Джозеф Лоуренс с первого появления на экране привлекает внимание зрителя, привыкшего к постепенной "картонизации" и рутинизации действий, диалогов и взглядов командоров, Служанок, Жен, Теток... Да, поначалу Лоуренс кажется лишь функциональным трамплином для нескольких спасений Фердовой / Джун, но четвертый и пятый сезон все меняют. Персонаж, который даже не присутствовал в книге, начинает вытаскивать с картонного дна весь проект. Уже не только на одной красавице Мосс лежит бремя волоков сериала (в моих глазах, во всяком случае).

Почти сразу намеками нам показывают, что с Лоуренсом далеко не все так просто. Это не обычный двуличный и лицемерный командор. Он любит свою несчастную больную Жену, тяготится судьбой Служанок и других несчастных обитателей Галаада, не занимается освященным изнасилованием над женщинами, а вообще являет собой фигуру скрытого в тоталитарных одеяниях интеллигента, любителя запрещенных книг, произведений искусства и т. д. Ну и одним кадром третьего сезона нам дают понять, что командор Лоуренс участвовал в создании экономического фундамента государства религиозных фундаменталистов.

Но в предпоследних двух сезонах Джозеф Лоуренс раскрывается в полной мере. Во-первых, появляется новая арка / повествование — политическое возвышение нетипичного командора до практического главы Галаада. Во-вторых, персонажу добавляют экранного времени и его диалоги со всеми героями — самое главное достижение сценаристов. Ерничанье, открытый сарказм, в чем-то снобистская интеллектуальная речь Лоуренса, порой чрезмерно вызывающее и рискованное поведение героя Уитфорда — все выдает в нем трикстера.

Лоуренс как бы находится между двух миров. Между, с одной стороны, мирским, светским, интеллектуально и по духу близким ему западным цивилизованным обществом, а, с другой стороны, традиционалистским, тоталитарным, политиканским, жестоким бытом Галаада. Да, в чем-то внутри он близок к первому миру, а внешне старается хамелеонски встроится во второй. Но все, разумеется, сложнее. Лоуренс, как выясняется, настоящий серый кардинал, подлинный творец псевдохристианской республики. В проникновенном диалоге с Джун в одной из последних серий пятого сезона (начатого по телефону, а продолженному при личной встрече), он говорит, что видел угрозу полного вымирания человечества и исчезновения цивилизации. Лоуренс был экономистом, утилитаристом, и при помощи фундаменталистов, "Сынов Иакова", думал решить глобальную проблему с "минимальными издержками" (начало восьмой серии). Но эксперимент, как водится, вышел из-под контроля, и в пламя демографической фабрики под именем "Галаад" полетело слишком много щепок и поленьев в виде человеческих жизней и столь близких Лоуренсу достижений цивилизации. Правда, в весьма пафосном монологе, он клеймит "потребительский поздний капитализм", который и привел мир к проблеме снижения фертильности.

Брэдли Уитфорд отлично отыгрывает такого сложного и необычного персонажа, вовремя сдерживая, и столь же вовремя не сдерживая эмоции, горестные слезы по понимаю того, что он натворил. Но Лоуренс все равно считает, что делает необходимое зло длиною в пару-тройку поколений, после которых Галаад изменится и станет "традиционализмом с человеческим лицом". Его даже иронично связывают с Горбачевым, который проектом "Нового Вифлеема" старается преобразить тираническую сущность своего детища. Но экс-Фредова, Джун, не согласна с антигероем / антизлодеем или просто трикстером, вынужденно, перед лицом демографического рагнарека, старется быть героем. Так что весь шестой сезон будет конфликтом между героями Мосс и Уитфорда. Двумя единственными оставшимися интересными персонажами всего проекта. Тетя Лидия откровенно выдохлась, ее внутренние демоны, потуги стать духовной матерью для Джанин уже наскучили. Переменчивые отношения четы Уотерфордов себя исчерпали, да и Фред все равно почил в конце четвертого сезона. Оставшаяся живой Серена тоже порастеряла свой глянец и интересность, разве что поначалу привлекала более-менее предсказуемая линия преображения овдовевшей, но беременной героини в квази-Служанку. Конфликт оформен, ждем ценностной, идейной дуэли между архитектором жестокого спасения человечества в лице саркастического интеллектуала-трикстера Лоуренса и второй раз ставшей вынужденно беглянкой Джун. Самое главное, чтобы создатели "Рассказа служанки" не пошли по пути шоураннеров "Атаки титанов", и не множили последний сезон до бесконечности.