Текст книги "ГЕДЕЛЬ, ЭШЕР, БАХ: эта бесконечная гирлянда"

Автор книги: Даглас Хофштадтер

сообщить о нарушении

Текущая страница: 57 (всего у книги 64 страниц)

Вопрос: Будут ли в памяти программы некие места, где будут храниться параметры, управляющие поведением программы, так что, если бы вы забрались внутрь программы и поменяли их, программа стала бы умнее или глупее, более творческой или более заинтересованной в футболе? Короче, сможете ли вы «настраивать» программу, «подкручивая ее ручки» на относительно низком уровне?

Возможный ответ: Нет. Программа будет почти безразлична к изменениям любого данного элемента памяти, так же, как не меняемся и мы, несмотря на то, что тысячи нейронов нашего мозга ежедневно умирают. (!) Однако, если вы зайдете слишком далеко в вашей возне с программой, вы можете ее сломать, точно так же, как если бы вы небрежно провели нейрохирургию человеческого существа. В программе не будет никакого «магического» места, где будет расположен, скажем, ее коэффициент умственного развития. Это будет одной из черт, возникающей на основе низших уровней, и локализовать ее будет невозможно. То же самое верно и в отношении «количества объектов, которое программа может удержать в своей кратковременной памяти», «ее любви к физике» и так далее, и тому подобное.

Вопрос: Можно ли «настроить» какую-нибудь разумную программу так, чтобы она действовала, как я или как вы – или как нечто среднее между нами?

Возможный ответ: Нет. Разумная программа будет так же мало походить на хамелеона, как и человек. Она будет опираться на постоянство своей памяти и не сможет произвольно менять характер. Идея изменения внутренних параметров с тем, чтобы «настроиться на новую индивидуальность» указывает на смехотворную недооценку сложности личности.

Вопрос: Будет ли у разумной программы «сердце», или же она будет состоять их «бессмысленных циклов и последовательностей тривиальных операций» (выражаясь словами Марвина Мински)?[85]85
  Marvin Minsky, «Steps Toward Artificial Intelligence», в сборнике E. Feigenbaum and J. Feldman, eds., «Computers and Thought», стр. 447.


[Закрыть]

Возможный ответ: Если бы мы могли увидеть всю программу насквозь, как видим дно мелкого пруда, мы наверняка увидели бы только «бессмысленные циклы и последовательности тривиальных операций» – и никакого «сердца». Существует два крайних взгляда на ИИ: один из них утверждает, что человеческий разум по неким фундаментальным и мистическим причинам запрограммировать невозможно. Другой говорит, что стоит только собрать нужные «эвристические инструменты – множественные оптиматизаторы, способы узнавания регулярностей, планирующие алгебры, рекурсивные процедуры управления и так далее»[86]86
  Там же, стр. 446.


[Закрыть], и у нас будет разумная программа. Я нахожусь где-то посредине: мне кажется, что «пруд» ИИ окажется так глубок и мутен, что нам не удастся увидеть его дна. При взгляде с вершины циклы будут незаметны, так же, как на сегодняшний день электроны, переносящие ток, незаметны большинству программистов. Когда будет создана программа, выдержавшая тест Тюринга, мы увидим в ней «сердце», хотя и будем знать, что его там нет.

Вопрос: Будут ли когда-нибудь созданы «сверх-разумные» программы ИИ?

Возможный ответ Не знаю. Непонятно, сумеем ли мы понять «сверх-разум» или общаться с ним и есть ли вообще какой-нибудь смысл у этого понятия. Например, наш собственный разум связан со скоростью нашего мышления. Если бы наши рефлексы были в десять раз быстрее или медленнее, у нас могли бы развиться совершенно иные понятия о мире. У создания с радикально иным представлением о мире может просто не оказаться с нами многих точек соприкосновения. Я часто спрашиваю себя, могут ли существовать музыкальные произведения, являющиеся по отношению к Баху тем, чем Бах является по отношению к фольклорным мелодиям – так сказать, «Бах в квадрате». Смог бы я понять подобную музыку? Может быть, вокруг меня уже есть подобная музыка, но я просто ее не узнаю, точно так же, как собаки не понимают языка. Идея сверх-разума очень странна. Так или иначе, я не считаю это сегодняшней целью исследований в области ИИ (хотя, если мы когда-нибудь достигнем уровня человеческого разума, сверх-разум, несомненно, станет следующей задачей – и не только для нас, но и для наших искусственных коллег, которые будут так же, как и мы заинтересованы в проблемах ИИ и сверх-разума). Вероятно, что программы ИИ будут интересоваться общими проблемами ИИ – и это вполне понятно.

Вопрос: Вы, кажется, утверждаете, что программы ИИ будут практически неотличимы от людей. Будет ли между ними какая-нибудь разница?

Возможный ответ: Скорее всего, разница между программами ИИ и людьми будет больше, чем разница между большинством людей. Почти невозможно вообразить, что «тело», в котором будет расположена такая программа, не окажет на нее сильнейшего влияния. Так что, если только она не будет расположена в превосходной имитации человеческого тела, – а это вовсе не обязательно! – у нее, скорее всего, будут совершенно иные понятия о том, что важно, интересно и так далее. Витгенштейн однажды сделал следующее забавное замечание: «Если бы лев заговорил, мы бы его не поняли». Эта мысль напоминает мне о картине Руссо, где в залитой лунным светом пустыне изображены мирный лев и спящая цыганка. Но откуда Витгенштейн это знает? Мне кажется, что любая думающая программа ИИ, даже если мы и сможем с ней разговаривать, будет казаться нам весьма чуждой. Поэтому нам будет очень трудно понять, действительно ли перед нами разумная программа, или просто некая программа «с завихрениями».

Вопрос: Поймем ли мы, благодаря созданию разумных программ что такое интеллект, сознание, свободная воля и «Я»?

Возможный ответ: Возможно – но все зависит от того, что вы имеете в виду под словом «понимать». На интуитивном уровне, каждый из нас уже сейчас понимает все эти понятия настолько хорошо, как только возможно. Это подобно слушанию музыки. Улучшилось ли ваше понимание Баха от того, что вы проанализировали его вдоль и поперек? Или же вы лучше понимали его тогда, когда каждый нерв вашего тела трепетал от восторга? Понимаем ли мы, каким образом скорость света постоянна в любой инерционной системе отсчета? Мы можем проделать все расчеты, но ни у кого в мире нет настоящего интуитивного понимания теории относительности. Возможно, что никто никогда не поймет полностью на интуитивном уровне загадки интеллекта и сознания. Каждый из нас может понимать отдельных людей, и, скорее всего, это максимум того, на что мы способны.

Канон Ленивца

На этот раз мы находим Ахилла и Черепаху Тортиллу в гостях у их нового приятеля, Ленивца Сплюшки.

Ахилл: Хотите послушать про забавное соревнование по бегу, которое мы однажды устроили с Черепахой?

Ленивец: О, да, прошу вас!

Ахилл: Это соревнование стало довольно известным – я слышал, что оно даже было описано неким Зеноном.

Ленивец: Это интересно, и я всегда настроен вас послушать.

Ахилл: Это, и правда, было интересно. Видите ли, г-жа Тортилла стартовала первой. У нее была огромная фора, и тем не менее —

Ленивец: Вы ее нагнали, не правда ли?

Ахилл: Разумеется – поскольку я такой быстроногий, я сокращал расстояние между нами с постоянной скоростью, и вскоре обогнал ее.

Ленивец: Поскольку расстояние между вами становилось все меньше и меньше, вам удалось это сделать.

Ахилл: Именно. О, смотрите – г-жа Черепаха принесла свою скрипку. Можно мне попробовать что-нибудь сыграть, г-жа Черепаха?

Черепаха: О, нет, прошу вас. Это будет неинтересно – она расстроена так, что невозможно слушать.

Ахилл: Ну ладно. Но у меня сегодня почему-то музыкальное настроение.

Ленивец: Можете поиграть на пианино, Ахилл.

Ахилл: Благодарю вас. Немного погодя я так и сделаю. Но сначала доскажу, что потом мы с Черепахой бегали наперегонки еще раз. К несчастью, в этом соревновании —

Черепаха: Вы меня не нагнали, не правда ли? Расстояние между нами становилось все больше и больше, так что вам не удалось этого сделать.

Ахилл: Это верно. Мне кажется, что и ЭТО соревнование было описано – неким Льюисом Кэрроллом. А теперь, м-р Сплюшка, я готов принять ваше любезное приглашение и сыграть что-нибудь на пианино. Но предупреждаю: я очень плохой пианист – даже не знаю, стоит ли мне пытаться.

Ленивец: Вы должны попытаться.

(Ахилл садится за пианино и начинает играть простенькую мелодию.)

Ахилл: Ой, как странно звучит! Это совершенно не то, что я хотел сыграть! Что-то здесь не в порядке.

Черепаха: Вы не можете играть на пианино, Ахилл. Вы не должны и пытаться.

Ахилл: Это похоже на отражение пианино в зеркале. Высокие ноты находятся слева, а низкие – справа. Каждая мелодия получается перевернутой с ног на голову. Интересно, кто это придумал такую дурацкую шутку?

Черепаха: Этим отличаются ленивцы. Они висят —

Ахилл: Да, я знаю: на ветвях деревьев – головой вниз, разумеется. Это пианино-ленивец годится, чтобы играть на нем перевернутые мелодии, которые встречаются в канонах и фугах. Но научиться играть на пианино, свисая с дерева, нелегко – это требует немалого трудолюбия.

Ленивец: Этим ленивцы не слишком отличаются.

Ахилл: Да, мне кажется, что ленивцы не любят утруждать себя. Они делают все вдвое медленнее, чем все остальные. И кроме того, вверх ногами. Какой своеобразный жизненный уклад! Кстати, о замедленных и перевернутых вещах – в «Музыкальном приношении» есть канон под названием «Canon per augmentationem contrario motu», что значит «увеличенный и перевернутый канон». В моем издании «Приношения» перед тремя нотными строчками стоят три буквы – «S», «А» и «T» . Непонятно, что они значат… Так или иначе, Бах сделал все это очень ловко. Как вы считаете, г-жа Тортилла?

Черепаха: Он превзошел самого себя. Что касается букв «S», «А» и «T», то я догадываюсь, что они означают.

Ахилл: «Сопрано», «Альт» и «Тенор», скорее всего. Трехчастные пьесы часто пишутся для этой комбинации голосов. Как вы думаете, м-р Сплюшка?

Ленивец: Они означают —

Ахилл: О, подождите минутку! Г-жа Черепаха, почему вы одеваетесь? Надеюсь, вы не хотите нас покинуть? Мы только что собирались приготовить блинчики… Вы выглядите очень усталой. Как вы себя чувствуете?

Черепаха: Обессиленной. Пока! (Устало ползет к двери.)

Ахилл: Бедняжка – она, действительно, выглядит измученной. Она пробегала все утро – тренировалась для следующего соревнования со мной.

Ленивец: Видно, она превозмогала саму себя.

Ахилл: И совершенно зря. Может быть, она могла бы перегнать Сплюшку… но меня? Никогда! Да, вы, кажется, хотели сказать, что означают буквы «S», «А», «T» ?

Ленивец: Вам в жизни не догадаться!

Ахилл: Неужели они могут значит что-то еще? Вы меня заинтриговали. Я еще над этим поразмыслю. Скажите, а на каком молоке вы делаете тесто для блинчиков?

Ленивец: На обезжиренном.

Ахилл: Хорошо. Я ставлю сковородку на огонь.

Ленивец: Уже?

Ахилл: Ну ладно, тогда сначала размешаю тесто. Какие блинчики будут – пальчики оближешь! Жаль, что Черепахе не удастся их отведать.

Рис. 133. «Канон Ленивца», из «Музыкального Приношения» И. С. Баха. (Ноты напечатаны с помощью компьютерной программы СМУТ Дональда Бирда.)

ГЛАВА XX: Странные Петли или Запутанные Иерархии

Могут ли машины быть оригинальными?

В ВОСЕМНАДЦАТОЙ ГЛАВЕ я описал удачную шашечную программу Артура Самуэля, которая была способна обыграть своего создателя. Интересно послушать, что говорит по поводу компьютеров и оригинальности сам автор этой программы. Следующие отрывки взяты из опровержения на статью Норберта Винера, написанного Самуэлем в 1960 году.

Я убежден в том. что машины не могут быть оригинальными в том смысле, какой вложил в это понятие Винер, когда он написал: «Машины могут превосходить некоторые ограничения их создателей и уже это делают. Благодаря этому, они могут быть одновременно эффективными и опасными.»… Машина – это не вызванный из бутылки джинн; она не работает с помощью магии. У нее нет собственной воли, и, вопреки тому, что говорит Винер, из нее не выходит ничего, что не было бы в нее заложено (исключая, разумеется, редкие случаи поломок).

«Намерения», которые выказывает машина, на самом деле являются намерениями человека-программиста, оговоренными заранее, или же вторичными намерениями, выведенными из первых согласно правилам, установленным тем же программистом. Мы можем даже, подобно Винеру, предвидеть некий высший уровень абстракции, на котором программа не только будет модифицировать вторичные намерения, но и правила, используемые для их деривации – или же будет варьировать способы самой этой модификации… и так далее. Можно даже вообразить, что машина сумеет построить другую машину с улучшенными возможностями. Однако – и это важно помнить – машина не может и не будет проделывать ничего подобного, пока в нее не введут соответствующие инструкции. Существует и логически должен всегда существовать пробел между (i) любым конечным продуктом разработки человеческих желаний и (ii) развитием в машине ее собственной воли. Думать иначе – значит либо верить в магию или считать, что человеческая свободная воля – это иллюзия и что человеческие действия так же механистичны, как и действия машины. Может быть, и статья Винера и мое опровержение были механистически предопределены – но я отказываюсь в это верить.[87]87
  A. L. Samuel, «Some Moral and Technical Consequences of Automation – A Refutation», Science 132 (сентябрь 16, 1960), стр. 741-2.


[Закрыть]

Это напоминает мне Диалог Кэрролла («Двухголосная инвенция») и вот почему. Самуэль основывает свой аргумент против машинного сознания (или воли) на понятии, что любое механическое проявление воли с необходимостью потребует бесконечного регресса. Таким же образом, Кэрроллова Черепаха пытается доказать, что даже простейшее рассуждение не может быть проведено без обращения к неким правилам высшего уровня, разрешающим данное рассуждение. Но поскольку это, в свою очередь, тоже шаг рассуждения, то приходится обращаться к правилам еще более высокого уровня – и так далее. Заключение: рассуждения приводят к бесконечному регрессу.

Разумеется, в доводах Черепахи есть ошибка, и я думаю, что аналогичная ошибка имеется и в рассуждениях Самуэля. Чтобы показать, в чем эти ошибки похожи, я сыграю роль «адвоката дьявола», пытаясь доказать точку зрения, противоположную моей собственной. (Поскольку, как известно, Бог помогает тем, кто помогает себе сам, то дьявол, вероятно, помогает тем и только тем, кто сам себе не помогает. Помогает ли Дьявол сам себе?) Вот мои «дьявольские» заключения, выведенные из Диалога Кэрролла:

Заключение о том, что рассуждения невозможны, неприложимо к людям, поскольку всем известно, что людям все-таки удается проводить множество рассуждений, несмотря на все высшие уровни. Это показывает, что люди функционируют, не нуждаясь в правилах: Люди – это пример «неформальной системы». С другой стороны, этот аргумент действителен, когда мы применяем его против механических рассуждающих систем, поскольку они всегда подчиняются правилам. Такие системы не смогут начать работать, пока у них не будет мета-правил, указывающих им, когда применять правила, мета-мета-правил, говорящих, когда применять мета-правила, и так далее. Таким образом, мы можем заключить, что умение рассуждать не может быть воплощено в машине, – это исключительно человеческая черта.

Где в этих доводах ошибка? В предположении, что машина не способна начать действовать без правила, говорящего ей, как это сделать. В действительности, машины обходят глупые Черепахины возражения так же легко, как и люди, и по той же самой причине: как люди, так и машины сделаны из аппаратуры, которая действует сама по себе, согласно законам физики. Вовсе не надо опираться на «правила, говорящие, как использовать правила», поскольку правила низшего уровня – не имеющие никаких «мета» перед ними – встроены в саму аппаратуру и действуют самостоятельно. Вывод: Диалог Кэрролла ничего не говорит нам о разнице между людьми и машинами. (На самом деле рассуждения возможно механизировать.)

Теперь перейдем к доводам Самуэля. В карикатурном изображении, его точка зрения сводится к следующему:

Нельзя сказать, что компьютер «хочет» что-либо сделать, поскольку он был запрограммирован кем-то другим. Только в том случае, если бы он мог запрограммировать сам себя, начиная с нуля, мы могли бы сказать, что компьютер обладает собственной волей.

В своих доводах Самуэль встает на позицию Черепахи, заменяя «рассуждения» на «волю». Он хочет сказать, что за любым механизмом желания должен стоять либо бесконечный регресс, либо, что еще хуже, закрытая петля. Если у компьютеров нет собственной воли именно по этой причине, то что можно сказать о людях? Тот же самый критерий позволяет заключить, что:

человек обладает собственной волей только тогда, когда он сделал себя сам и выбрал собственные желания (а также выбрал выбор собственных желаний и так далее).

Это заставляет нас хорошенько подумать над тем. откуда появляются наши желания. Если вы не верите в наличие души, то. возможно, скажете, что они зарождаются в вашем мозгу – аппаратуре, которую вы не создавали и не выбирали. Тем не менее, от этого ваше чувство, что вы желаете чего-то определенного, не становится слабее. Вы – вовсе не «само-программирующий объект» (что бы это ни значило); тем не менее у вас все же есть собственная воля, зарождающаяся на физическом уровне вашего интеллекта. Таким же образом, у машин когда-нибудь будет собственная воля, несмотря на тот факт, что никакая магическая «само-программирующая» программа не появляется в их памяти из ничего, словно по мановению волшебной палочки. У них будет воля по той же причине, что и у людей – как следствие организации и структуры многих уровней аппаратуры и программного обеспечения. Вывод: доводы Самуэля ничего не говорят нам о разнице между людьми и машинами. (На самом деле, волю возможно механизировать.)

Любая запутанная иерархия основана на неизменном уровне

Сразу после «Двухголосной инвенции» я написал, что центральной темой этой книги будет обсуждение вопроса «подчиняются ли слова и мысли формальным правилам?» Одной из моих основных задач было показать многоуровневость интеллекта и мозга и объяснить, почему конечным ответом на этот вопрос является «да, если спуститься на низший уровень – уровень аппаратуры – и найти там правила.»

Точка зрения Самуэля затронула некую тему, которую я хочу обсудить подробнее. Вот она: думая, мы, безусловно, меняем наши мысленные правила, а также правила, меняющие правила, и так далее – но это, образно говоря, правила «программ». При этом фундаментальные правила, правила «аппаратуры», остаются неизменными. Нейроны всегда действуют одинаково. Мы не можем уговорить нейроны повести себя «ненейронным» образом; все, что нам удается сделать, это поменять тему или стиль наших мыслей. Подобно Ахиллу в «Прелюдии» и «Муравьиной фуге», мы имеем доступ только к нашим мыслям, а не к нейронам. Правила программ могут варьироваться на разных уровнях – правила аппаратуры всегда остаются одними и теми же. Именно этим фактом и объясняется гибкость программ! Это вовсе не парадокс, а фундаментальный, простой факт, касающийся механизмов разума.

Именно различие между само-модифицирующимися программами и неизменной аппаратурой будет темой последней главы этой книги. Некоторые из последующих вариаций на это тему могут показаться довольно надуманными; однако надеюсь, что к тому моменту, когда я завершу цикл, вернувшись к мозгу, интеллекту и чувству самосознания, вы сможете увидеть неизменную основу в каждой из этих вариаций.

В этой главе я хочу поделиться с читателем теми образами, которые помогают мне понять, каким образом сознание вырастает из джунглей нейронов. Надеюсь, что эти интуитивные образы окажутся полезными и немного помогут читателям в определении их собственных представлений о том, что заставляет функционировать разум. Может быть, возникающие в моем мозгу туманные образы мозга и образов послужат катализатором для образования более четких образов мозга и образов в мозгу моих читателей.

Модифицирующаяся игра

Итак, первая вариация: игры, в которых очередной игрок может изменять правила. Представьте себе шахматы. Ясно, что правила здесь остаются неизменными, а меняется только позиция на доске после каждого хода. Но давайте теперь рассмотрим такой вариант шахмат, в котором очередной игрок имеет право либо сделать ход, либо поменять правила. Каким образом? Произвольно? Можно ли превратить шахматы, скажем, в шашки? Понятно, что подобная анархия была бы бессмысленна – должны существовать некоторые ограничения. Например, в одной из версий будет позволено изменять ход коня: вместо «1 и затем 2» конь будет передвигаться на «m» и затем «n» клеток, где m и n – любые натуральные числа; очередной игрок сможет увеличивать или уменьшать на 1 либо m либо n. Таким образом, ход коня сможет меняться от 1-2 до 1-3, до 0-3, до 0-4, до 0-5. до 1-5, до 2-5… Вместо этого могут существовать правила, модифицирующие ход слона и других фигур. Другие правила могут добавлять новые клетки к доске, или стирать старые…

У нас будет два уровня правил, одни говорят нам, как ходят фигуры, и другие – как изменяются правила. Таким образом, у нас есть правила и мета-правила. Следующий шаг очевиден: введение мета-мета-правил, говорящих нам, как менять мета-правила. Однако вовсе не очевидно, как именно это сделать. Правила, меняющие ходы фигур, придумать легко, поскольку фигуры двигаются в формализованном пространстве шахматной доски. Если бы нам удалось придумать простую формальную запись для правил и мета-правил, тогда обращаться с ними стало бы так же легко, как с цепочками формул или даже с шахматными фигурами. Доводя эту идею до логической крайности, мы могли бы представить, что правила и мета-правила могут быть изображены в виде позиций на вспомогательной шахматной доске. Тогда каждая позиция сможет, в зависимости от вашей интерпретации, быть понята как момент игры, набор правил или набор мета-правил. Разумеется, оба игрока должны будут заранее договориться о том, как интерпретировать нотацию.

В этой игре у нас может быть любое количество дополнительных досок: доска для игры, для правил, для мета-правил, для мета-мета-правил и так далее, пока нам не надоест. Очередной игрок может ходить на любой из этих досок, кроме доски самого высшего уровня. Правила при этом определены доской «ступенькой выше». Несомненно, оба игрока вскоре запутаются из-за того, что почти все – но не всё! – может меняться. По определению, доска высшего уровня должна оставаться неприкасаемой, поскольку у вас нет правил, говорящих вам, как ее менять. Это – неизменный уровень. Неизменны также условия, по которым изменяются другие доски, соглашение играть по очереди, условие, что очередной игрок может менять что-то только на одной из досок – вы найдете здесь и другие неизменные элементы, если рассмотрите эту идею более подробно.

Возможно пойти гораздо дальше, если убрать опорные ориентиры. Начнем действовать постепенно… Сначала сведем весь набор досок к одной-единственной доске. Что это означает? Что эту доску можно будет интерпретировать двояко как (1) фигуры, которые надо двигать и (2) правила ходов. Игроки, двигающие фигуры, тем самым меняют правила! Таким образом, правила постоянно меняют сами себя. Здесь слышен отголосок типогенетики (и настоящей генетики!) Различие между игрой, правилами, мета-правилами и мета-мета-правилами оказывается стерто. То, что когда-то было четкой иерархической системой, превратилось в Странную Петлю или Запутанную Иерархию. Ходы меняют правила, правила определяют ходы – и так далее, по кругу. Здесь все еще есть различные уровни, но разница между «высшими» и «низшими» уровнями уже исчезла.

При этом часть того, что раньше было неприкасаемым, стало возможно модифицировать. Но в системе все еще осталось множество неизменных вещей. Так же как и раньше, между вами и вашим противником существуют некие соглашения, при помощи которых вы интерпретируете доску как определенный набор правил, соглашение играть по очереди и другие негласные условия. Заметьте, что теперь понятие различных уровней изменилось довольно неожиданным образом. У нас есть Неизменный уровень – давайте назовем его уровень Н – на котором находятся соглашения, касающиеся интерпретации, и Запутанный уровень – уровень З – на котором находится Запутанная Иерархия. Эти два уровня все еще иерархичны: уровень Н управляет тем, что происходит на уровне З, в то время как уровень З не затрагивает и не может затронуть уровня Н. Несмотря на то, что сам уровень З представляет из себя Запутанную Иерархию, он все же подчиняется набору правил, находящихся за его пределами. Это очень важный момент.

Как вы, несомненно, уже предположили, ничто не мешает нам сделать «невозможное» – а именно, соединить уровень Н с уровнем 3. Для этого надо только поставить сами условия интерпретации в зависимость от положения на шахматной доске. Однако для того, чтобы провести подобное «сверх-соединение», вам и вашему противнику придется выработать некие новые соглашения, соотносящие два уровня – и это создаст новый неизменный уровень сверху «сверхсмешанного» (или под ним, если вам так больше нравится). И это может продолжаться до бесконечности. «Скачки», которые при этом совершаются, напоминают те, что были описаны в Диалоге «Праздничная Кантатата» и в повторной Гёделизации, примененной к разнообразным улучшенным вариантам ТТЧ. Каждый раз, когда вам кажется, что вы подошли к концу, возникает новый вариант выхода из системы; чтобы его заметить, нужно некоторое творческое воображение.

Снова авторский треугольник

Я не собираюсь здесь прослеживать эту странную тему усложняющихся комбинаций систем, которые могут возникнуть в само-изменяющихся шахматах. Моей целью было показать читателю графически, что в каждой системе есть некий «защищенный» уровень, на который не действуют правила других уровней, какими бы запутанными не были их взаимодействия между собой. Забавная загадка из главы IV иллюстрирует эту мысль в немного ином контексте. Может быть, она застанет вас врасплох:

Рис. 134. «Авторский треугольник».

Перед нами три автора: З, Ч и Э. З существует только в романе, написанном Ч. Аналогично, Ч – только герой романа, написанного Э. Что удивительно, Э – тоже не более как персонаж романа – чей автор, естественно, З. Может ли существовать такой авторский треугольник?

Разумеется, может! Но для этого все трое должны быть персонажами четвертого романа, написанного X. Можно сказать, что З-Ч-Э представляет из себя Странную Петлю или Запутанную Иерархию, а автор X находится в неизменном пространстве, вне той системы, в которой происходит эта путаница. Хотя З, Ч и Э имеют прямой или косвенный доступ друг к другу и могут напакостить один другому в своих романах, ни один из них не может затронуть жизнь X. Они даже не могут вообразить его, так же, как вы не в состоянии представить себе автора того романа, который выдумал в качестве своего героя вас. Если бы я хотел ввести в схему автора X, я нарисовал бы его вне страницы. Разумеется, это было бы проблематично, поскольку изображение предмета с необходимостью помещает его на странице… Так или иначе, X в действительности находится вне мира, в котором обитают З, Ч и Э, и должен быть представлен соответствующим образом.

Рис. 135. М. К. Эшер. Рисующие руки, (литография, 1948).

Эшеровы «Рисующие руки»

Другая классическая вариация на эту тему – картина Эшера «Рисующие руки» (Рис. 135). Здесь левая рука (ЛР) рисует правую руку (ПР), в то время как ПР рисует ЛР. Снова уровни, обычно понимаемые как иерархические – рисующее и рисуемое – замыкаются друг на друга, создавая Запутанную Иерархию. Этот пример, разумеется, подтверждает идею данной главы, поскольку за ним стоит ненарисованная, но рисующая рука самого Эшера – создателя как ЛР, так и ПР. Эшер стоит вне пространства этих рук, и это хорошо видно на рис. 136. В верхней части этого схематического варианта картины Эшера вы видите Странную Петлю или Запутанную Иерархию, а в нижней – Неизменный уровень, позволяющий ее существование. Мы могли бы еще раз «Эшеризировать» картину Эшера. сфотографировав рисующую ее руку… и так далее.

Рис. 136. Абстрактная диаграмма, представляющая картину Эшера «Рисующие руки». Внизу приведено ее решение.

Мозг и разум: переплетение нейронов, лежащее в основе переплетения символов

Теперь мы можем соотнести эту картину с мозгом, а также с программами ИИ. Когда мы думаем, символы в нашем мозгу активируют другие символы, и все они взаимодействуют гетерархически. Более того, символы могут заставить друг друга измениться внутренне и стать чем-то вроде программ, действующих на другие программы. Благодаря Запутанной Иерархии символов, у нас создается иллюзия, что неизменяемого уровня в мозгу не существует. Мы думаем, что подобного уровня нет, потому что он для нас невидим.

Если бы было возможно изобразить это схематически, получился бы гигантский лес символов, соединенных друг с другом перепутанными линиями, вроде лиан в джунглях. Это – высший уровень, где рождаются и развиваются мысли, тот ускользающий уровень разума, который аналогичен рисующим друг друга рукам. Внизу на схеме помещалось бы изображение мириад нейронов – «неизменного субстрата,» лежащего в основе переплетения символов и аналогичного «движущей силе» – Эшеру. Интересно, что в буквальном смысле сам этот нижний уровень тоже представляет из себя переплетение: миллиарды клеток и сотни миллиардов аксонов, соединяющих клетки между собой.

В этом интересном случае сложное переплетение на уровне программ основано на переплетении на уровне самой аппаратуры – нейронов. Но Запутанной Иерархией можно назвать лишь переплетение символов. Переплетение нейронов – это «простое» переплетение. Это различие подобно разнице между Странными Петлями и обратной связью, которое я описал в главе XVI. Запутанная Иерархия получается тогда, когда строго иерархичные на первый взгляд уровни внезапно начинают действовать друг на друга в нарушение всех правил иерархии. Элемент неожиданности здесь очень важен; именно поэтому я называю Странные Петли «странными». Простое переплетение, такое, как обратная связь, не нарушает установленных различий между уровнями. Например, когда вы стоите под душем и моете правую руку левой рукой и наоборот, это в порядке вещей. Эшер не случайно решил нарисовать руки, рисующие руки!

События, подобные моющим друг друга рукам, случаются в мире очень часто, и мы их обычно не замечаем. Я говорю что-то вам, а вы в ответ говорите что-то мне. Парадокс? Вовсе нет; наше восприятие друг друга с самого начала не включает никакой иерархии, поэтому здесь нет ничего странного.

С другой стороны, в языке получаются странные петли тогда, когда он прямо или косвенно говорит сам о себе. При этом нечто, лежащее внутри системы, выходит из нее и воздействует на систему так, словно оно находится вовне. Возможно, что нас смущает некое неопределенное чувство топологической неправильности: стирание различия между внутренним и внешним, как в знаменитой «бутыли Клейна». Хотя система абстрактна, наш мозг создает для нее пространственный образ с некоторой мысленной топологией. Вернемся к путанице символов. Если глядеть только на нее и игнорировать нейронный фундамент, то в ней можно увидеть самопрограммирующий объект – точно так же, как глядя на «Рисующие руки», мы видим саморисующую картину и на мгновение верим этой иллюзии, забывая об Эшере. В случае картины эта иллюзия рассеивается мгновенно – но в случае человеческого разума она оказывается весьма стабильной. Мы чувствуем, что мы самопрограммирующие. Более того, мы и не можем чувствовать иначе, поскольку мы защищены от низшего уровня, уровня нейронных сплетений. Нам кажется, что наши мысли живут в своем собственном пространстве, создавая новые мысли и изменяя старые; мы не замечаем помогающих этому нейронов! Но так и должно быть. Мы просто не можем их заметить.