Текст книги "ГЕДЕЛЬ, ЭШЕР, БАХ: эта бесконечная гирлянда"

Автор книги: Даглас Хофштадтер

сообщить о нарушении

Текущая страница: 34 (всего у книги 64 страниц)

Другая проблема возникает при переводе жаргонных и разговорных выражений. Что лучше – найти «аналогичное» выражение или привести дословный перевод? Если переводчик пытается найти аналогичную фразу, то он рискует «накормить борщом» типичную американку (которая, возможно, в жизни о борще не слыхала), но если он переводит все дословно, то в его переводе появится «акцент». Возможно, что это даже желательно, поскольку русская культура для английского читателя экзотична. Однако благодаря странным выражениям и неестественным оборотам он будет постоянно чувствовать некую искусственность, которая не была задумана автором, и которую не ощущают читатели оригинала.

Подобные проблемы заставляют нас усомниться, прав ли был Уоррен Уивер, один из пионеров компьютерного перевода, когда в конце 1940-х годов он сказал. «Глядя на статью, написанную по-русски, я говорю себе: „На самом деле, это написано по-английски, но закодировано какими-то странными символами. Сейчас я начну их расшифровывать.“»[37]37
  Warren Weaver, «Translation», в сборнике «Machine Translation of Languages», Wm. N. Locke and A. Donald Booth, eds. (New York: John Wiley and Sons, and Cambridge, Mass.: M.I.T. Press, 1955), стр. 18.


[Закрыть] Замечание Уивера не должно пониматься буквально; скорее, он хотел сказать, что в символах спрятан некий объективный или близкий к объективному смысл, и что хорошо запрограммированный компьютер вполне может этот смысл оттуда извлечь.

Сравнения между программами на высшем уровне

Уивер имел в виду переводы с одного человеческого языка на другой. Давайте теперь рассмотрим проблему перевода между компьютерными языками. Предположим, что два человека написали программы для разных компьютеров и мы хотим выяснить, выполняют ли они одно и то же задание. Как это возможно? Для этого нужно сравнить данные программы. Но на каком уровне? Что, если один программист написал программу на машинном языке, а другой – на языке компилятора? Сравнимы ли подобные программы? Безусловно. Но как именно это сделать? Одним способом было бы скомпилировать вторую программу, получив таким образом соответственную программу на машинном языке второго компьютера.

Теперь перед нами две программы на машинном языке. Но тут возникает другая проблема: у нас два компьютера и, следовательно, два различных машинных языка, которые могут очень сильно отличаться друг от друга. В одном компьютере могут быть слова из шестнадцати битов, а в другом – из тридцати шести. В один компьютер могут быть встроены инструкции по управлению стеком (проталкиванию и выталкиванию данных), а в другом их может не быть. Разница между аппаратурой двух компьютеров может привести к тому, что их программы могут показаться несравнимыми – и все же мы подозреваем, что они выполняют одно и то же задание, и нам бы хотелось это проверить. Очевидно, мы рассматриваем программы со слишком близкого расстояния.

Необходимо отойти подальше, перейдя от уровня машинного языка к более высокому, блочному уровню. С этой точки зрения мы можем надеяться заметить те блоки, которые делают программу разумно спланированной на глобальном, а не на местном уровне – блоки, которые подходят к друг другу таким образом, что становятся видны цели программы. Давайте предположим, что обе программы были первоначально написаны на языках высших уровней; значит, определенные блоки там уже есть. Однако теперь возникает другая проблема: существует множество блочных языков, таких, как ФОРТРАН, АЛГОЛ, ЛИСП, АПЛ и многие другие. Как можно сравнить программу на Алголе с программой на АПЛ? Безусловно, мы не будем сравнивать их строчка за строчкой; вместо этого попытаемся опять мысленно разделить эти программы на блоки в поисках неких совпадающих функциональных единиц. Таких образом, мы сравниваем не аппаратуру и не программы, но некую «эфирную сущность» – абстрактные понятия, лежащие в основе программ. Прежде чем сравнивать между собой программы, написанные на различных компьютерных языках, или два предложения на разных человеческих языках, или двух животных, необходимо выделить из нижних уровней определенный «концептуальный костяк».

Это возвращает нас к вопросу о компьютерах и мозгах: какой смысл описывать их на нижних уровнях? Можно ли в таких сложных системах каким-то объективным образом перейти от такого описания к описанию на высших уровнях? В случае компьютера мы можем легко получить распечатку содержимого памяти, так называемый дамп. На заре работы с ЭВМ, дампы использовались в том случае, когда с программой что-то не ладилось. Программист уносил такую распечатку домой и корпел над ней часами, пытаясь понять, что собой представляет каждая крохотная часть памяти. В таком случае, программист делал нечто обратное компиляции: он переводил с машинного языка на язык высшего уровня, концептуальный язык. В конце концов, он понимал цель программы и мог описать ее в терминах высших уровней: «Эта программа переводит романы с русского на английский» или «Эта программа пишет восьмиголосные фуги, основанные на любой данной ей теме».

Сравнение высших уровней мозгов

Попытаемся теперь ответить на подобный вопрос в отношении мозгов: «Можно ли „прочитать“ человеческий мозг на высшем уровне? Существует ли некое объективное описание „содержимого мозга“?» В «Муравьиной фуге» Муравьед утверждал, что он может заключить, о чем думает Мура Вейник, глядя на беготню муравьев. Могло бы какое-нибудь сверхсущество, скажем, Нейронъед, посмотреть на наши нейроны, обобщить увиденное и сказать, о чем мы думаем?

Ответ на это, наверняка, должен быть положительным – ведь мы сами способны в любой момент с легкостью описать наши мысли в блочных (не нейронных) терминах. Это означаем, что у нас есть некий механизм, позволяющий нам до некоторой степени обобщать состояние нашего мозга и таким образом давать его функциональное описание. Точнее, мы превращаем в блоки не все состояние мозга, а только те его активные участки. Однако если нас спросят о чем-либо, хранящемся в пассивной области, мы сможем почти мгновенно активировать нужный участок и дать блочное описание требуемого предмета, высказав наше мнение о нем. При этом мы не имеем ни малейшего понятия о состоянии нервных клеток в данной области; наше описание настолько обобщено, что мы даже не знаем, какую область нашего мозга только что описали. В противоположность этому, программист, дающий блочное описание программы, основывается на сознательном анализе содержимого памяти компьютера.

Если мы можем дать блочное описание любой части нашего мозга, то логично предположить, что сторонний наблюдатель, способный проникнуть в наш мозг, мог бы дать блочное описание не только определенных частей мозга, но и всего целого – иными словами, полное описание всех мыслей и убеждений того человека, в чей мозг он заглядывает. Очевидно, что подобное описание имело бы астрономические размеры, но нас это сейчас не волнует. Мы хотим знать, возможно ли, в принципе, хорошо определенное, полное описание мозга на высшем уровне. Или же описание на нейронном уровне – либо что-нибудь такое же физиологическое и невдохновляющее – на самом деле является наилучшим возможным описанием? Ответ на этот вопрос очень важен, если мы хотим знать, удастся ли нам понять самих себя.

Возможные убеждения, возможные символы

Я считаю, что блочное описание возможно; однако это не означает, что когда мы его получим, все мгновенно станет ясно. Дело в том, что чтобы «извлечь» это описание из мозга, нам потребуется некий язык для описания наших находок. Может показаться, что лучший способ описания мозга – это перечисление мыслей, которые возможны, и мыслей, которые невозможны – или, может быть, возможных и невозможных верований и убеждений. Если, давая наше блочное описание, мы будем стремиться к этой цели, легко увидеть, с какими проблемами мы при этом столкнемся.

Представьте себе, что вы хотите перечислить все возможные вояжи в ФР. Их существует бесконечное множество. Как вы определите, какие из них вероятны? Что вообще значит «вероятны»? Такая же трудность возникнет, если мы захотим установить, что является «возможными дорогами» от символа к символу в мозгу. Мы можем вообразить собаку, летящую вверх ногами с сигарой в зубах или столкновение двух гигантских омлетов на загородном шоссе – и еще сколько угодно подобных забавных картин. Количество таких невероятных дорог в нашем мозгу неограниченно, так же как и количество нелепых маршрутов, возможных в ФР. Но что считать «нормальным» маршрутом в данной ФР? И что считать «разумной» мыслью в данном состоянии мозга? Само по себе состояние мозга не запрещает никакой дороги, так как всегда могут существовать обстоятельства, которые заставят нас по ней пойти. Физическое состояние мозга, правильно «прочитанное», говорит нам не то, по каким дорогам возможно пройти, но то, с каким сопротивлением мы столкнемся на том или ином пути.

Многие путешествия по ФР могут проходить по двум или более вероятным маршрутам; скажем, из Москвы в Орел можно проехать через Калугу или через Рязань. Каждый из этих маршрутов вполне разумен, и выбор одного из них зависит от обстоятельств. Глядя на карту в данный момент, вы не можете сказать, какой из этих маршрутов будет предпочтительнее в будущем – это зависит от обстоятельств, при которых будет проходить поездка. Подобно этому, «прочтение» мозга покажет нам несколько возможных путей между данными символами; однако путешествие между этими символами совсем не обязательно, это лишь одно из миллиардов «возможных» путешествий, фигурирующих в вашем прочтении. Отсюда следует важное заключение: само состояние мозга в данный момент не содержит никакой информации о том, какая именно дорога будет выбрана. Это в большой степени определяется внешними обстоятельствами.

Из этого следует, что в зависимости от обстоятельств один и тот же мозг может породить две полностью противоречивые мысли. Любое заслуживающее внимания прочтение мозга на высшем уровне должно содержать все эти конфликтные версии. На самом деле, совершенно ясно, что мы – не что иное, как ходячие мешки противоречий, и наша целостность зависит от того, что в каждый данный момент мы способны сконцентрироваться только на чем-то одном. На чем именно – этого предсказать невозможно, поскольку обстоятельства, определяющие выбор, заранее не известны. Правильное прочтение состояния мозга может дать нам лишь условное описание выбора маршрутов.

Рассмотрим, например, положение Краба в «Прелюдии». Слушая музыкальное произведение, он может реагировать по-разному. Хорошо знакомая музыка обычно не вызывает у него особых эмоций; однако при наличии некоторых внешних стимулов, таких, например, как восхищение человека, слушающего эту музыку в первый раз, та же самая пьеса может снова привести его в восторг. Скорее всего, прочтение состояния мозга Краба будет указывать как на возможность испытывать восторг (и на необходимые для этого условия), так и на возможность оставаться безразличным (и на необходимые для этого условия). Однако само состояние его мозга не скажет нам, как он среагирует на следующую пьесу; мы знаем только то, что «при таких-то обстоятельствах он испытает восторг; в противном случае…»

Таким образом, блочное описание состояния мозга представляет собой список возможных мыслей и эмоций, которые могут возникнуть в зависимости от обстоятельств. Поскольку невозможно перечислить все возможные обстоятельства, нам приходится удовольствоваться теми, которые мы считаем наиболее «вероятными». Более того, самим обстоятельствам тоже придется давать блочное описание, поскольку ясно, что они не могут – и не должны – быть описаны на уровне атомов! Таким образом, нам не удастся с детерминистской точностью предсказать, какую именно идею произведет на свет мозг в определенном состоянии, под влиянием определенных обстоятельств. В итоге блочное описание мозга выглядело бы как некий относительный каталог состояний, которые с наибольшей вероятностью могут быть вызваны (и символов, которые с наибольшей вероятностью могут быть активированы) наиболее вероятными обстоятельствами, в свою очередь представленными на блочном уровне. Пытаться обобщить чьи-нибудь идеи и убеждения, не учитывая при этом контекста, так же наивно, как рассуждать о возможном потомстве одного человека, не упоминая о его партнере.

Похожая проблема возникает при попытке перечислить все имеющиеся в мозгу данного человека символы. Потенциально в мозгу имеется не только неограниченное количество маршрутов, но и неограниченное количество символов. Как мы уже сказали, на основе старых понятий всегда можно сформировать новые, и можно утверждать, что эти новые понятия на самом деле всегда были в мозгу, только в дремлющем состоянии. Возможно, что эти символы останутся пассивными всю жизнь данного человека; но можно считать, что они, тем не менее, всегда были там, ожидая стечения обстоятельств, благоприятного для их активации и синтеза. Однако, когда вероятность такого стечения обстоятельств невелика, употребление слова «дремлющий» кажется нереалистичным. Поясним это на примере: представьте себе все «дремлющие сны», находящиеся у вас в мозгу во время бодрствования. Можете ли вы вообразить такую разрешающую процедуру, которая, основываясь на состоянии вашего мозга, была бы способна отличить «возможные сны» от «невозможных»?

Где находится самосознание?

Оглядываясь на то, что мы только что обсудили, вы можете сказать себе: «Все эти рассуждения о мозге и разуме, конечно, замечательны – но как же насчет чувств, участвующих в сознании? Все эти символы могут сколько угодно активировать друг друга, но пока кто-то не воспримет всю систему целиком, никакого сознания не возникнет»

На первый взгляд кажется, что в этом есть смысл. Однако если мы попытаемся проанализировать ситуацию логически, то возникает вопрос: что это за механизм, воспринимающий все активные символы, но сам не укладывающийся в рамки описанной нами системы? Разумеется, что человеку, верящему в наличие души, не пришлось бы ломать над этим голову – он мог бы утверждать, что наблюдателем нейронной деятельности является душа, которая сама не может быть описана в физических терминах – все ясно, и говорить больше не о чем! Однако мы попытаемся найти явлению сознания иное объяснение.

У объяснения сознания наличием души есть следующая, правда, немного сбивающая с толку альтернатива: можно остановиться на уровне символов и считать, что именно это и есть сознание. Это значило бы, что сознание – это свойство, возникающее в системах символов с такой схемой активации, как та, что мы только что описали. Однако это определение может показаться неадекватным, поскольку оно не отвечает на вопрос о том, откуда берется наше чувство самосознания, наше «Я»

Подсистемы

Нет причин считать, что наше «Я» не может быть представлено символом; в действительности, это, возможно, самый сложный символ в мозгу. Поэтому я решил поставить его на новый уровень иерархии и назвать подсистемой. Под «подсистемой» я понимаю группу символов, каждый из которых может быть активирован под контролем самой этой подсистемы. Такая подсистема действует внутри нашего мозга как независимый «подмозг», с собственной системой взаимно активирующихся символов. Разумеется, подсистема и «внешний мир» – остальной мозг – постоянно сообщаются между собой. «Подсистема» – это просто другое название для разросшегося символа, который стал так сложен, что у него появились взаимодействующие между собой подсимволы. Таким образом, между символами и подсистемами нет четкой границы.

Поскольку подсистема тесно связана с остальным мозгом (некоторые из этих связей будут описаны в дальнейшем), ее трудно четко отграничить; но хотя границы подсистемы расплывчаты, она, тем не менее, вполне реальна. Интересно то, что когда подсистема активирована и предоставлена себе самой, она может работать самостоятельно. Таким образом, в мозгу одного и того же человека две или три подсистемы могут работать одновременно. Я сам испытывал нечто подобное, иногда, например, у меня в мозгу одновременно звучат две разные мелодии, каждая из которых пытается привлечь «мое» внимание. Каждая из мелодий каким-то образом вырабатывается или «проигрывается» отдельной секцией мозга. По-видимому, каждая из секций, отвечающая за появление у меня в голове какой-то мелодии, активирует один за другим ряд символов, совершенно не обращая внимания на то, что другая подсистема делает то же самое. После этого обе они пытаются вступить в контакт с третьей подсистемой моего мозга – символом «Я» – именно в этот момент мое «Я» осознает, что происходит, и начинает воспринимать блочные описания деятельности этих двух подсистем.

Подсистемы и общий код

Типичными подсистемами могут быть те, что представляют хорошо знакомых нам людей. Эти люди представлены в нашем мозгу таким сложным образом, что их символы вырастают в отдельные подсистемы, которые, пользуясь ресурсами мозга, начинают действовать автономно. Я хочу сказать, что подсистема, представляющая моего друга, может активировать в моем мозгу многие символы так же, как это могу сделать я сам. Например, я могу активировать подсистему «мой лучший друг» и на какое-то время почувствовать себя на его месте, перебирая мысли, которые могут у него возникнуть, активируя символы в той последовательности, которая более аккуратно отражает особенности его мышления, чем моего собственного. Можно сказать, что модель этого человека, воплощенная в некой подсистеме моего мозга, представляет собой мое собственное блочное описание его мозга.

Есть ли в этой подсистеме символ для каждого символа, который, по моему мнению, имеется у него в голове? Это было бы излишним. Скорее всего, эта подсистема вовсю пользуется уже имеющимися в моем мозгу символами. Например, символ «гора» может быть позаимствован подсистемой, когда он находится в активном состоянии; при этом он может быть использован там иначе, чем вне подсистемы. Представьте себе, что я разговариваю с моим другом о горах Тянь Шаня в Средней Азии, где ни один из нас не бывал; при этом я знаю, что несколько лет назад он прекрасно провел время в Альпах. Восприятие его замечаний будет окрашено для меня образами его пребывания в Альпах, поскольку я буду пытаться понять, как он представляет себе Тянь Шань.

Пользуясь терминами, введенными в этой главе, можно сказать, что активация в моем мозгу символа «гора» была под контролем подсистемы, представляющей моего друга. Благодаря этому, я по-иному подхожу к содержимому своей памяти: мой стандартный выбор смещается с набора моих собственных воспоминаний на воспоминания о его воспоминаниях. Нет нужды говорить, что мое представление о его воспоминаниях неполно и весьма отличается от тех действительных картин, которые вызывают у него в мозгу недоступные для меня схемы активации символов.

Таким же образом, мои представления о его воспоминаниях вызваны сложными схемами активации моих собственных символов: понятий «трава», «деревья», «снег», «небо», «облака» и так далее. Мне приходится предполагать, что эти понятия представлены у него в мозгу «идентичным» образом, так же как и еще более основные понятия – «сила тяжести», «дыхание», «усталость», «цвет»… Менее изначальной, но, возможно, почти универсальной является способность человека радоваться достижению вершины и наслаждаться открывшимся перед ним видом; так что я могу довольно верно понять, что почувствовал в тот момент мой друг, активировав для этого соответствующую собственную подсистему.

Можно пойти еще дальше и попытаться описать, как я пойму весь рассказ моего друга, рассказ полный сложных человеческих отношений и опыта. Однако наша терминология вскоре станет недостаточной. Мы столкнемся со сложной рекурсией, связанной с его представлениями о том, как я представляю себе его представления о той или иной вещи или событии. Если бы в рассказе фигурировали общие знакомые, я подсознательно попытался бы найти компромисс между моим представлением о том, как их видит мой друг, и собственным представлением о них. Простая рекурсия была бы совершенно неадекватна в обращении с подобной сложной амальгамой символов. А ведь мы только начали углубляться в эту проблему! На сегодняшний день у нас просто не хватает слов, чтобы описать сложнейшие взаимодействия, возможные между символами. Так что придется нам остановиться, пока мы окончательно не увязли.

Надо заметить, однако, что компьютерные системы уже начинают сталкиваться с подобными трудностями, и поэтому некоторые из этих проблем получили свое название. Например, мой символ «гора» аналогичен тому, что на компьютерном жаргоне называется общим (или повторным) кодом – кодом, который может быть использован двумя или более программами, работающими одновременно на одном и том же компьютере. Тот факт, что активация одного и того же символа может иметь разные результаты в различных подсистемах, можно объяснить тем, что его код был обработан разными интерпретаторами. Таким образом, схема активации символа «гора» не абсолютна, но зависит от системы, в которой символ активируется.

Некоторые читатели могут усомниться в реальности подобных подсистем. Возможно, что следующая цитата из М. К. Эшера, где он описывает создание своих периодических, заполняющих пространство рисунков, пояснит, что за явление я имею в виду.

Рисуя, я иногда чувствую себя чем-то вроде спиритического медиума, контролируемого созданиями, которые он же вызывает к жизни. Рисуемые мною создания словно бы сами выбирают форму, в которой они появляются на свет. Они не обращают внимания на мои критические замечания, и я почти не могу влиять на их развитие. Обычно они бывают очень упрямыми и трудными созданиями.[38]38
  С. H. MacGillavry, «Symmetry Aspects of the Periodic Drawings of M.C. Escher», стр. VIII.


[Закрыть]

Это превосходный пример почти полной автономности некоторых подсистем мозга, как только они активированы. Эшеру казалось, что его подсистемы были почти способны на то, чтобы игнорировать его собственные эстетические критерии. Разумеется, его заявление надо принимать с долей скептицизма, поскольку эти могучие подсистемы возникли в результате многолетней тренировки и подчинения именно тем силам, которые сформировали его эстетические критерии. Короче, неверно было бы отделять подсистемы в мозгу Эшера от него самого или от его эстетических взглядов. Эти подсистемы составляют жизненно важную часть его эстетического чувства; местоимение «он» здесь относится ко всему существу артиста.

Символ «Я» и сознание

Важный побочный эффект подсистемы «Я» заключается в том, что она в определенном смысле может играть роль «души»: непрерывно сообщаясь с остальными подсистемами и символами мозга, она следит за тем, какие из них активированы и каким образом. Это означает, что в подсистеме «Я» должны существовать символы, обозначающие умственную деятельность – иными словами, символы для символов и символы для деятельности символов.

Разумеется, это не поднимает сознание или самосознание на какой-то «магический», сверхъестественный уровень. Сознание – это прямое следствие сложной аппаратуры и программного обеспечения мозга, которые мы только что описали. И все же, несмотря на свое прозаическое происхождение, способ описывать сознание как наблюдение над мозгом его же собственной подсистемы, по-видимому, довольно верно улавливает то трудноописуемое чувство, которое мы зовем «самосознанием». Ясно, что при системе такого уровня сложности могут легко возникнуть неожиданные побочные эффекты. Например, вполне возможно, что сложный компьютер может, подобно человеку, начать производить высказывания о себе самом. Он может заявить, что он обладает свободой воли, что его невозможно объяснить как «сумму частей» и так далее. (По этому поводу см. статью Мински «Материя, разум и модели» в его книге «Обработка семантической информации» (M.Minsky, «Matter, Mind and Models». Semantic Information Processing.).

Есть ли гарантия того, что нечто вроде только что описанной мною подсистемы «Я» действительно существует у нас в мозгу? Может ли такой сложный комплекс символов, как тот, что находится у нас в голове, развиться, не породив при этом символа самого себя? Каким образом подобные символы и их деятельность могли бы быть «изоморфны» с окружающим миром, если бы они не включали символа самого организма-носителя? Все стимулы, входящие в эту систему, сконцентрированы на крохотном участке пространства; было бы очень странным, если бы в структуре символов мозга отсутствовал бы символ самого физического объекта, содержащего этот мозг и играющего главную роль в событиях, которые он отражает. На самом деле, кажется, что единственный способ понять локализованный одушевленный предмет состоит в том, чтобы понять его роль по отношению к остальным окружающим его предметам. Для этого необходим символ «Я»; переход же от символа к подсистеме – изменение не качественное, а количественное, просто показывающее важность этого символа.

Наша первая встреча с Лукасом

Философ из Оксфорда Дж. Р. Лукас (не имеющий никакого отношения к описанным выше числам Лукаса) написал в 1961 году достойную внимания статью под названием «Разум, машины и Гёдель» (J.R. Lucas, «Minds, Machines, and Godel»). Высказанные там взгляды диаметрально противоположны моим, хотя для обоснования своей точки зрения Лукас часто использует те же самые факты. Следующая цитата имеет прямое отношение к предмету нашего анализа:

При первой простейшей попытке рассуждать философски, человек запутывается в таких вопросах, когда он что-то знает, то знает ли он, что он что-то знает? О чем именно он думает, когда думает о себе самом? Что именно порождает эти мысли? Промучившись с этими вопросами достаточно долго, человек понимает, что их лучше оставить в покое он интуитивно доходит до того, что сознательное существо отличается от существа бессознательного. Когда мы говорим, что сознательное существо что-то знает, мы подразумеваем, что оно знает о том, что оно это знает, и что оно знает о том, что оно знает о том, что оно это знает, и так далее, и тому подобное. Хотя здесь и присутствует бесконечность, но это не бесконечный регресс в плохом смысле, поскольку в этом случае постепенно становятся бессмысленными сами вопросы, а не ответы на них. Мы чувствуем, что вопросы бессмысленны, потому что само понятие «сознания» заключает в себе идею того, что на эти вопросы можно отвечать бесконечно. Хотя разумные существа могут продолжать таким образом до бесконечности, мы не желаем представить это в виде простой последовательности задач, которые мы способны выполнять: наш разум для нас – это не бесконечный ряд «Я», «супер-Я», и «супер-супер-Я». Вместо этого мы считаем, что разумное существо – это единство и, говоря о разных частях мозга, употребляем это выражение только в качестве метафоры и не позволяем себе понимать его буквально.

Парадоксы интеллекта возникают потому, что разумное существо может воспринимать самого себя, так же как другие вещи, но при этом оно не является делимым на части. Это означает, что разумное создание может обращаться с Гёделевыми вопросами так, как не может делать этого машина, поскольку разумное существо может осознавать себя и свои действия, будучи при этом неотделимым от этих действий. Можно создать такую машину, которая, в каком-то смысле, сможет «осознать» свои действия, но она не сможет учитывать этого осознания, не становясь при этом другой машиной, – а именно, прежней машиной, к которой добавлена «новая часть». С другой стороны, одним из основных свойств нашего разума является его способность размышлять о себе самом и критически воспринимать собственные действия – и для этого не требуется никакая дополнительная часть; наш мозг совершенен, и в нем нет никакой Ахиллесовой пяты.

Таким образом, эта тема становится скорее объектом концептуального анализа, чем математического открытия. Подтверждением этому служит аргумент, выдвинутый Тюрингом. До сих пор нам удавалось построить только очень простые и предсказуемые аппараты. Когда мы увеличим сложность наших машин, нас, возможно, будут ожидать сюрпризы. Он приводит в пример атомный реактор, пока не достигнута «критическая» масса, ничего не происходит; но как только перейден порог критической массы, начинается реакция. Возможно, что то же самое верно и в отношении разума и машин. Большинство мозгов и никакие машины в данный момент не достигли этого порога – они реагируют на внешние стимулы тяжеловесным и неинтересным образом, не рождают новых идей и производят только готовые ответы; однако некоторые мозги уже сейчас «достигли критической массы» и функционируют независимо – то же может быть верно и в отношении будущих машин. Тюринг утверждает, что это только вопрос сложности, и что когда перейден некий критический порог сложности, происходит качественный скачок; таким образом, сложные машины будущего могут оказаться совершенно непохожими на простые аппараты настоящего.

Возможно, что это верно. Сложность часто порождает качественную разницу. Хотя это кажется маловероятным, может случиться, что достигнув определенного уровня сложности, машина перестанет быть даже в принципе предсказуемой и начнет действовать самостоятельно – используя весьма показательное выражение, у нее может появиться собственный интеллект. У нее может появиться собственный интеллект. Этот собственный интеллект появится тогда, когда машина перестанет быть полностью предсказуемой и послушной и начнет делать вещи, которые мы воспринимаем как разумные, а не как ошибки или случайности, и которые не были никем запрограммированы. Тогда она перестанет быть машиной в обычном смысле этого слова. Главным вопросом спора о машинном интеллекте является не то, как возникает разум, а то. как он оперирует. Основным тезисом механистов является то, что модель интеллекта должна действовать согласно «механическим принципам»; это означает, что действие целого может быть понято, исходя из действия его частей, и что действие каждой отдельной части должно либо определяться ее начальным состоянием и конструкцией машины, либо быть случайным выбором между определенным числом определенных операций. Если машина становится такой сложной, что это определение перестает действовать, тогда мы уже не можем считать ее машиной, как бы она ни была построена. Тогда пришлось бы сказать, что мы создали разум, в том же смысле, как сейчас мы говорим о рождении нового человека. В таком случае, было бы два способа давать миру новый разум, традиционный способ – рождение детей от женщин и новый способ – конструкция сложнейших систем клапанов и переключателей. Говоря о втором способе мы должны подчеркнуть что хотя наши создания выглядели бы как машины, они, тем не менее, таковыми бы не являлись, поскольку они были бы большим, чем сумма их частей. Было бы невозможным предсказать их поведение на основе знания их конструкции и начального состояния их частей, мы не знали бы границ того на что они способны поскольку они отвечали бы верно даже на заданные им вопросы Геделева типа. На самом деле, нужно отметить что любая система, которую не сбить с толку Геделевым вопросом это ео ipso не машина Тюринга, то есть не машина в обычном смысле слова.[39]39
  J. R. Lucas, «Minds, Machines, and Godel». В сборнике A. R. Anderson, «Minds and Machines», стр. 57-9.


[Закрыть]

Когда я читаю этот отрывок, моя мысль пытается уследить за быстрой сменой тем, ссылок, ассоциаций, путаницы и заключений. Она перепрыгивает от парадокса Кэррола к Геделю а затем к Тюрингу, к искусственному интеллекту, к холизму и редукционизму – и все это на двух страничках. Поистине Лукас заставляет нас задуматься! В следующих главах мы вернемся ко многим темам, мимоходом затронутым в этом интересном отрывке.