Текст книги "Новый ум короля: О компьютерах, мышлении и законах физики"

Автор книги: Роджер Пенроуз

сообщить о нарушении

Текущая страница: 41 (всего у книги 47 страниц)

Более того, существует простая «основополагающая» причина для предположения о том, что сознание должно иметь какое-тоактивное влияние, даже если его результат не является преимуществом при естественном отборе. Ибо почему еще мы (или существа, нам подобные) можем иной раз мучиться при попытке ответить на вопрос – особенно, если изучается эта тема – «о самих себе». (Мне так и хочется сказать: «Почему вы читаете эту главу?» или «Почему у меня было сильное желание написать книгу именно на эту тему?») Трудно себе представить, чтобы полностью лишенный сознания автомат стал бы тратить время на подобные вещи. А поскольку обладающие сознанием существа, с другой стороны, время от времени поступают как раз такимвот смешным образом, то их поведение отличаетсяот поведения остальных – откуда следует, что сознание все-таки производит определенноеактивное воздействие! Разумеется, не составит труда специально запрограммировать компьютер так, чтобы он вел себя столь же нелепым образом (например, он мог бы в согласии с заложенным в него алгоритмом постоянно повторять на ходу: «О Господи, ну в чем же смысл жизни? Почему я здесь нахожусь? Что такое, черт побери, это „Я“, которым я себя ощущаю?)». Но почему же естественный отбор позаботился о создании благоприятных условий именно для такой расы индивидов, когда жестокий закон джунглей наверняка давно бы выдрал с корнем подобную бесполезную ерунду!

Мне кажется очевидным, что все эти размышления и бормотание, которым мы (временно становясь философами) предаемся, не могли быть самоценными для процесса естественного отбора, а являются просто необходимым с его (естественного отбора) точки зрения «багажом», который должны нести существа, обладающиеподлинным сознанием – при том, что само оно возникло в ходе естественного отбора по совершенно другой и, вероятно, очень серьезной причине. Этот багаж не слишком обременителен, и легко (хотя, быть может, и неохотно) переносится, скорее всего, именно непреклонными силами естественного отбора. В тех случаях, когда на земле царят мир и процветание, которыми человеческий род время от времени имеет счастье наслаждаться (ибо нам не всегда приходится бороться со стихиями (или нашими соседями) за выживание) – тогда, возможно, сокровища, содержащиеся в нашем багаже, становятся предметом удивления и любопытства. Именно в такие моменты, глядя на окружающих тебя философствующих людей, всерьез убеждаешься в том, что они, как и ты, тоже обладают умом.

Что в действительности делает сознание?

Давайте согласимся с тем, что наличие у данного существа сознания является его реальным преимуществом в ходе естественного отбора. В чем конкретно может заключаться это преимущество? Я знаком с одной точкой зрения, согласно которой способность осознавать происходящее может оказаться полезной хищнику в его попытке предугадать, что его жертва будет делать в следующий момент, с помощью мысленной «постановки себя на место» этой жертвы. Воображаясебя своей жертвой, он мог бы увеличить шансы удачного исхода охоты.

Вполне может быть, что эта идея отчасти верна, но кое-что в ней меня смущает. Во-первых, здесь предполагается наличие некоторого сознания у самой жертвы, так как вряд ли имело бы смысл представлять себя автоматом, поскольку автомат – по определению, не обладающий сознанием– ни в коем случае не есть то, чем можно«быть»! В любом случае, я мог бы с таким же успехом представить себе, что совершенно не обладающий сознанием автомат-хищник имеет внутри в качестве подпрограммы последовательность действий, которая в точности соответствовала бы действиям автомата-жертвы. Мне вообще не кажется, что необходимость вводить сознание в отношения типа «хищник – жертва» может быть логическиобоснована.

Разумеется, трудно понять, как случайные процессы естественного отбора могли быть достаточно умными, чтобы дать автомату-хищнику полную копию программы жертвы. Это бы выглядело скорее как шпионаж, а не как естественный отбор! А частичнаяпрограмма (в смысле отрезка «ленты» машины Тьюринга или чего-то подобного такой ленте) вряд ли была бы достаточно полезна хищнику с точки зрения естественного отбора. Ему был бы необходим какой-нибудь завершенный фрагмент этой ленты, а лучше (хотя и менее вероятно) – вся лента целиком. Следовательно (и как некая альтернатива этому), частичная правда могла бы заключаться в том, что модель поведения «хищник – жертва» подразумевает все же наличие не компьютерной программы, но определенного элемента сознания. Однако, это, по-моему, уже не относится к настоящемувопросу о различии между сознательным и «запрограммированным» действиями.

Суть идеи, о которой шла речь выше, по-видимому, напрямую связана с широко распространенной точкой зрения, согласно которой считается, что система может «осознавать» нечто, если в ней уже имеется модель этого объекта, и, соответственно, что она становится « самосознающей», когда она в самой себесодержит модель самой себя. Но если компьютерная программа содержит (скажем, в качестве подпрограммы) текст другой компьютерной программы, то первая при этом не может осознавать вторую, также как и не может приводить к самосознанию обращение программы к себе самой. Несмотря на подобные часто встречающиеся заявления, фундаментальные понятия самосознания и способности к осознанию в этих рассуждениях едва ли затрагиваются. Видеокамера не осознает сцены, которые она снимает; как не обладает самосознанием и видеокамера, направленная на зеркало (рис. 10.1).

Рис. 10.1.Видеокамера, направленная на зеркало, строит модель себя внутри самой себя. Становится ли она от этого самосознающей?

Я хочу пойти в другом направлении. Как мы уже знаем, не вся деятельность нашего мозга сопровождается работой сознания (в особенности, это относится к действиям, которые управляются мозжечком). А какая часть из того, что мы можем делать осознанно, не может быть сделана бессознательно? Проблема становится еще менее ясной из-за того, что все, для чего нам изначально требуется сознание, похоже, может быть со временем заучено и впоследствии выполняться уже автоматически (возможно, именно мозжечком). Кажется, что сознание требуется, чтобы справляться с ситуациями, где нам приходится высказывать новые суждения, и где правила не были заданы заранее. Трудно достичь большой точности при проведении различий между теми видами умственной деятельности, которые, по-видимому, требуют подключения сознания, и теми, которые нет. Сторонники « сильного» ИИ(да и многие другие) будут настаивать на том, что «формирование новых суждений» – это не более, чем повторное применение ряда точно сформулированных алгоритмических правил – только теперь на некоем полумистическом «высоком уровне», так, что их действия нами при этом не осознаются. Однако, как мне кажется, даже в нашем обиходном лексиконе есть такие термины – используемые нами в повседневной жизни для разделения умственной деятельности на осознанную и бессознательную – которые уже сами по себе могут по меньшей мере навести на мысльо различиях между действиями неалгоритмической и алгоритмической природы:

Сознание требуется: «здравый смысл», «суждение об истинности» «понимание», «художественная оценка»;

Сознание не требуется: «автоматизм», «бездумное следование правилам», «программа», «алгоритмичность».

Возможно, эти различия не всегда достаточно четко очерчены хотя бы потому, что в наши сознательные суждения входит немало неосознанныхфакторов: опыт, интуиция, предрассудки, даже наше привычное использование логики. Но я утверждаю, что сами по себе суждения – это проявления работы сознания. Поэтому я полагаю, что, тогда как бессознательные действия мозга происходят в соответствии с алгоритмическими процессами, действие сознания имеет совершенно иную природу, и потому не может быть описано никаким алгоритмом.

Есть некая ирония в том, что многое из того, что я излагаю здесь, является полной противоположностью по отношению к некоторым другим точкам зрения, которые мне приходится довольно часто слышать. Например, утверждают, что именно сознательный ум«рационален» и доступен пониманию; тогда как бессознательные действия нередко загадочны и труднообъяснимы. Те, кто работает с искусственным интеллектом, часто считают, что как только мы сможем понять ход осознанной мысли, то можно сразу же будет придумать соответствующий алгоритм для его компьютерной реализации; а вот таинственные бессознательные процессы нашему пониманию (пока!) не доступны. В моем представлении эти процессы вполне могут быть алгоритмическими, но при этом настолько сложными, что их детальный анализ практически невозможен. Четко осознаваемый ход мысли, который может быть разумно объяснен как нечто полностью логичное, в свою очередь может быть (зачастую) переведен на язык алгоритмов – но на совершенно ином уровне. Мы сейчас говорим не о внутренних процессах (возбуждении нейронов и т. п.), а о манипулировании законченными мыслями. Иногда оно носит алгоритмический характер (как в случае традиционной логики: древнегреческих силлогизмов, формализованных Аристотелем; или символьной логики, разработанной математиком Джорджем Булем; см. Гарднер [1958]); а иногда – неалгоритмический (как в случае с теоремой Геделя или некоторыми примерами, приведенными в главе 4). А как реализовать на компьютере формирование суждений, которое я рассматриваю как критерий наличия сознания, – об этомразработчики ИИне имеют даже ни малейшего представления!

Иногда мне возражают, что, поскольку критериидля этих суждений не являются в конце концов осознанными, то как я могу приписывать такие суждения сознанию? Однако, тем самым мои оппоненты упускают самую суть тех идей, которые я пытаюсь выразить. Ведь я не требую, чтобы мы осознавали, как мы формируем наши сознательные впечатления и суждения. Это привело бы к смешению тех уровней, о которых я только что упоминал. Истинные основаниянаших осознанных впечатлений наверняка будут недоступны сознанию. Они должны были бы рассматриваться на более глубоком (материальном) уровне по сравнению с первопричинами наших явных мыслей, которые мы непосредственно осознаем. (Ниже я осмелюсь предложить на рассмотрение одну интересную гипотезу на этот счет!) Собственно сознательные впечатления и являются(неалгоритмическими) суждениями.

Эта тема, затрагивающая вопрос о возможной неалгоритмическойсоставляющей механизма нашего осознанного мышления, проходила красной нитью и через все предыдущие главы. В частности, заключительная часть дискуссии в главе 4, особенно касающаяся теоремы Геделя, подводила к мысли о том, что (по крайней мере, в математике) сознательное «вглядывание» иной раз позволяет нам устанавливать справедливость утверждения способом, недоступным для алгоритма. (Подробнее я остановлюсь на этом доводе чуть позже.) Конечно же, сами по себе алгоритмы не способны находить истину! Построить алгоритм, генерирующий только ложные суждения, столь же просто, как и алгоритм, результатом работы которого были бы одни только истины. Для определения пригодности или непригодности того или иного алгоритма нам совершенно необходимо своего рода вдохновение, интуитивное прозрение, приходящее извне (далее я еще вернусь к этому вопросу). И я утверждаю, что именно эта способность провидения (или «интуитивного постижения») глубокого различия между истиной и ложью (равно как и между красотой и уродством!) является признаком наличия сознания.

Я, однако, должен сразу же оговориться, что ни в коем случае не имею здесь в виду какое-то мистическое «ясновидение». Сознание абсолютно бесполезно при попытке угадать счастливое число в (честно проводимой) лотерее! Я имею в виду суждения, которые постоянно формируются человеком в сознательном состоянии, когда собираются воедино и сопоставляются все относящиеся к предмету размышлений факты, данные чувственного опыта, воспоминания – а в иную минуту вдохновения даже рождаются мудрые мысли. В принципе, мы располагаем достаточным количеством информации для того, чтобы вынести соответствующее суждение – но процесс его осмысленного формирования путем выделения необходимой информации из трясины фактов может просто не иметь точного выражения на языке алгоритмов (или же подобное выражение существует, но может оказаться при этом бесполезным практически). Возможно, мы находимся в ситуации, что когда суждение уже сделано, некоторый алгоритмический процесс (или просто более простое суждение) проверяет его справедливость, но не его изначальное формирование. В такой ситуации, как мне кажется, сознание «нашло бы себя» в роли создателя подходящих суждений.

Почему я утверждаю, что неалгоритмическое построение суждений является критерием наличия сознания? Отчасти я опираюсь здесь на свой опыт ученого-математика. Я просто не доверяю своим механическим действиям, если они не были сперва придирчиво исследованы сознанием. Часто сам по себе алгоритм, использующийся при определенных вычислениях, не вызывает сомнения – но тот ли алгоритм используется для решения данной конкретной задачи? Рассмотрим простой пример: если вас заставят вызубрить алгоритмы перемножения двух чисел и деления одного числа на другое (или даже разрешат использовать запрограммированный карманный калькулятор) – гарантирует ли это, что вы сможете определить в каждом конкретном случае, какое из этих действий приведет к решению поставленной перед вами задачи? Для этого нужно думать и строить осознанное суждение. (Вскоре мы увидим, почему такие суждения должны быть, по крайней мере иногда, неалгоритмическими!) Разумеется, коль скоро вы решите большое количество однотипных задач, выбор между умножением и делением станет настолько привычным, что будет выполняться совершенно автоматически – не исключено, что при участии одного лишь мозжечка. На этой стадии осознанное восприятие происходящего не является больше необходимым, поэтому можно спокойно позволить своему сознанию занять ум иными проблемами или просто «отпустить его в свободное плавание» – разве что время от времени проверяя ход выполнения алгоритма.

То же самое постоянно происходит на всех уровнях математического мышления. Люди часто стремятся найти адекватные алгоритмы, когда занимаются математикой, но само это стремление отнюдь не кажется алгоритмической процедурой. Как только подходящий алгоритм найден, задача, в некотором смысле, уже решена. Более того, определение с точки зрения математики степени точности или пригодности алгоритма требует значительных усилий со стороны сознания. Нечто подобное имело место при обсуждении формальных систем для математики, которые были описаны в главе 4. Если начать с формулировки нескольких аксиом, то затем из них можно вывести различные математические утверждения. Не исключено, что последняя операция может оказаться алгоритмической, но все же изначально математик должен осознанно решить вопрос об адекватности этих аксиом. Почему это решение с необходимостью будет неалгоритмическим, должно стать ясным из рассуждений, идущих непосредственно после следующего параграфа. Но прежде, чем мы перейдем к этому вопросу, давайте посмотрим, какая теория возникновения мозга и принципов его деятельности является на сегодняшний день наиболее популярной.

Естественный отбор алгоритмов?

Если предположить, что умственная деятельность человека – как осознанная, так и нет – это всего лишь выполнение очень сложного алгоритма, то сразу же возникает вопрос: а как, собственно, мог возникнуть такой в высшей степени эффективный алгоритм. Стандартным ответом здесь, разумеется, будет «естественный отбор». Как только стали появляться существа, наделенные мозгом, между ними возникла конкуренция, в которой побеждали (т. е. выживали и производили более многочисленное потомство) те, чей алгоритм оказывался эффективнее. Их потомки тоже имели, как правило, более эффективные алгоритмы поведения, чем их родственники, коль скоро им посчастливилось унаследовать составляющие этих «продвинутых» алгоритмов от своих родителей; так постепенно алгоритмы улучшались – не обязательно стабильно, поскольку могли случаться и значительные колебания в их эволюции – пока не было достигнуто то поразительное совершенство, которое (по всей видимости) можно обнаружить в мозге современного человека (см. Доукинс [1986]).

Даже если судить сообразно моей точке зрения, некоторая доля истины в этой картине должна быть, поскольку, как мне представляется, большая часть работы мозга действительно носит алгоритмический характер, и к тому же – как читатель наверняка догадался из предыдущих рассуждений – я являюсь убежденным сторонником (теории) естественного отбора. Но я не понимаю, как естественный отбор сам по себе мог дать рождение алгоритмам, которые позволяли бы делать осознанные выводы касательно правомерностиприменения всех прочих алгоритмов, которыми мы должны, по идее, пользоваться.

Представьте себе обычную компьютерную программу. Как она появилась на свет? Ясно, что никак не за счет (непосредственно) естественного отбора! Чтобы это произошло, какой-нибудь программист должен был бы разработать ее и убедиться, что она корректно выполняет те действия, для которых она предназначена. (В действительности большинство сложных компьютерных программ содержат ошибки – как правило, незначительные и малозаметные, которые выявляются только в достаточно редких случаях при необычных стечениях обстоятельств. Наличие таких ошибок не влияет существенно на мои рассуждения.) Иногда компьютерная программа может быть «написана» другой компьютерной программой-«мастером», но тогда та, в свою очередь, с необходимостью должна быть создана человеческим гением; то же самое относится и к тем программам, в состав которых могут входить фрагменты кодов, написанных другими компьютерными программами. Но в любом случае, задача обоснования использования конкретного алгоритма и разработка общей концепции программы «ложится на плечи» (по крайней мере) одного человеческого сознания.

Можно представить себе, конечно, что все могло бы происходить совсем не так, и что по прошествии достаточного количества времени компьютерная программа могла бы самостоятельно эволюционировать в процессе некоего естественного отбора. Если верить, что действия, производимые в сознании программистов, сами являются всего лишь алгоритмами, то надо с необходимостью согласиться с тем, что таким же образом развилисьи алгоритмы. Но меня здесь беспокоит то, что принятие решения о правомерности использования алгоритма отнюдь не является алгоритмическим процессом. Кое-что об этом уже было сказано в главе 2. (Будет или нет машина Тьюринга на самом деле останавливаться– вопрос, который не может быть решен алгоритмическим путем.) Чтобы решить, будет ли алгоритм действительно работать, нужно глубокое понимание, а не просто еще один алгоритм.

Тем не менее, можно было бы представить себе, что существует определенный процесс естественного отбора, который способен создавать довольноэффективные алгоритмы. Лично мне, однако, очень трудно в это поверить. Любой процесс отбора такого рода мог бы оказывать воздействие только результатывыполнения алгоритмов [214]214
  Здесь можно упомянуть еще один непростой вопрос относительно того, могут ли два алгоритма рассматриваться как эквивалентные друг другу, если результатыих действий – но не сами вычисления! – являются тождественными. См. главу 2, «Универсальная машина Тьюринга».


[Закрыть], а не на лежащие в основе этих алгоритмов идеи. И это не только совершенно неэффективно – я думаю, что это не принесло бы вообще никакого результата. Во-первых, нелегко определить, глядя на итог работы алгоритма, что он из себя на самом деле представляет. (Нетрудно сконструировать две простые, но совершенно различные процедуры для машины Тьюринга, выходные ленты которых совпадали бы, скажем, до 2 ⁶⁵⁵³⁶ -й позиции – и тогда их различие не было бы замечено даже за всю историю вселенной!) Более того, малейшая «мутация» алгоритма (например, небольшое изменение в описании машины Тьюринга или в ее выходной ленте) сделала бы ее полностью бесполезной; поэтому трудно понять, как настоящие усовершенствованияалгоритмов могут получаться таким вот случайным образом. (Даже обдуманныеусовершенствования труднореализуемы, когда неизвестен их точный «смысл». Так традиционно получается в тех нередко возникающих ситуациях, когда необходимо внести изменения или исправления в сложную и небрежно задокументированную программу, чей автор находится вне пределов досягаемости или давно умер. Тогда вместо того, чтобы пытаться разобраться в хитросплетениях разнообразных промежуточных значений и неявных подзадач, на которых базируется эта программа, иной раз бывает проще стереть все и начать заново!)

Предположим, что мог бы быть разработан гораздо более «здоровый» метод определения алгоритмов, в отношении которого вышеприведенная критика становилась бы беспочвенной. В некоторым роде, это как раз то, о чем я и говорю. «Здоровые» определения – это идеи , на которых базируется алгоритм. Но идеям, насколько нам известно, для своего выражения требуется разум, наделенный сознанием. А значит, мы вновь возвращаемся к проблеме определения сознания и тех его свойств, которые отличают обладающих сознанием существ от остального мира – и к вопросу о том, как, черт побери, естественный отбор мог оказаться достаточно «умным», чтобы развивать такие замечательныесвойства.

Результаты естественного отбора и в самом деле удивительны. Те скромные познания о функционировании человеческого мозга – и, разумеется, мозга любых других существ – которыми я обладаю, просто ошеломляют меня, заставляя испытывать благоговейный трепет. Работа отдельного нейрона поразительна, но все вместе нейроны представляют еще более впечатляющую структуру, с самого момента рождения насчитывающую огромное множество соединений и связей, которые в дальнейшем позволят ей решать практически любые задачи. Замечательно не только само сознание, но и все то, что связано с обеспечением его деятельности!

Если бы однажды нам довелось обнаружить то свойство, которое позволяет физическому объекту обретать сознание, то, изучив его во всех деталях, мы, вероятно, могли бы сконструировать подобные объекты для собственных нужд – хотя они не обязательно расценивались бы как «машины», в современном понимании этого слова. Нетрудно предположить, что такие объекты могли бы многократно нас превосходить, ибо они были разработаны специальнодля этой задачи – т. е. для обретения сознания. Им бы не пришлось вырастать из одной клетки. Им бы не пришлось нести на себе «багаж» предков (старые и «бесполезные» части мозга или тела, которые продолжают существовать в нас только благодаря «несчастьям», приключившимся с нашими далекими предками). Можно также представить себе, что благодаря этим преимуществам, такие объекты могли бы по-настоящемузаменять собой людей там, где (по мнению тех, кто согласен со мной) алгоритмические компьютеры обречены на выполнение обслуживающих функций.

Но вполне возможно, что тема сознания имеет гораздо больше аспектов. Может быть и так, что каким-то образом наше сознание действительно зависит от нашего наследия и от миллионов лет эволюции, лежащих у нас за спиной. Меня не покидает ощущение, что в самой эволюции, в ее явном «нащупывании» пути к какой-то будущей цели есть что-то загадочное и непостижимое. Кажется, что все организовано несколько лучше, чем оно «должно было быть» на основе слепой эволюции и естественного отбора. Вполне возможно, однако, что внешние проявления здесь обманчивы. Возможно, это как-то связано с тем способом, каким действуют физические законы, что позволяет естественному отбору протекать гораздо эффективнее, чем в случае, если бы этот процесс управлялся произвольными законами. Возникающее в результате явно «интеллектуальное нащупывание» – это отдельная интересная тема, к которой я вернусь несколько позже.