Текст книги "Тени разума. В поисках науки о сознании"

Автор книги: Роджер Пенроуз

сообщить о нарушении

Текущая страница: 21 (всего у книги 49 страниц)

3.17. Робот ошибается и робот «имеет в виду»?

Важнейший вопрос из тех, с какими нам предстоит разобраться на данном этапе, звучит так: готов ли робот безоговорочно согласиться с тем, что – при условии его построения в соответствии с некоторым набором механизмов  M– формальная система Q( M) корректным образом включает в себя всю систему его математических убеждений в отношении Π ₁-высказываний (равно как и с соответствующим предположением для системы Q _M ( M))? Такое согласие подразумевает, прежде всего, что робот верит в обоснованностьсистемы Q( M), – т.е. в то, что все Π ₁-высказывания, являющиеся ☆-утверждениями, действительно истинны. Наши рассуждения требуют также, чтобы всякоеΠ ₁-высказывание, в истинность которого робот в состоянии безоговорочно поверить, являлось непременно теоремой системы Q( M) (т.е. чтобы в рамках системы Q( M) робот мог бы определить «машину для доказательства теорем», аналогичную той, возможность создания которой в случае математиков-людей допускал Гёдель, см. §§3.1, 3.3). Вообще говоря, существенно нето, чтобы система Q( M) действительно играла такую универсальную роль в отношении потенциальных способностей робота, связанных с Π ₁-высказываниями, а лишь то, чтобы она была достаточно обширна для того, чтобы допускать применение гёделевского доказательства к самой себе (и, соответственно, к системе Q _M ( M)). Позднее мы увидим, что необходимость в таком применении возникает лишь в случае некоторых конечных систем Π ₁-высказываний.

Таким образом, мы – как, собственно, и робот – должны учитывать возможность того, что некоторые из ☆-утверждений робота окажутся в действительности ошибочными, и то, что робот может самостоятельно обнаружить и исправить эти ошибки согласно собственным внутренним критериям, сути дела не меняет. А суть дела заключается в том, что поведение робота в этом случае становится как нельзя более похоже на поведение математика-человека. Человеку ничего не стоит оказаться в ситуации, когда он (или она) полагает, что истинность (или ложность) того или иного Π ₁-высказывания неопровержимо установлена, в то время как в его рассуждениях имеется ошибка, которую он обнаружит лишь значительно позднее. Когда ошибка наконец обнаруживается, математик ясно видит, что его ранние рассуждения неверны, причем в соответствии с теми же самыми критериями, какими он руководствовался и ранее; разница лишь в том, что ранее ошибка замечена не была, – и вот Π ₁-высказывание, полагаемое неопровержимо истинным тогда, воспринимается сейчас как абсолютно ложное (и наоборот).

Мы вполне можем ожидать подобного поведения и от робота, т.е. на его ☆-утверждения, вообще говоря, полагаться нельзя, пусть даже он и удостоил их самолично статуса ☆. Впоследствии робот может исправить свою ошибку, однако ошибка-то уже сделана. Каким образом это обстоятельство отразится на нашем выводе относительно обоснованности формальной системы Q( M)? Очевидно, что система Q( M) не являетсяцеликом и полностью обоснованной, не «воспринимает» ее как таковую и робот, так что его гёделевскому предположению G( Q( M)) доверять нельзя. К этому, в сущности, и сводится суть оговорки (b).

Попробуем выяснить, может ли наш робот, приходя к тому или иному «неопровержимому» заключению, что-либо иметь в виду, и если да, то что именно. Уместно сопоставить эту ситуацию с той, что мы рассматривали в случае математика-человека. Тогда нас не занимало, что конкретно случилось обнаружить какому-либо реальномуматематику, нас занимало лишь то, что может быть принято за неопровержимую истину в принципе. Вспомним также знаменитую фразу Фейнмана: «Не слушайте, что я говорю; слушайте, что я имею в виду!». Похоже, нам нет необходимости исследовать то, что робот говорит, исследовать нужно то, что он имеет в виду. Не совсем, впрочем, ясно (особенно если исследователь имеет несчастье являться приверженцем скорее точки зрения B, нежели A), как следует интерпретировать саму идею того, что робот способен что бы то ни было иметь в виду. Если бы было возможно опираться не на то, что робот ☆-утверждает, а на то, что он в действительности «имеет в виду», либо на то, что он в принципе «должен иметь в виду», то тогда проблему возможной неточности его ☆-утверждений можно было бы обойти. Беда, однако, в том, что в нашем распоряжении, по всей видимости, нет никаких средств, позволяющих снаружи получить доступ к информации о том, что робот «имеет в виду» или о том, что, «как ему кажется, он имеет в виду». До тех пор, пока речь идет о формальной системе Q( M), нам, судя по всему, придется полагаться лишь на доступные ☆-утверждения, в достоверности которых мы не можем быть полностью уверены.

Не здесь ли проходит возможная операционная граница между точками зрения  Aи B? Не исключено, что так оно и есть; хотя позиции  Aи  Bэквивалентны в отношении принципиальной возможности внешних проявлений сознательной деятельности в поведении физической системы, люди, этих позиций придерживающиеся, могут разойтись в своих ожиданияхкак раз в вопросе о том, какую именно вычислительную систему можно рассматривать как способную осуществить эффективное моделирование мозговой активности человека, находящегося в процессе осознания справедливости того или иного математического положения (см. конец §3.12). Как бы то ни было, возможные расхождения в такого рода ожиданиях не имеют к нашему исследованию сколько-нибудь существенного отношения.

3.18. Введение случайности: ансамбли всех возможных роботов

В отсутствие прямого операционного метода разрешения этих семантических проблем нам придется полагаться на конкретные ☆-утверждения, которые наш робот будет делать, побуждаемый механизмами, управляющими его поведением. Нам придется смириться с тем, что некоторые из этих утверждений могут оказаться ошибочными, однако такие ошибки исправимы и, в общем случае, чрезвычайно редки. Разумно будет предположить, что всякий раз, когда робот допускает ошибку в одном из своих ☆-утверждений, ошибку эту можно приписать (по меньшей мере частично) каким-то случайным факторам, присутствующим в окружении или во внутренних процедурах робота. Если вообразить себе второго робота, функционирующего в соответствии с механизмами того же типа, что управляют поведением первого робота, однако при участии иных случайных факторов, то этот второй робот вряд ли совершит те же ошибки, что и первый, – но вполне может совершить другие. Упомянутые факторы могут привноситься теми самыми подлинно случайными элементами, которые определяются либо как часть информации, поступающей на вход робота из внешнего окружения, либо как компоненты внутренних процедур робота. Как вариант, они могут представлять собой псевдослучайные результаты неких детерминистских, но хаотических вычислений, как внешних, так и внутренних.

В рамках настоящего рассуждения я буду полагать, что ни один из подобных псевдослучайных элементов не играет в происходящем иной роли, чем та, которую могут выполнить (по меньшей мере с тем же успехом) элементы подлинно случайные. Вполне естественная, на мой взгляд, позиция. Впрочем, не исключается и возможность обнаружения в поведении хаотических систем (отнюдь не сводящемся только лишь к моделированию случайности) чего-то такого, что может послужить приближением какой-либо интересующей нас разновидности невычислительного поведения. Я не припомню, чтобы такая возможность где-либо всерьез обсуждалась, хотя есть люди, которые твердо убеждены в том, что хаотическое поведение представляет собой фундаментальный аспект деятельности мозга. Лично для меня подобные аргументы останутся неубедительными до тех пор, пока мне не продемонстрируют какое-нибудь существенно неслучайное (т.е. непсевдослучайное) поведение такой хаотической системы – поведение, которое может в сколько-нибудь сильном смысле являться приближением поведения подлинно невычислительного. Ни один намек на подобного рода демонстрацию моих ушей пока не достиг. Более того, как мы подчеркнем несколько позднее ( §3.22), в любом случае маловероятно, что хаотическое поведение сможет проигнорировать те сложности, которые представляет для вычислительной модели разума гёделевское доказательство.

Допустим пока, что любые псевдослучайные (или иным образом хаотические) элементы в поведении нашего робота или в его окружении можно заменить элементами подлинно случайными, причем без какой бы то ни было потери эффективности. Для выяснения роли подлинной случайности нам необходимо составить ансамбльиз всех возможных альтернативных вариантов. Поскольку мы предполагаем, что наш робот имеет цифровое управление, и, соответственно, его окружение также можно реализовать в каком-либо цифровом виде (вспомним о «внутренних» и «внешних» участках ленты нашей описанной выше машины Тьюринга; см. также §1.8), то количество подобных возможных альтернатив непременно будет конечным. Это число может быть оченьбольшим, и все же полное описание всех упомянутых альтернатив представляет собой задачу чисто вычислительного характера. Таким образом, и сам полный ансамбль всех возможных роботов, каждый из которых действует в соответствии с заложенными нами механизмами, составляет всего-навсего вычислительную систему – пусть даже такую, какую нам вряд ли удастся реализовать на практике, используя те компьютеры, которыми мы располагаем в настоящее время или можем вообразить в обозримом будущем. Тем не менее, несмотря на малую вероятность практического осуществления совокупного моделирования всех возможных роботов, функционирующих в соответствии с набором механизмов M, само вычисление «непознаваемым» считаться не может; иначе говоря, мы способны понять (теоретически), как построить такой компьютер – или машину Тьюринга, – который с подобным моделированием справится, пусть даже оно пока и не осуществимо практически. В этом состоит ключевой момент нашего рассуждения. Познаваемым механизмом или познаваемым вычислением является тот механизм или то вычисление, которое человек способен описать; совсем не обязательно действительно выполнять это вычисление ни самому человеку, ни даже компьютеру, который человек в состоянии в данных обстоятельствах построить. Ранее (в комментарии к Q8) мы уже высказывали весьма похожее соображение; и то, и другое вполне согласуются с терминологией, введенной в начале §3.5.

3.19. Исключение ошибочных ☆-утверждений

Вернемся к вопросу об ошибочных (но допускающих исправление) ☆-утверждениях, которые может время от времени выдавать наш робот. Предположим, что робот такую ошибку все-таки совершил. Если мы можем допустить, что какой-либо другой робот, или тот же робот несколько позднее, или другой экземпляртого же робота такую же ошибку вряд ли совершит, то мы в принципесможем установить факт ошибочности данного ☆-утверждения, проанализировав действия ансамбля из всех возможных роботов. Представим себе, что моделирование поведения всей совокупности возможных роботов осуществляется в нашем случае таким образом, что различные этапы развития различных экземпляров нашего робота мы рассматриваем как одновременные. (Это делается лишь для удобства рассмотрения и никоим образом не подразумевает, что для такого моделирования непременно требуется параллельное выполнение действий. Как мы уже видели, принципиальных различий, помимо эффективности, между параллельным и последовательным выполнением вычислений нет; см. §1.5). Такой подход должен, в принципе, дать нам возможность уже на стадии рассмотрения результата моделирования выделить из общей массы корректных ☆-утверждений редкие (относительно) ошибочные ☆-утверждения, воспользовавшись тем обстоятельством, что ошибочные утверждения «исправимы» и будут посему однозначно идентифицироваться как ошибочные подавляющим большинством участвующих в модели экземпляров нашего робота, – по крайней мере, с накоплением с течением времени (модельного) различными экземплярами робота достаточного параллельного «опыта». Я вовсе не требую, чтобы подобная процедура была осуществима на практике; достаточно, чтобы она была вычислительной, а лежащие в основе всего этого вычисления правила  M– в принципе «познаваемыми».

Для того чтобы приблизить нашу модель к виду, приличествующему человеческому математическому сообществу, а также лишний раз удостовериться в отсутствии ошибок в ☆-утверждениях, рассмотрим ситуацию, в которой все окружение нашего робота разделяется на две части: сообществодругих роботов и остальное, лишенное роботов (а также и людей), окружение; в дополнение к остальному окружению, в модель следует ввести некоторое количество учителей, по крайней мере, на ранних этапах развития роботов, и хотя бы для того, чтобы все роботы одинаково понимали строгий смысл присвоения тому или иному утверждению статуса ☆. В моделируемый нами ансамбль войдут на правах различных экземпляров все возможные различные варианты поведения всехроботов, а также все возможные (релевантные) варианты остального окружения и предоставляемых человеком сведений, варьирующиеся в зависимости от конкретного выбора задействованных в модели случайных параметров. Как и ранее, правила, по которым будет функционировать наша модель (и которые я опять обозначу буквой M), можно полагать в полной мере познаваемыми, невзирая на необычайную сложность всех сопутствующих расчетов, необходимых для ее практической реализации.

Предположим, что мы берем на заметку все (в принципе) Π ₁-высказывания, ☆-утверждаемые (а также все высказывания с ☆-утвержденными отрицаниями) любым из всевозможных экземпляров наших (вычислительно моделируемых) роботов. Объединим все подобные ☆-утверждения в отдельную группу и назовем их безошибочными. Далее, мы можем потребовать, чтобы любое ☆-утверждение относительно того или иного Π ₁-высказывания игнорировалось, если в течение некоторого промежутка времени  T(в прошлом или в будущем) количество  rразличных экземпляров этого ☆-утверждения в ансамбле из всех одновременно действующих роботов не удовлетворит неравенству  r> L+ Ns, где Lи Nсуть некоторые достаточно большие числа, а  s– количество ☆-утверждений, производимых в течение того же промежутка времени и занимающих относительно рассматриваемого Π ₁-высказывания противоположную позицию либо просто утверждающих, что рассуждения, на которые опирается исходное ☆-утверждение, ошибочны. При желании мы можем настаивать на том, чтобы промежуток времени  T(это время не обязательно должно совпадать с «реальным» моделируемым временем и может измеряться в некоторых единицах вычислительной активности), равно как и числа Lи N. увеличивался по мере увеличения «сложности» ☆-утверждаемого Π ₁-высказывания.

Понятию «сложности» применительно к Π ₁-высказываниям можно придать точный характер на основании спецификаций машины Тьюринга, как мы это уже делали в §2.6(в конце комментария к возражению Q8). Для большей конкретности мы можем воспользоваться явными формулировками, представленными в НРК (глава 2), как вкратце показано в приложении А(а это уже здесь). Итак, степенью сложностиΠ ₁-высказывания, утверждающего незавершаемость вычисления T _m( n) машины Тьюринга, мы будем полагать число  ρзнаков в двоичном представлении большего из пары чисел  mи n.

Причина введения в данное рассуждение числа L– вместо того чтобы удовлетвориться какой-нибудь огромной величиной в лице одного лишь коэффициента N, – заключается в необходимости учета следующей возможности. Предположим, что внутри нашего ансамбля, благодаря редчайшей случайности, появляется «безумный» робот, который формулирует какое-нибудь абсолютно нелепое ☆-утверждение, ничего не сообщая о нем остальным роботам, причем нелепость этого утверждения настолько велика, что ни одному из роботов никогда не придет в «голову» – хотя бы просто на всякий случай – сформулировать его опровержение. В отсутствие числа Lтакое ☆-утверждение автоматически попадет, в соответствии с нашими критериями, в группу «безошибочных». Введение же достаточно большого Lтакую ситуацию предотвратит – при условии, разумеется, что подобное «безумие» возникает среди роботов не часто. (Вполне возможно, что я упустил из виду еще что-нибудь, и необходимо будет позаботиться о каких-то дополнительных мерах предосторожности. Представляется разумным, однако, по крайней мере на данный момент, ограничиться критериями, предложенными выше.)

Учитывая, что все ☆-утверждения, согласно исходному допущению, следует полагать «неопровержимыми» заявлениями нашего робота (основанными на, по всей видимости, присущих роботу четких логических принципах и посему не содержащими ничего такого, в чем робот испытывает хотя бы малейшее сомнение), то вполне разумным представляется предположение, что вышеописанным образом действительно можно устранить редкие промахи в рассуждениях робота, причем функции T( ρ), L( ρ) и N( ρ) вряд ли окажутся чем-то из ряда вон выходящим. Предположив, что все так и есть, мы опять получаем не что иное, как вычислительнуюсистему – систему познаваемую(в том смысле, что познаваемыми являются лежащие в основе системы правила) при условии познаваемости исходного набора механизмов M, определяющего поведение нашего робота. Эта вычислительная система дает нам новую формальную систему Q'( M) (также познаваемую), теоремами которой являются те самые безошибочные☆-утверждения (либо утверждения, выводимые из них посредством простых логических операций исчисления предикатов).

Вообще говоря, для нас с вами важно не столько то, что эти утверждения действительнобезошибочны, сколько то, что в их безошибочности убежденысами роботы (для приверженцев точки зрения  Bособо оговоримся, что концепцию роботовой «убежденности» следует понимать в чисто операционном смысле моделированияроботом этой самой убежденности, см. §§3.12, 3.17).

Если точнее, то нам требуется, чтобы робот был готов поверить в то, что упомянутые ☆-утверждения действительно безошибочны, исходя из допущения, что именно набором механизмов  Mи определяется его поведение (гипотеза  Mиз §3.16). До сих пор, в данном разделе, мы занимались исключительно устранением ошибок в ☆-утверждениях робота. Однако, на самом деле, ввиду представленного в §3.16фундаментального противоречия, нас интересует устранение ошибок в его ☆ _M -утверждениях, т.е. в тех Π ₁-высказываниях, что по неопровержимой убежденности робота следуют из гипотезы M. Поскольку принятие роботами формальной системы Q'( M) в любом случае обусловлено гипотезой M, мы вполне можем предложить им для обдумывания и более обширную формальную систему Q' _M ( M), определяемую аналогично формальной системе Q _M ( M) из §3.16. Под Q' _M ( M) в данном случае понимается формальная система, построенная из ☆ _M -утверждений, «безошибочность» которых установлена в соответствии с вышеописанными критериями T, Lи  N. B частности, утверждение «утверждение G( Q' _M ( M)) истинно» считается здесь безошибочным ☆ _M -утверждением. Те же рассуждения, что и в §3.16, приводят нас к выводу, что роботы не смогут принять допущение, что они построены в соответствии с набором механизмов  M(вкупе с проверочными критериями T, Lи N), независимо от того, какие именно вычислительные правила  Mмы им предложим.

Достаточно ли этих соображений для того, чтобы окончательно удостовериться в наличии противоречия? У читателя, возможно, осталось некое тревожное ощущение – кто знает, вдруг сквозь тщательно расставленные сети, невзирая на все наши старания, проскользнули какие-нибудь ошибочные ☆ _M – или ☆-утверждения? В конце концов, приведенные выше рассуждения будут иметь смысл лишь в том случае, если нам удастся исключить абсолютно всеошибочные ☆ _M -утверждения (или ☆-утверждения) в отношении Π ₁-высказываний. Окончательно и бесповоротно удостоверитьсяв истинности утверждения G( Q' _M ( M)) нам (и роботам) поможет обоснованностьформальной системы Q' _M ( M) (обусловленная гипотезой M). Эта самая обоснованность подразумевает, что система Q' _M ( M) ни в коем случаене может содержать таких ☆ _M -утверждений, которые являются – или всего лишь предполагаются – ошибочными. Невзирая на все предпринятые меры предосторожности, полной уверенности у нас (да и у роботов, полагаю) все-таки нет – хотя бы по той простой причине, что количество возможных утверждений подобного рода бесконечно.

3.20. Возможность ограничиться конечным числом ☆ _M -утверждений

Есть, впрочем, возможность именно эту конкретную проблему разрешить и сузить область рассмотрения до  конечногомножества различных ☆ _M -утверждений. Само доказательство несколько громоздко, однако основная идея заключается в том, что следует рассматривать только те Π ₁-высказывания, спецификации которых являются «краткими» в некотором вполне определенном смысле. Конкретная степень необходимой «краткости» зависит от того, насколько сложное описание системы механизмов  Mнам необходимо. Чем сложнее описание M, тем «длиннее» допускаемые к рассмотрению Π ₁-высказывания. «Максимальная длина» задается неким числом c, которое можно определить из степени сложности правил, определяющих формальную систему Q' _M ( M). Смысл в том, что при переходе к гёделевскому предположению для этой формальной системы – которую нам, вообще говоря, придется слегка модифицировать – мы получим утверждение, сложность которого будет лишь немногим выше, нежели сложность такой модифицированной системы. Таким образом, проявив должную осторожность при выборе числа c, мы можем добиться того, что и гёделевское предположение будет также «кратким». Это позволит нам получить требуемое противоречие, не выходя за пределы конечного множества «кратких» Π ₁-высказываний.

Подробнее о том, как это осуществить на практике, мы поговорим в оставшейся части настоящего раздела. Тем из читателей, кого такие подробности не занимают (уверен, таких наберется немало), я рекомендую просто-напросто пропустить весь этот материал.

Нам понадобится несколько модифицировать формальную систему Q' _M ( M), приведя ее к виду Q' _M ( M, c) – для краткости я буду обозначать ее просто как Q( c) (отброшенные обозначения в данной ситуации несущественны и лишь добавляют путаницы и громоздкости). Формальная система Q( c) определяется следующим образом: при построении этой системы допускается принимать в качестве «безошибочных» только те ☆ _M -утверждения, степень сложности которых (задаваемая описанным выше числом ρ) меньше c, где  cесть некоторое должным образом выбранное число, подробнее о котором я расскажу чуть ниже. Для «безошибочных» ☆ _M -утверждений, удовлетворяющих неравенству ρ< c, я буду использовать обозначение «√краткие ☆ _M -утверждения». Как и прежде, множество действительных  теоремформальной системы Q( c) будет включать в себя не только √краткие ☆ _M -утверждения, но также и утверждения, получаемые из √кратких ☆ _M -утверждений посредством стандартных логических операций (позаимствованных, скажем, из исчисления предикатов). Хотя количество теорем системы Q( c) бесконечно, все они выводятся с помощью обыкновенных логических операций из конечногомножества √кратких ☆ _M -утверждений. Далее, поскольку мы ограничиваем рассмотрение конечным множеством, мы вполне можем допустить, что функции T, L и N постоянны(и принимают, скажем, наибольшие значения на конечном интервале ρ). Таким образом, формальная система Q( c) задается лишь четырьмя постоянными c, T, L, Nи общей системой механизмов M, определяющих поведение робота.

Отметим существенный для наших рассуждений момент: гёделевская процедура строго фиксированаи не нуждается в увеличении сложности выше некоторого определенного предела. Гёделевским предположением G( H) для формальной системы  Hявляется Π ₁-высказывание, степень сложности которого должна лишь на сравнительно малую величину превышать степень сложности самой системы H, причем эту величину можно определить точно.

Конкретности ради я позволю себе некоторое нарушение системы обозначений и буду вкладывать в запись « G( H)» некий особый смысл, который может и не совпасть в точности с определением, данным в §2.8. В формальной системе  Hнас интересует лишь ее способность доказывать Π ₁-высказывания. В силу этой своей способности система  Hдает нам алгебраическую процедуру A, с помощью которой мы можем в точности установить (на основании завершения выполнения A) справедливость тех Π ₁-высказываний, формулировка которых допускается правилами системы H. А под Π ₁-высказыванием понимается утверждение вида «действие машины Тьюринга T _p( q) не завершается» – здесь и далее мы будем пользоваться специальным способом маркировки машин Тьюринга, описанным в Приложении А(или в НРК, глава 2). Мы полагаем, что процедура  Aвыполняется над парой чисел ( p, q), как в §2.5. Таким образом, собственно вычисление А( p, q) завершается в том и тольков том случае, если в рамках формальной системы  Hвозможно установить справедливость того самого Π ₁-высказывания, которое утверждает, что «действие T _p( q) незавершается». С помощью описанной в §2.5процедуры мы получили некое конкретное вычисление (обозначенное там как « C _k( k)»), а вместе с ним, при условии обоснованности системы H, и истинное Π ₁-высказывание, которое системе  Hоказывается «не по зубам». Именноэто Π ₁-высказывание я буду теперь обозначать через G( H). Оно существенно эквивалентно (при условии достаточной обширности H) действительному утверждению «система  Hнепротиворечива», хотя в некоторых деталях эти два утверждения могут и не совпадать (см. §2.8).

Пусть  αесть степень сложностипроцедуры  A(по определению, данному в §2.6, в конце комментария к возражению Q8) – иными словами, количество знаков в двоичном представлении числа α, где  A= T _α. Тогда, согласно построению, представленному в явном виде в Приложении А, находим, что степень сложности  ηутверждения G( H) удовлетворяет неравенству η< α+ 210 Iog ₂( α+ 336). Для нужд настоящего рассуждения мы можем определить степень сложности формальной системы  Hкак равную степени сложности процедуры A, т.е. числу α. Приняв такое определение, мы видим, что «излишек» сложности, связанный с переходом от  Hк G( H), оказывается еще меньше, чем и без того относительно крохотная величина 210 Iog ₂( α+ 336).

Далее нам предстоит показать, что если  H= Q( c) при достаточно большом c, то η< c. Отсюда, соответственно, последует, что и Π ₁-высказывание G(Q(c)) должно оказаться в пределах досягаемости системы Q (с) при условии, что роботы принимают G( Q( c)) с ☆-убежденностью. Доказав, что  c>  γ+ 210 log ₂( γ+ 336), мы докажем и то, что γ< c; буквой γмы обозначили значение αпри  H= Q( c). Единственная возможная сложность здесь обусловлена тем обстоятельством, что сама величина γзависит от c, хотя и не обязательно очень сильно. Эта зависимость γот  cимеет две различных причины. Во-первых, число  cявляет собой явный предел степени сложности тех Π ₁-высказываний, которые в определении формальной системы Q( c) называются «безошибочными ☆ _M -утверждениями»; вторая же причина происходит из того факта, что система Q( c) явным образом обусловлена выбором чисел T, Lи N, и можно предположить, что для принятия в качестве «безошибочного» ☆ _M -утверждения большей сложности необходимы какие-то более жесткие критерии.

Относительно первой причины зависимости γот  cотметим, что описание действительной величины числа  cнеобходимо задавать в явном виде только однажды (после чего внутри системы достаточно обозначения c). Если при задании величины с используется чисто двоичное представление, то (при больших c) такое описание дает всего-навсего логарифмическую зависимость γот  c(поскольку количество знаков в двоичном представлении натурального  nравно приблизительно log ₂ n). Вообще говоря, учитывая, что число с интересует нас лишь в качестве возможного предела, точное значение которого находить вовсе не обязательно, мы можем поступить гораздо более остроумным образом. Например, число 2 ^{2 . . . 2}с  sпоказателями можно задать с помощью  sсимволов или около того, и вовсе нетрудно подыскать примеры, в которых величина задаваемого числа возрастает с ростом sеще быстрее. Сгодится любая вычислимая функция от s. Иными словами, для того чтобы задать предел  c(при достаточно большом значении c), необходимо всего лишь несколько символов.

Что касается второй причины, т.е. зависимости от  c чисел T, Lи N, то, в силу вышеизложенных соображений, представляется очевидным, что для задания величин этих чисел (в особенности, их возможных предельных значений) совершенно не требуется, чтобы количество знаков в их двоичном представлении возрастало так же быстро, как c; более чем достаточно будет и, скажем, обыкновенной логарифмической зависимости от c. Следовательно, мы с легкостью можем допустить, что зависимость величины γ+ 210 log ₂( γ+ 336) от  cявляется не более чем грубо логарифмической, а также устроить так, чтобы само число  cвсегда было больше этой величины.

Согласимся с таким выбором с и будем в дальнейшем вместо Q( c) записывать Q*. Итак, Q* есть формальная система, теоремами которой являются все математические высказывания, какие можно вывести из конечного количества √кратких ☆ _M -утверждений, используя стандартные логические правила (исчисление предикатов). Количество этих ☆ _M -утверждений конечно, поэтому разумным будет предположить, что для гарантии их действительной безошибочности вполне достаточно некоторого набора постоянных T, Lи N. Если роботы верят в это с ☆ _M -убежденностью, то они, несомненно, ☆ _M -заключат, что гёделевское предположение G( Q*) также истинно на основании гипотезы M, поскольку является Π ₁-высказыванием меньшей, нежели c, сложности. Рассуждение для получения утверждения G( Q*) из ☆ _M -убежденности в обоснованности формальной системы Q* достаточно просто (в сущности, я его уже привел), так что с присвоением этому утверждению статуса ☆ _M проблем возникнуть не должно. То есть само G( Q*) также должно быть теоремой системы Q*. Это, однако, противоречит убежденности роботов в обоснованности Q*. Таким образом, упомянутая убежденность (при условии справедливости гипотезы  Mи достаточно больших числах T, Lи N) оказывается несовместимой с убежденностью в том, что поведением роботов действительно управляют механизмы M, – а значит, механизмы  Mповедением роботов управлять не могут.

Как же роботы могут удостовериться в том, что были выбраны достаточно большие числа T, Lи N? Никак. Вместо этого они могут выбрать некоторыйнабор таких чисел и попробовать допустить, что те достаточно велики, – и прийти в результате к противоречию с исходным предположением, согласно которому их поведение обусловлено набором механизмов M. Далее они вольны предположить, что достаточным окажется набор из несколько больших чисел, – снова прийти к противоречию и т.д. Вскоре они сообразят, что к противоречию они приходят при любомвыборе значений (вообще говоря, здесь нужно учесть, помимо прочего, небольшой технический момент, суть которого состоит в том, что при совершенно уже запредельных значениях T, Lи Nзначение  cтакже должно будет несколько подрасти – однако это неважно). Таким образом, получая один и тот же результат вне зависимости от значений T, Lи N, роботы – равно как, по всей видимости, и мы – приходят к заключению, что в основе их математических мыслительных процессов не может лежать познаваемая вычислительная процедура M, какой бы она ни была.