Текст книги "Конец науки: Взгляд на ограниченность знания на закате Века Науки"

Автор книги: Джон Хорган

сообщить о нарушении

Текущая страница: 17 (всего у книги 27 страниц)

– Невосприимчивость, я думаю, в приеме, а не в передаче, – сказал Эдельман.

К этому времени Эдельман уже не делал попыток скрыть свое раздражение. Когда я спросил об его отношениях с Фрэнсисом Криком, он резко объявил, что должен быть на важном совещании, а меня оставит в умелых руках Джулио.

– Я давно знаком с Фрэнсисом, но на этот вопрос нельзя ответить мимоходом. Или, как сказал Граучо Маркс (американский актер, обрушивавший на зрителя потоки абсурдного юмора. – Пер):«Уйди и никогда больше не пачкай мои полотенца!»

С этим он отбыл, а его смех еще какое-то время звучал.

У Эдельмана есть почитатели, но большинство остаются на границах неврологии. Его самым известным поклонником является Оливер Сакс (Oliver Sacks), чьи красиво написанные отчеты о том, как он работал с пациентами с поврежденным мозгом, установили стандарт для литературной – то есть иронической – неврологии. Фрэнсис Крик говорил за многих коллег-неврологов, когда обвинял Эдельмана в том, что тот прячет «презентабельные», но не особо оригинальные идеи за «ширмой жаргона». Дарвиновская терминология Эдельмана, добавил Крик, имеет меньшее отношение к любым реальным аналогиям с дарвиновской эволюцией, чем к риторической грандиозности. Крик предложил переименовать теорию Эдельмана в «нервный эдельманизм». «Проблема с Джерри, – сказал Крик, – заключается в том, что он имеет склонность выдавать лозунги и размахивает ими, не обращая внимания на то, что говорят другие люди. Так что на самом деле люди жалуются на слишком беззастенчивое пускание пыли в глаза» [119]119
  См. язвительную рецензию Крика на книгу Эдельмана «Нервный дарвинизм»: «Neural Edelmanism», Trends in ^eurovol. 12, no. 7,1989, pp. 240–248. sciences,


[Закрыть].

Посещение лаборатории Эдельмана не произвело впечатления на философа Дэниела Деннетта (Daniel Dennett)из Университета Туфтса. В рецензии на «Прозрачный воздух, яркое пламя» Деннетт доказывает, что Эдельман просто представил довольно грубые версии старых идей. Несмотря на отрицания Эдельмана, его модель на самом деле была нервной сетью, а повторный вход – это обратная связь, как считает Деннетт. Эдельман также «неправильно понимает философские вопросы, к которым обращается на элементарном уровне», утверждает Деннетт. Эдельман может выражать презрение к тем, кто думает, что мозг – это компьютер, но его использование робота, чтобы «доказать» свою теорию, свидетельствует о том, что он верит в то же самое, объясняет Деннетт.

Некоторые критики обвиняют Эдельмана в преднамеренной попытке поставить себе в заслугу идеи других, обертывая их в свою собственную идиосинкразическую терминологию. Мне же кажется, что у Эдельмана мозг эмпирика, а сердце романтика. Кажется, он косвенно это признал, когда я спросил его, считает ли он в принципе, что наука бесконечна, или у нее есть конец.

– Я не знаю, что это означает, – ответил он. – Я знаю, что последовательность в математике конечна или бесконечна, и знаю, что это означает. Но я не знаю, что означает фраза «наука бесконечна». Пример? Я процитирую Уоллеса Стивенса (Wallace Stevens):«В самом конечном счете даже истина не имеет значения. Риск уже имел место».

Поискистины – вот что имеет значение, а не сама истина, казалось, подразумевал Эдельман.

Эдельман добавил, что Эйнштейн, когда его спросили, истощена ли наука, ответил: «Возможно, но какой смысл описывать симфонию Бетховена в терминах волн воздушного давления?» Эйнштейн, объяснил Эдельман, ссылался на тот факт, что физика сама по себе не могла заниматься вопросами, относящимися к ценности, значению и другим субъективным явлениям. Можно ответить вопросом: какой смысл описывать симфонию Бетховена в терминах повторно входящих нервных петель? Как замена нейронов на волны воздушного давления, или атомы, или любые физические явления отдаст должное магии и тайне разума? Эдельман не может принять, как делает Фрэнсис Крик, что мы «всего лишь набор нейронов». Поэтому Эдельман умышленно затуманивает свою основную нервную теорию, наполняя ее терминами и концепциями, заимствованными из эволюционной биологии, иммунологии и философии, чтобы добавить ей великолепия, резонанса, мистики. Он подобен романисту, который рискует неясностью – даже ищет ее – в надежде достичь более глубокой истины. Он – практик иронической неврологии, которому, к сожалению, недостает необходимых риторических навыков.

Квантовый дуализм

Есть один вопрос, с которым соглашаются Крик, Эдельман и почти все неврологи: свойства разума существенным образом не зависят от квантовой механики. Физики, философы и другие ученые размышляли о связях между квантовой механикой и сознанием, по крайней мере, с тридцатых годов, когда несколько склонных к философии физиков стали доказывать, что акт измерения – а следовательно, само сознание – сыграл жизненно важную роль в определении исхода экспериментов, включающих квантовые эффекты. Такие теории – немногим более чем магические пассы, а поборники их в первую очередь руководствовались философскими или религиозными мотивами. Партнер Крика Кристоф Кох подвел итог теме «Квантум-сознание» в силлогизме: квантовая механика таинственна, и сознание таинственно. Что и требовалось доказать: квантовая механика и сознание должны быть связаны [120]120
  Кох выступил с этим замечанием на встрече под названием «К научной основе сознания», проводившейся в Тусоне, Аризона, с 12 по 17 апреля 1994 г.


[Закрыть].

Джон Эклз (John Eccles), английский невролог, получивший в 1963 году Нобелевскую премию за изучение проводимости нервной системы, – один из активных приверженцев квантовой теории сознания. Возможно, Эклз – самый выдающийся современный ученый, который поддерживает дуализм, утверждая, что разум существует независимо от своего физического субстрата. Они с Карлом Поппером написали книгу в защиту дуализма под названием «Мозг и самосознание» (The Selfand Its Brain), опубликованную в 1977 году. Они отрицали физический детерминизм в пользу свободной воли: разум может выбирать между различными мыслями и курсами действий, предпринимаемых мозгом и телом [121]121
  Я брал интервью у Эклза по телефону в феврале 1993 г.


[Закрыть].

Самым часто встречающимся возражением дуализму является следующее: он нарушает сохранение энергии. Как может разум, если он не существует физически, вести к физическому изменению в мозгу? Вместе с немецким физиком Фридрихом Беком (Friedrich Beck)Эклз представил следующий ответ. Проводимость нервной системы обязана высвобождению энергии нейронов мозга, когда на синапсе накапливаются заряженные молекулы или ионы. Однако наличие определенного количества ионов на синапсе не всегда «переключает» нейрон. По Эклзу, причина этого эффекта в том, что ионы, по крайней мере в какие-то мгновения, находятся в квантовой суперпозиции состояний; в одних состояниях нейрон разряжается, а в других – нет.

Разум осуществляет свое влияние на сознание, «решая», какие нейроны «выстрелят», а какие нет. Пока вероятность сохраняется в мозгу, это осуществление свободной воли не нарушает сохранение энергии.

– Этому у нас нет никаких доказательств, – весело признался Эклз после того, как объяснил мне свою теорию по телефону. Тем не менее он назвал гипотезу огромным шагом вперед, который вдохновит возрождение дуализма. Материализм и все его порождения – логический позитивизм, бихевиоризм, теория идентификации (которая приравнивает состояния разума и физические состояния мозга) – «закончены», объявил Эклз.

Эклз был искренен в своих мотивах обращения к квантовой механике при объяснении свойств разума. Он был «религиозным человеком», как он мне заявил, и отрицал «дешевый материализм». Он верил, что «сама природа разума такая же, как природа жизни. Это божественное создание». Эклз настаивал, что «мы делаем лишь первые шаги на пути открытия тайны существования». Можем ли мы когда-нибудь проникнуть в эту тайну, спросил я, и таким образом привести науку к концу?

– Не думаю, – ответил он. Он замолчал, а потом горячо добавил: – Я не хочу,чтобы она заканчивалась. Единственное, что важно, – это продолжать.

Он был согласен со своим коллегой, дуалистом и сторонником принципа опровержимости Карлом Поппером, в том что мы должны и будем продолжать «открывать, открывать и открывать». И думать. И мы не должны заявлять, что у нас есть последнее слово хоть по какому-то вопросу.

Чего на самом деле хочет Роджер Пенроуз

Роджер Пенроуз (Roger Penrose)в некотором роде лучше преуспел в сокрытии своих главных мотивов – возможно, потому, что он сам представляет их очень смутно. Вначале Пенроуз завоевал репутацию авторитета по черным дырам и другой физической экзотике. Он также изобрел плитки Пенроуза – простые геометрические фигуры, которые, если прикладывать их друг к другу, генерируют бесконечно разнообразные, квазипериодические образцы. С 1989 года он известен своими доказательствами, представленными в «Новом разуме императора» (The Emperor's New Mind). Основной целью книги было опровержение заявления поборников искусственного разума относительно того, что компьютеры могут полностью повторить людей, включая сознание.

Ключом к доказательству Пенроуза являются теоремы о неполноте Гёделя. Теоремы утверждают, что любая совместимая система аксиом за определенным базовым уровнем сложности приносит утверждения, которые не могут быть ни доказаны, ни опровергнуты с помощью этих аксиом; отсюда система всегда является неполной. В соответствии с Пенроузом, теоремы подразумевают, что ни одна «исчислимая» модель – то есть ни классическая физика, ни информатика, ни неврология в ее теперешнем состоянии – не может повторить созидательную или, скорее, интуитивную силу разума. Разум должен черпать свою силу из какого-то более утонченного явления, возможно, имеющего отношение к квантовой механике.

Через три года после нашей первой встречи с Пенроузом в Сиракьюсе, которая возбудила мой интерес к границам науки, я посетил его, так сказать, на базе, в Оксфордском университете. Пенроуз сказал, что работает над продолжением «Нового разума императора», которое представит его теорию более детально. Он был более чем когда-либо убежден, что находится на правильном пути со своей теорией квазиквантового сознания.

– Здесь, конечно, балансируешь на проволоке, но я уверен в этих вещах. Я не вижу выхода [122]122
  Я брал интервью у Роджера Пенроуза в Оксфордском университете в августе 1992 г.


[Закрыть].

Я отметил, что кое-кто из физиков стал думать о том, как можно было бы обуздать некоторые экзотические квантовые эффекты, такие как суперпозиция, для осуществления вычислений, которые не могут произвести классические компьютеры. Допускает ли Пенроуз, что такие квантовые компьютеры могут быть способны думать? Пенроуз покачал головой. Компьютер, способный мыслить, сказал он, должен будет полагаться на механизмы, относящиеся не только к квантовой механике в ее теперешней форме, но и к более глубокой теории, пока не открытой. Против чего он на самом деле возражал в «Новом разуме императора», признался Пенроуз, так это против предположения, что тайна сознания или реальности в целом может быть объяснена нынешними законами физики.

– Я говорю, что это неправильно, – объявил он. – Законы, управляющие поведением мира, являются, я считаю, более трудно уловимыми, чем эти.

Современная физика просто не имеет смысла, рассуждал он. Квантовая механика, в частности, должна иметь изъяны, потому что она слишком явно не соответствует обычной макроскопической реальности. Как электроны могут действовать как частицы в одном эксперименте и как волны – в другом? Как они могут быть в двух местах одновременно? Должна быть какая-то более глубокая теория, исключающая парадоксы квантовой механики и ее приводящие в замешательство субъективные элементы.

– В конечном счете наша теория должна дать пристанище субъективизму, но я не хотел бы, чтобы сама теория была субъективной теорией.

Другими словами, теории следует допускать существование разумов, но ей это не должно требоваться.

Ни теория суперструн, которая в конечном счете является квантовой теорией, ни какой-либо другой нынешний кандидат на теорию, объясняющую все, не имеет качеств, которые Пенроуз считает необходимыми.

– Если будет такой тип теории, которая объяснит всё, то она должна отличаться от всех известных нам теорий, – сказал он.

Такой теории потребуется «некий побуждающий натурализм». Другими словами, теория должна будет иметь смысл.

Тем не менее Пенроуз, как и в Сиракьюсе, сомневался, создаст ли физика на самом деле полную теорию. Теоремы Геделя, сказал он, предполагают, что в физике всегда будут открытые вопросы, как и в математике.

– Даже если бы можно было доказать, что физический мир похож на математическую структуру, – заметил Пенроуз, – то у предмета все равно не было бы конца, так как у математики нет конца.

Он говорил очень убежденно, гораздо более убежденно, чем когда мы впервые обсуждали это в 1989 году. Он явно много думал на эту тему.

Я вспомнил сравнение физики с шахматами Ричарда Фейнмана: после того как мы узнаем основные правила, мы можем вечно исследовать последствия их применения.

– Да, у меня такая же точка зрения, – сказал Пенроуз.

Значит ли это, что возможно узнать хотя бы фундаментальные правила, если не все последствия этих правил?

– Когда я настроен оптимистично, то полагаю, что это так.

В сердцах он добавил:

– Я определенно не один из тех людей, которые думают, что у нашего физического понимания мира нет конца.

В Сиракьюсе Пенроуз сказал, что пессимистично верить в Ответ. Теперь он считал свой взгляд оптимистическим.

Пенроуз сказал, что в общем-то он доволен приемом, который встретили его идеи; большинство критиков были, по крайней мере, вежливы. Единственное исключение – Марвин Минский. У Пенроуза была неприятная встреча с Минским на конференции в Канаде, где они оба выступали с лекциями. По настоянию Минского Пенроуз выступал первым. Затем Минский поднялся, чтобы представить опровержение. «Если вы носите пиджак, то предполагается, что вы – джентльмен, – объявил он, сбросил пиджак и воскликнул: – Я не чувствую себя джентльменом!» Затем он атаковал «Новый разум императора» аргументами, которые были, по словам Пенроуза, глупыми. Даже вспоминая эту сцену, Пенроуз казался озадаченным. Это причиняло ему боль. Я снова поразился, как и при первой нашей встрече, контрасту между спокойной манерой общения и дерзостью интеллектуальных взглядов Пенроуза.

В 1994 году, два года спустя после нашей встречи с Пенроузом к Оксфорде, была опубликована его книга «Тени разума» (Shadows of the Mind). В «Новом разуме императора» Пенроуз довольно смутно представлял, где могут колдовать квазиквантовые эффекты. В «Тенях» он осмеливается на предположение: в микрососудах, крохотных каналах протеинов, служащих чем-то вроде остова для большинства клеток, включая нейроны. Гипотеза Пенроуза базировалась на заявлении Стюарта Хамероффа (Stuart Hameroff), анестезиолога из Университета Аризоны, о том, что анестезия сдерживает движение электронов в микрососудах. Построив крепкое теоретическое здание на этом хрупком заявлении, Пенроуз предположил, что микрососуды выполняют недетерминированные, квазиквантовые исчисления, которые каким-то образом дают рост сознанию. Таким образом, каждый нейрон – это не просто триггер, а комплексный компьютер.

Теория микрососудов Пенроуза не могла не быть разочарованием. В своей первой книге он нагнетал напряжение, предвкушение и тайну, как режиссер фильма ужасов, который дает только дразнящие контуры чудовища. Когда Пенроуз в конце концов открыл свое чудовище, оно выглядело как актер с излишним весом, одетый в дешевый резиновый костюм с хлопающими плавниками. Некоторые скептики отреагировали (и этого следовало ожидать) со смехом, а не благоговением. Они отметили, что микрососуды встречаются почти во всех клетках, а не только в нейронах. Это означает, что наши печенки обладают разумом? А что там с нашими большими пальцами ног? И как там с paramecia [123]123
  Вид простейших, обитающих в стоячей воде, лат. – Пер.


[Закрыть]? Когда в апреле 1994 года я задал этот вопрос партнеру Пенроуза Стюарту Хамероффу, он ответил: «Я не собираюсь соглашаться, что paramecium имеет сознание, но в его поведении отмечается определенный интеллект».

Пенроузу также можно возразить аргументом Крика против свободной воли. Просто через самоанализ Пенроуз не может восстановить вычислительную логику восприятия математической истины и поэтому настаивает, что восприятие должно происходить из некого таинственного, невычислимого явления. Но, как указывал Крик, то, что мы не осознаем нервный процесс, ведущий к решению, вовсе не означает, что этот процесс не происходит. Поборники искусственного интеллекта опровергают аргумент Пенроуза, базирующийся на Геделе, утверждая, что всегда можно создать компьютер, чтобы расширить базу аксиом для решения новой проблемы; фактически такие обучающие алгоритмы довольно обычны (хотя они до сих пор еще очень грубы в сравнении с человеческим разумом).

Некоторые критики Пенроуза обвинили его в том, что он виталист. Но если бы Пенроуз был виталистом, то он оставил бы свои идеи туманными и нетестируемыми. Он никогда бы не открыл микрососудистого монстра. Пенроуз – настоящий ученый, он хочет знать.Он искренне верит, что наше сегодняшнее представление о реальности неполное, логически ошибочное и – мистическое. Он ищет ключ, понимание, какой-то хитрый квазиквантовый трюк, который бы внезапно сделал все понятным. Он ищет Ответ. Он совершил большую ошибку, думая, что физике следует сделать мир полностью понятным и осмысленным. Стивен Вайнберг мог бы сказать ему, что у физики нет такой способности.

Атака мистиков

Пенроуз, хотя и продвинул теорию сознания далеко за горизонт сегодняшней науки, по крайней мере держался за надежду, что теорию когда-нибудь можно доказать. Но некоторые философы сомневались, может ли какая-либочисто математическая модель – включая традиционные нервные процессы или экзотические механизмы, представляемые Пенроузом, – на самом деле объяснить сознание. Философ Оуэн Фланаган (Owen Flanagan)назвал этих сомневающихся «новыми мистиками» в честь рок-группы шестидесятых «Мистерианз», которые исполняли хит «96 разрывов». (Сам Фланаган не мистик, а приземленный материалист.)

Философ Томас Нагель (Thomas Nagel)предложил одно из самых ясных выражений точки зрения мистиков в своем известном эссе 1974 года «Что такое быть летучей мышью?» (What Is It Like to Bea Bat?). Нагель предположил, что субъективный опыт – это фундаментальный атрибут людей и многих высокоразвитых животных, таких как летучие мыши. «Он несомненно имеет место в бесчисленных формах, которые мы даже не можем себе представить, на других планетах и в других солнечных системах во Вселенной, – писал Нагель. – Но независимо от того, как может варьироваться форма, тот факт, что организм вообщеимеет сознательный опыт, означает, что в нем есть нечто, что делаетего организмом» [124]124
  В июне 1992 г. я позвонил Нагелю, чтобы спросить, думает ли он, что наука когда-нибудь закончится. Абсолютно точно – нет, ответил он. «Чем больше открывают, тем больше будет вопросов, – сказал Нагель. – Критика Шекспира никогда не может быть полной, – добавил он, – так почему же полной должна быть физика?»


[Закрыть]. Нагель доказывал, что независимо от того, сколько мы узнаём о физиологии летучих мышей, мы никогда на самом деле не узнаем, что такое быть летучей мышью, потому что наука не может проникнуть в область субъективного опыта.

Нагеля можно было бы назвать слабым мистиком: он придерживается мнения о возможности того, что философия и/или наука могут когда-нибудь открыть естественный путь, чтобы проложить мост через разлом между нашими материалистическими теориями и субъективным опытом. Колин Мак-Джинн – сильный мистик. Он философ, верящий, что большинство важнейших философских вопросов неразрешимы, потому что они находятся за пределами наших познавательных возможностей (см. главу 2). Точно так же, как у крыс, у людей есть познавательные ограничения, и одно из этих ограничений состоит в том, что мы не можем решить проблему разум – тело. Мак-Джинн рассматривает свою позицию по проблеме разум – тело следующим образом: она неразрешима – это логический вывод из анализа Нагеля, представленного в эссе «Что такое быть летучей мышью?». Мак-Джинн защищает свою точку зрения как высшую в сравнении с тем, что он называет «элиминативистской» позицией, которая пытается показать, что проблема разум – тело на самом деле вовсе не проблема.

Вполне возможно, сказал Мак-Джинн, что ученые изобретут теорию разума, которая сможет предсказать исход экспериментов с огромной точностью и принести большую пользу медицине. Но эффективная теория не обязательно постижима. «Нет такой причины, по которой часть нашего разума не может сформулировать теорию при помощи своих удивительных способностей к предсказанию, но мы не сможем понять формулировку теории в терминах части нашего сознания, которая понимает вещи. Так что мы можем прийти к теории, аналогичной квантовой, которая на самом деле является хорошей теорией сознания, но мы не сможем ее интерпретировать или понять» [125]125
  Я брал интервью у Мак-Джинна в Нью-Йорке в августе 1994 г. Чтобы получить полное представление о мистической точке зрения Мак-Джинна см. его книгу «Проблема сознания» (The Problem of Consciousness.Cambridge, Mass., 1991).


[Закрыть].

Подобные разговоры приводят в ярость Дэниела Деннетта. Деннетт – философ из Университета Туфтса – крупный мужчина с седой бородой; он выглядит так, словно ему постоянно весело – этакий Санта-Клаус. В книге 1992 года «Объясненное сознание» (Consciousness Explained)Деннетт утверждает, что сознание – в том смысле, что мы обладаем единым эго, – было иллюзией, возникшей из взаимодействия многих «субпрограмм», которые с помощью приборов прогнали через мозг. Когда я спросил Деннетта о мистическом аргументе Мак-Джинна, он назвал его смехотворным. Он заклеймил сравнение Мак-Джинном людей с крысами. В отличие от людей, утверждал Деннетт, крысы не могут постигнуть научные вопросы и, следовательно, не могут их решить. Деннетт подозревал, что Мак-Джинн и другие мистики «не хотят, чтобы сознание снизошло до науки. Им нравится идея, что оно находится вне пределов науки. И только этим можно объяснить, почему они радостно приветствуют такие сомнительные аргументы» [126]126
  Я разговаривал с Деннеттом о мистической точке зрения по телефону в апреле 1994 г.


[Закрыть].

Деннетт попробовал другую стратегию, которая показалась мне странной для такого признанного материалиста, а также опасной для писателя. Он вспомнил, что Борхес в своем рассказе «Библиотека Бабеля» представил бесконечную библиотеку всевозможных заявлений, которые были, есть и могут быть, – от самых бессмысленных до самых возвышенных. Конечно, где-то в Библиотеке Бабеля есть идеально высказанное решение проблемы разум – тело, сказал Деннетт. Деннетт представил этот аргумент с такой уверенностью, что я заподозрил: он верит, что Библиотека Бабеля на самом деле существует.

Деннетт допускал, что неврология может никогда не создать теорию сознания, которая бы удовлетворила всех.

– Мы ничегоне можем объяснить к всеобщему удовлетворению, – сказал он.

В конце концов, многие люди недовольны научными объяснениями, например, фотосинтеза и биологического воспроизводства. «Но фотосинтез и воспроизводство уже не тайна, – заметил Деннетт, – и в конце концов мы получим подобный отчет о сознании».

Деннетт резко повернул в совсем другом направлении, заявив, что в современной науке «маячит любопытный парадокс».

– Одна из тенденций, заставляющих науку так быстро продвигаться в наши дни, – это тенденция, уводящая науку прочь от человеческого понимания. Когда переключаешься от попыток моделировать вещи при помощи простых и ясных уравнений к производству совершенных компьютерных моделей… ты можешь закончить моделью, тонко моделирующей природу, явления, в которых ты заинтересован, но ты не понимаешь модель. То есть не понимаешь ее так, как понимал модели раньше.

Компьютерная программа, которая точно смоделировала бы человеческий мозг, отметил Деннетт, может быть непроницаема для нас, как сам мозг.

– Системы программного обеспечения уже находятся на самой грани человеческого понимания, – заметил он. – Даже система, подобная Интернету, является абсолютно тривиальной в сравнении с мозгом, и тем не менее она была собрана и построена так, что никто на самом деле не понимает, как она работает и продолжит ли она работу. И таким образом, когда ты начинаешь использовать программы создания программного обеспечения и программы наладки программного обеспечения и коды, которые их лечат, ты создаешь новые артефакты, имеющие свою собственную жизнь. И они становятся предметами, не находящимися более в гносеологической гегемонии своих производителей. Так что это будет нечто вроде скорости света. Это будет барьер, о который науке придется вечно биться головой.

Удивительно, но Деннетт подразумевал, что он тоже имеет мистические склонности. Он думал, что теория разума может быть высокоэффективна и иметь большую предсказательную силу, но маловероятно, что она будет понятна простым людям. Единственная возможность людей понять свою собственную сложность – это прекратить быть людьми.

– Любой, у кого есть мотив или талант, – сказал он, – сможет фактически слиться с этими большими системами программного обеспечения.

Деннетт ссылался на возможность, выдвигаемую некоторыми энтузиастами искусственного интеллекта: в один прекрасный день мы, люди, сможем покинуть наши смертные, телесные оболочки и стать машинами.

– Я думаю, что логически это возможно, – добавил Деннетт. – Я не уверен, насколько это вероятно. Это будущее. Я думаю, что это логично.

Но, казалось, Деннетт сомневается, смогут ли даже суперумные машины полностью понять сами себя.

Пытаясь понять себя, машинам придется стать еще более сложными. Они будут все сложнее и сложнее и таким образом будут вечно бегать за собственным хвостом.