Текст книги "Прими красную таблетку: Наука, философия и религия в «Матрице»"

Автор книги: Гленн Йеффет

сообщить о нарушении

Текущая страница: 19 (всего у книги 21 страниц)

Если бы мы как вид могли договориться о том, чего мы хотим, куда идем и почему, мы сделали бы свое будущее гораздо менее опасным: тогда мы, возможно, поняли бы, от чего мы можем и должны отказаться. В противном случае мы можем с легкостью втянуться в гонку вооружений на основе GNR-технологий, как это произошло с NBC-технологиями в двадцатом столетии. Может быть, в этом заключена основная опасность, потому что если подобная гонка начнется, остановить ее будет очень сложно. На этот раз – в отличие от ситуации во время проекта «Манхэттен» – мы не находимся в состоянии войны с непримиримым врагом, угрожающим нашей цивилизации. Вместо этого нас подгоняют наши привычки, наши желания, наша экономическая система, наше любопытство и соревновательный азарт.

На мой взгляд, все мы хотим, чтобы направление нашего развития определялось нашими общими ценностями, этикой и моралью. Если бы мы накопили больше коллективной мудрости за последние несколько тысяч лет, тогда наш сегодняшний диалог протекал бы в более практической плоскости, а невероятные силы, которые мы вот-вот выпустим, как джинна из бутылки, не причиняли бы столько беспокойства.

Можно было бы допустить, что к подобному диалогу нас приведет инстинкт самосохранения. У отдельных индивидуумов этот инстинкт срабатывает, однако как биологический вид мы ведем себя, похоже, во вред самим себе. Имея дело с ядерной угрозой, мы часто вели нечестный диалог с самими собой и друг с другом и таким образом значительно повышали риск. То ли это было обусловлено политикой, то ли мы просто не думали о будущем, то ли, сталкиваясь с подобными серьезными угрозами, мы от страха действуем нерационально, – я не знаю. Только это не сулит нам ничего хорошего.

Новые ящики Пандоры, созданные генетикой, нанотехнологией и робототехникой, уже почти открыты, и все-таки, по-видимому, мы едва обратили на это внимание. Идеи нельзя запихать обратно в ящик; в отличие от урана или плутония их не нужно добывать и очищать, и их можно свободно копировать. Если однажды они появляются, то это навсегда. В своем знаменитом сомнительном комплименте Черчилль заметил, что американский народ и его вожди «всегда поступают правильно после того, как испробуют все другие альтернативы». Однако в этом случае мы должны действовать с большей предусмотрительностью, поскольку поступить правильно лишь в последней попытке может означать утрату шанса сделать это вовсе.

Как сказал Торо: «Это не мы ездим по железной дороге; это она ездит на нас». И вот против этого-то мы и должны бороться в наше время. Действительно, на повестку дня встает вопрос: кто будет хозяином? Переживем ли мы наши технологии?

Нас вталкивают в этот новый век без плана, без руля, без тормозов. Неужели мы зашли уже так далеко, что не можем изменить курс? Я так не считаю, но мы еще даже и не пытались это сделать, между тем как последняя возможность установить контроль – отказобезопасная точка – быстро приближается. У нас есть первые роботы, играющие роль домашних любимцев, плюс коммерчески доступные методы генной инженерии, а наши нанотехнологии вообще стремительно совершенствуются. Поскольку развитие этих технологий проходит через несколько стадий, совсем необязательно – как в проекте «Манхэттен» и испытании «Тринити», – что последняя стадия в апробировании технологии окажется затяжной и трудной. Прорыв к неограниченному самовоспроизводству в робототехнике, генной инженерии или нанотехнологии может произойти внезапно и удивить нас так же, как мы удивились, узнав о клонировании млекопитающего.

И все-таки я верю в то, что у нас есть основания надеяться. Наши попытки справиться с оружием массового уничтожения в прошедшем столетии обеспечивают яркий пример самоограничения, который нам следует принять во внимание: Соединенные Штаты в одностороннем порядке и без предварительных условий отказались от дальнейшей разработки биологического оружия.

К отказу от исследований в области биологического оружия американцев подтолкнуло осознание того, что вдобавок к огромным затратам, необходимым для создания этого ужасного оружия, может оказаться так, что его смогут без труда воспроизвести и оно попадет в руки неподконтрольных стран или террористических группировок.

Был сделан ясный вывод: стремясь разработать подобное оружие, мы можем создать дополнительные угрозы, а если мы откажемся от этой цели, то обеспечим себе более безопасную жизнь. Мы воплотили свой отказ от биологического и химического оружия в Конвенции о биологическом оружии 1972 года и в Конвенции о химическом оружии 1993 года[!Meselson.!].

Что касается неисчезающей угрозы со стороны ядерного оружия, в условиях которой мы живем уже больше пятидесяти лет, недавнее отклонение американским сенатом Договора о запрещении комплексных испытаний ядерного оружия недвусмысленно дает понять, что отказ от ядерного оружия с политической точки зрения будет делом нелегким. Однако завершение «холодной войны» предоставляет нам уникальную возможность предотвратить многополюсную гонку вооружений. Основанная на вышеупомянутых Конвенциях успешная ликвидация ядерного оружия могла бы помочь нам приблизиться к отказу от опасных технологий. (На самом деле, избавившись ото всех, кроме примерно сотни ядерных вооружений по всему миру, а это приблизительно равняется всей разрушительной силе, примененной во Второй мировой войне, – что является куда более легкой задачей, – мы могли бы ликвидировать угрозу исчезновения[!Doty, p. 583.!].)

Контроль над соблюдением запрета будет представлять сложную, однако разрешимую проблему. К счастью, мы уже проделали значительную работу в рамках Конвенции о биологическом оружии и в рамках других договоров. Нашей главной задачей станет применение достигнутых результатов по отношению к технологиям, которые изначально обладают большим коммерческим, а не военным потенциалом. Здесь вырисовывается существенная потребность в прозрачности, поскольку сложности с контролем прямо пропорциональны трудностям различения между легальной и нелегальной деятельностью.

Я искренне верю, что ситуация в 1945 году была проще, чем та, с которой мы сталкиваемся сейчас: коммерческое и военное использование ядерных технологий было разумно отделено друг от друга, а мониторингу за ними способствовала сама природа атомных испытаний и легкость измерения радиоактивности. Исследование возможностей использования ядерных технологий в военных целях можно было проводить лишь в национальных лабораториях наподобие Лос-Аламоса, и результаты этих исследований сохранялись бы в секрете как можно дольше.

Коммерческое и военное использование GNR-технологий не имеет такого четкого разделения; учитывая тот потенциал, которым они обладают на рынке, сложно вообразить, что их будут разрабатывать исключительно в национальных лабораториях. С учетом широко распространенной коммерческой выгоды вынужденный запрет потребует введения режима контроля, схожего с тем, который был введен для биологического оружия, но только в беспрецедентном масштабе. Это неизбежно приведет к конфликтам между неприкосновенностью нашей частной жизни, стремлением к получению информации, являющейся собственностью фирмы, и необходимостью установления контроля для защиты человечества. Несомненно, мы встретимся с сильным сопротивлением этого ограничения личных свобод.

Наблюдение за реализацией запрета от определенных GNR-технологий должно проходить как в киберпространстве, так и в физическом мире. Решающее значение при этом приобретает обеспечение необходимой прозрачности, приемлемой для мира, в котором информация является собственностью. Возможно, для этого будут востребованы новые формы защиты интеллектуальной собственности.

Осуществление контроля также потребует того, чтобы ученые и инженеры приняли строгий кодекс этического поведения, напоминающий клятву Гиппократа, и чтобы они имели смелость в случае необходимости передавать информацию куда следует, даже если им это будет дорого стоить. Это стало бы ответом на призыв – спустя пятьдесят лет после Хиросимы – нобелевского лауреата Ганса Бете, одного из самых главных доживших до наших дней участников проекта «Манхэттен». Он призывал всех ученых к тому, чтобы «прекратить и воздерживаться от работы по созданию, разработке, улучшению и производству ядерного и другого оружия, обладающего потенциалом массового уничтожения»[!См. также написанное в 1997 году письмо Ганса Бете к президенту Клинтону, размещенное на сайте www.fas.org/betherc.htm.!]. В XXI веке для этого потребуется бдительность и личная ответственность от всех, кто работает как в области NBC-, так и в области GNR-технологий, чтобы избежать использования оружия массового уничтожения и распространения знаний, позволяющих массовое уничтожение.

Торо также говорил, что мы «богатеем прямо пропорционально количеству вещей, без которых мы можем обойтись». Каждый из нас стремится быть счастливым, но при этом, кажется, стоит задаться вопросом о том, нужно ли нам идти на такой огромный риск, грозящий полным уничтожением, чтобы получить еще больше знаний и вещей. Здравый смысл подсказывает, что наши материальные потребности все-таки ограничены какими-то пределами, и что определенное знание слишком опасно, и лучше бы совсем отказаться от него.

Точно так же мы не должны стремиться к практическому бессмертию, не подумав о том, чего нам будет это стоить, и не приняв во внимание связанное с ним возрастание угрозы вымирания. Бессмертие – это, конечно, основная, но не единственная осуществимая утопическая мечта.

Недавно мне удалось встретиться с известным автором и ученым Жаком Аттали. Его книга «Линии горизонтов» (в английском издании она называется «Миллениум») помогла приспособить отраженный в Java и Jini подход к наступающей эпохе распространяющихся повсюду компьютерных технологий. В своей новой книге «Братство» Аттали описывает, как наши представления об утопии изменились с течением времени: «На заре формирования общества люди считали свой земной путь не чем иным, как лабиринтом страданий, в конце которого находилась дверь, через которую после своей смерти человек попадал в компанию богов, и у него начиналась Вечная жизнь. Среди евреев, а потом и греков нашлось несколько людей, осмелившихся освободиться от теологических требований и создать мечту об идеальном Городе, где процветает Свобода. Другие, обращая внимание на развитие рыночного общества, поняли, что свобода одних приведет к отчуждению других, и поэтому искали Равенства».

Жак помог мне осознать, в каких конфликтных отношениях находятся эти три различные утопические цели в нашем современном обществе. Он описывает и четвертую утопию – Братство, основой которого является альтруизм. Лишь Братство связывает индивидуальное счастье со счастьем других, обещая самоподдержку.

Благодаря этим выводам мое отношение к грезам Курцвей-ля окончательно кристаллизовалась. Технологический подход к вечной жизни – практическому бессмертию при помощи робототехники – может оказаться не самой желательной утопией. Преследование этой цели чревато очевидными опасностями. Возможно, нам следует пересмотреть свои утопические приоритеты.

Где же мы можем отыскать новую этическую основу для нашего дальнейшего развития? Я пришел к выводу о том, что здесь очень могут помочь идеи, содержащиеся в книге Далай-ламы «Этика для нового тысячелетия». Как, наверное, всем хорошо известно, но мало кем востребовано, Далай-лама доказывает, что самое главное для нас – это жить с любовью и состраданием к другим людям. Он говорит и о том, что нашему обществу необходимо развивать более глубокое понимание всеобщей ответственности и взаимозависимости. Далай-лама предлагает образец положительного этического поведения для отдельного человека и для общества, который, похоже, совпадает с утопией Братства, описанной Аттали.

Далай-лама указывает на то, что мы должны понять, что делает людей счастливыми, и признать убедительные доказательства того, что ни материальный прогресс, ни стремление к силе знания не являются золотым ключиком к счастью, что возможности науки и научного поиска не безграничны.

По-видимому, представление о счастье Запад унаследовал от греков. Греки определяли счастье как «использование (упражнение) жизненных сил с целью их совершенствования, предоставляющего им полную свободу действий»[!Hamilton, p. 35.!].

Очевидно, мы нуждаемся в существовании важных сложных задач, бросающих нам вызов, и в широком просторе для деятельности, чтобы обрести счастье. Однако я считаю, что мы должны найти альтернативное приложение для своих творческих сил – за пределами культуры бесконечного экономического роста; этот рост во многом был настоящим благом на протяжении нескольких сотен лет, однако он не принес нам счастья, чистейшего, без обмана, и сейчас мы должны выбирать между стремлением к неограниченному и ненаправленному росту, обеспечиваемому наукой и технологией, и очевидными сопутствующими этому опасностями.

Прошло уже больше года с момента моей первой встречи с Реем Курцвейлем и Джоном Серлем. Голоса, призывающие к осторожности и ограничениям, дарят мне надежду. Повод надеяться дают мне и люди, с которыми я познакомился. Они не меньше меня обеспокоены нашим сегодняшним затруднительным положением. Я тоже испытываю обострившееся чувство личной ответственности – не за уже проделанную мною работу, а за то, что я мог бы еще сделать в науке.

Однако, похоже, многие другие люди, которым известно о существующих опасностях, по-прежнему хранят странное молчание. Если на них надавить, они огрызаются, что, мол, «ничего нового в этом нет», словно уже достаточно одного понимания того, что может случиться. Они говорят мне: «Есть университеты, набитые биоморалистами, изучающими эту фигню целыми днями». Они заявляют: «Обо всем этом уже писали, причем специалисты». Они выражают недовольство: «Причины для твоих тревог и твои аргументы уже давным-давно известны».

Я понятия не имею, где эти люди прячут свой страх. Как архитектор сложных систем я обсуждаю эти проблемы как дилетант. Однако разве мое беспокойство должно от этого уменьшиться? Я прекрасно сознаю, как много об этом писали, говорили и официально рассуждали. Но разве из этого следует, что эта информация дошла до людей? Разве это означает, что мы можем махнуть рукой на угрожающие нам опасности?

Опыт ученых-атомщиков ясно указывает на необходимость личной ответственности, на опасность того, что события будут развиваться слишком стремительно, причем их развитие может принять независимый характер. Вслед за ядерщиками мы можем создать неразрешимые проблемы в один момент. Мы должны больше думать о том, что будет дальше, если не собираемся быть точно так же удивлены и поражены последствиями наших изобретений.

Я продолжаю профессионально работать над улучшением надежности программного обеспечения. Программы – это инструмент, и как создатель инструментов я должен бороться с некоторыми способами использования изобретенных мною инструментов. Я всегда считал, что разработка более надежного и многопрофильного компьютерного обеспечения улучшит мир и сделает его более безопасным местом; если бы я думал совершенно иначе, я был бы морально обязан прекратить эту работу. Сейчас я уже могу представить себе, что когда-нибудь такой день может настать.

Все это заставляет меня не злиться, а, скорее, немного опечалиться. Так что для меня прогресс – это горько-сладкое слово.

Помните ли вы великолепную предпоследнюю сцену в «Манхэттене», где Вуди Аллен лежит на диване и записывает свою речь на магнитофон? Он говорит о людях, создающих лишнюю головную боль самим себе, потому что это отвлекает их от более трудных, устрашающих проблем, связанных со Вселенной.

Он приходит к вопросу о том, почему стоит жить, и перечисляет то, что придает смысл его собственной жизни: Граучо Маркс, Уилли Мейс, вторая часть 41-й симфонии Моцарта, «Потейто хед блюз» Луи Армстронга, шведское кино, «Воспитание чувств» Флобера, Марлон Брандо, Фрэнк Синатра, яблоки и груши у Сезанна, крабы в ресторанчике «У Сэма Во» и наконец заключительный номер – лицо его любимой девушки Трейси.

У каждого из нас есть свои дорогие сердцу вещи, и, заботясь о них, мы реализуем суть человеческой природы. В конечном счете, именно из-за нашей способности проявлять заботу о других я с оптимизмом думаю о том, как мы встретим опасности, встающие перед нами сейчас.

Я очень надеюсь принять участие в более широком обсуждении затронутых здесь вопросов. Мне бы хотелось, чтобы в нем участвовали люди с самым различным образованием и чтобы они не были заранее настроены против технологии или в ее пользу.

Для начала я дважды поднимал эти проблемы на конференциях, спонсором которых выступал Аспенский институт, и отдельно предложил Американской академии искусств и науки сделать рассмотрение этих проблем продолжением ее сотрудничества с Пагоушскими конференциями. (Эти конференции проводятся с 1957 года; на них обсуждается контроль над вооружениями, особенно ядерными, и формируется реальная политика в этой сфере).

К несчастью, эти конференции стали проводиться уже после того, как ядерный джинн был выпущен из бутылки, – они задержались лет на пятнадцать. Мы также запоздало начинаем серьезно обращаться к вопросам, связанным с технологиями двадцать первого века, что должно положить начало предотвращению распространения знания, позволяющего массовое уничтожение. Похоже, дальнейшее промедление смерти подобно.

Так что я продолжаю свой поиск: объектов для познания полно. Добьемся ли мы успеха или потерпим неудачу, выживем или станем жертвой этих технологий – еще не решено. Я снова рано встаю – в шесть утра. Я пытаюсь находить подходящие ответы, разрушать чары и освобождать их от оков камня.

Библиография

Bethe H.:[198]198
  И, как предлагает Дэвид Форрес в докладе «Регулируемое развитие нанотехнологии», с которым можно ознакомиться на сайте www.foresight.org/NanoRev/Forrest1989.html: «Если бы мы использовали строгую ответственность в качестве альтернативы для регулирования, ни один исследователь не смог бы взять на себя издержки риска (разрушения биосферы), так что теоретически деятельность по разработке нанотехнологии не следует продолжать вообще». Анализ форреста оставляет в качестве альтернативы лишь правительственное регулирование – мысль не слишком приятная.


[Закрыть] (1997).

Clarke А. С. Presidents, Experts, and Asteroids//Science. 1998. June, 5.

Doty P. The Forgotten Menace: Nuclear Weapons Stockpiles Still Represent the Biggest Threat to Civilisation // Nature. 1999. December, 9 (402).

DrexlerE. Engines of Creation. Anchor, 1987.

Drexier E., Peterson Ch., Pergamint G. Unbounding the Future: The Nanotechnology Revolution. Quill, 1993.

Dyson G. Darwin Among the Machines. Perseus Publishing, 1998.

Easterbrook G. Food for the Future: Someday, rice will have built-in vitamin A. Unless the Luddites win // The New York Times. 1999. November, 19.

Else J. The Day After Trinity: J. Robert Oppenheimer and The Atomic Bomb: www.pyramiddirect.com.

Forrest D. Regulating Nanotechnology Development: www.foresight.org/NanoRev/Forrest1989.html.

Garrett L The Coming Plague: Newly Emerging Diseases in a World Out of Balance. Penguin, 1994.

GelernterD. Drawing Life: Surviving the Unabomber. Free Press, 1997.

Hamilton E. The Greek Way. W. W. Norton, 1942.

HillisD. Test of Time //Wired. 2000. March (8.03).

Kauffman S. Self-replication: Even Peptides Do It// Nature. 1996. August, 8 (382): www.santafe.edu/sfi/People/kauffman/sak-peptides.html.

Leslie J. The End of the World: The Scince and Ethics of Human Extinction. Routledge, 1996.

LovinsA. A Tale of Two Botanies//Wired. 2000. April (8.04).

Meselson M. The Problem of Biological Weapons. Presentation to the 1818th State Meeting of the American Academy of Arts and Sciences, January 13, 1999: minerva.amacad.org/archive/bulletin4.htm.

Ник Востром
A HE ЖИВЕМ ЛИ МЫ В МАТРИЦЕ?
ДОКАЗАТЕЛЬСТВО МЕТОДОМ МОДЕЛИРОВАНИЯ

Почти каждый зритель «Матрицы» хотя бы в течение секунды или пары секунд допускает неприятную возможность того, что он может на самом деле жить в Матрице. Философ из Йельского университета Ник Востром тоже рассматривает эту возможность и приходит к выводу, что она гораздо более вероятна, чем вы могли бы себе вообразить.

«Матрица» знакомит нас со странным и приводящим в ужас сценарием. Человечество лежит в коматозном состоянии в каких-то коконах, а каждая деталь реальности определяется и контролируется враждебными ему компьютерами.

Для большинства зрителей этот сценарий интересен как прием научной фантастики, невероятно далекой от всего, что существует сегодня или, скорее всего, появится в будущем. Однако после тщательного обдумывания подобный сценарий перестает казаться немыслимым. Он очень даже вероятен.

В одной из своих статей Рей Курцвейль обсуждает наблюдаемую тенденцию к развитию вычислительных мощностей с постоянно возрастающей скоростью. По прогнозам Курцвейля, практически неограниченное количество вычислительных мощностей станет доступным в течение следующих пятидесяти лет. Давайте предположим, что Курцвейль прав и рано или поздно человечество создаст практически безграничные вычислительные мощности. Для целей этой дискуссии не важно, когда это произойдет. На эти разработки может уйти сто, тысяча или миллион лет.

Как отмечается в статье Курцвейля, безграничные вычислительные возможности расширят способности человечества до невероятной степени. Эта цивилизация станет «постчеловеческой» и будет способна на необычайные технологические свершения.

Постчеловеческая цивилизация может принять различные формы. Она может оказаться во многом похожей на нашу современную цивилизацию или радикально от нее отличаться. Разумеется, почти невозможно предсказать, как будет развиваться подобная цивилизация. Но одно мы знаем точно: постчеловеческая цивилизация будет располагать доступом к практически бесконечным вычислительным мощностям.

Постчеловеческой цивилизации может оказаться по силам превращать планеты и другие астрономические объекты, в сверхмощные компьютеры. В данный момент сложно с уверенностью определить «потолок» тех вычислительных мощностей, которые могут оказаться доступными постчеловеческим цивилизациям.

1. В этой статье представлено доказательство методом моделирования, согласно которому по крайней мере одно из следующих утверждений верно: весьма вероятно, что как биологический вид человечество начнет исчезать с лица земли, не достигнув «постчеловеческой» стадии.

2. Очень маловероятно, что любая постчеловеческая цивилизация запустит большое количество симуляций (моделей), имитирующих ее эволюционную историю (или, следовательно, вариантов этой истории).

3. Мы почти наверняка живем в компьютерной симуляции.

Давайте рассмотрим эти три утверждения поочередно. Первое утверждение сформулировано прямо: если мы уничтожим самих себя в результате ядерной войны, биологической катастрофы или нанотехнологического катаклизма, то остальные пункты этого доказательства к делу не относятся. Однако давайте предположим, что это утверждение неверно, и, следовательно, мы сумеем избежать самоуничтожения и вступим в постчеловеческую эпоху.

Сущность человеческой цивилизации в условиях постчеловеческой эпохи невозможно представить во всей полноте. Точно так же нельзя вообразить разнообразные способы использования прктически неограниченных вычислительных мощностей. Но давайте рассмотрим один из них – создание сложных симуляций человеческой цивилизации.

Представим себе историков будущего, моделирующих различные сценарии исторического развития. Это будут не сегодняшние упрощенные модели. С учетом огромных вычислительных возможностей, которыми будут располагать эти историки, в их распоряжении могут оказаться очень подробные симуляции, в которых будет различимо каждое здание, каждая географическая деталь, каждая личность. И каждый из этих индивидуумов будет наделен тем же уровнем вычислительных мощностей, сложности и интеллекта, как живой человек. Как и агент Смит, они будут созданы на основе программного обеспечения, но при этом будут обладать психическими характеристиками человека. Конечно, они могут так никогда и не осознать, что являются программой. Чтобы создать точную модель, нужно будет сделать восприятие смоделированных личностей неотличимым от восприятия людей, живущих в реальном мире.

Подобно жителям Матрицы, эти люди будут существовать в искусственном мире, считая его реальным. В отличие от сценария с Матрицей эти люди будут полностью состоять из компьютерных программ.

Однако будут ли эти искусственные личности настоящими «людьми»? Будут ли они разумными независимо от уровня их вычислительных мощностей? Будут ли они наделены сознанием?

Реальность – это то, с чем никто на самом деле не знаком. Однако философы, изучающие сознание, обычно делают допущение о его независимости от субстрата. По существу это означает, что сознание может зависеть от многих вещей – от знания, интеллекта (вычислительных мощностей), психической организации, отдельных деталей логической структуры и т. д., – но одним из условий, которые для сознания не обязательны, является биологическая ткань. Воплощение сознания в основанных на углероде биологических нейронных сетях – это не необходимое его свойство. В принципе того же самого эффекта можно добиться от основанных на кремнии процессоров, встроенных в компьютер.

Многим людям, знакомым с современной компьютерной техникой, идея о программном обеспечении, наделенном сознанием, кажется невероятной. Однако это интуитивное недоверие является продуктом относительно жалких возможностей сегодняшних компьютеров. Благодаря продолжающемуся усовершенствованию самих компьютеров и программного обеспечения компьютеры будут становиться все в большей степени разумными и сознательными. На самом деле с учетом склонности человека одушевлять все, что хотя бы отдаленно похоже на человека, люди могут начать наделять компьютеры сознанием задолго до того, как это станет реальностью.

Аргументы в пользу «независимости от субстрата» изложены в соответствующей философской литературе, и я не буду пытаться их воспроизводить в данной статье. Однако я укажу на то, что это допущение разумно. Клетка мозга – это физический объект, обладающий определенными характеристиками. Если мы придем к полному пониманию этих характеристик и научимся воспроизводить их электронным путем, тогда, без сомнения, наша электронная мозговая клетка сможет выполнять те же функции, что и клетка органического происхождения. А если это можно проделать с одной клеткой мозга, то почему бы нельзя повторить ту же самую операцию с целым мозгом? А если так, то почему бы получившейся системе не обладать таким же сознанием, как у живого мозга?

Эти предположения очень любопытны. Располагая достаточными вычислительными мощностями, постлюди могут создать модели исторических личностей, у которых будет полноценное сознание и которые будут считать себя биологическими людьми, живущими в более раннем времени. Этот вывод подводит нас к утверждению под номером два.

Первое утверждение предполагает, что мы проживем достаточно долго, чтобы создать постчеловеческую цивилизацию. Эта постчеловеческая цивилизация получит возможность разрабатывать симуляции реальности, подобные Матрице. Во втором утверждении отражена возможность того, что постлюди решат не разрабатывать эти модели.

Мы можем вообразить, что в постчеловеческую эпоху интерес к разработке исторических симуляций исчезнет. Это означает существенные изменения в мотивации людей постчеловеческой эпохи, ибо в наше время, разумеется, найдется немало людей, которым бы захотелось запустить модели предшествующих эпох, если бы они могли позволить себе это сделать. Однако, вероятно, многие из наших человеческих желаний покажутся глупыми любому постчеловеку. Может быть, симуляции прошлого будут представлять незначительную научную ценность для постчеловеческой цивилизации (что не так уж невероятно с учетом ее несоизмеримого интеллектуального превосходства), и, может быть, постлюди будут считать развлечения очень неэффективным способом получения удовольствия, которое можно получить куда проще – при помощи непосредственной стимуляции центров наслаждения головного мозга. Этот вывод предполагает, что постчеловеческие общества будут весьма отличаться от человеческих: в них будут отсутствовать относительно обеспеченные и независимые субъекты, владеющие всей полнотой человеческих желаний и свободные действовать под их влиянием.

При другом раскладе возможно, что у некоторых лостлюдей может появиться желание запустить симуляции прошлого, однако постчеловеческие законы помешают им сделать это. Что приведет к принятию подобных законов? Можно предположить, что все более развитые цивилизации идут по пути, который приводит их к признанию этического запрета на запуск моделей, имитирующих историческое прошлое, из-за страданий, которые выпадут на долю героев подобной модели. Однако с нашей сегодняшней точки зрения не очевидно, что создание человеческой расы есть безнравственное действие. Наоборот, мы склонны считать существование нашей расы процессом огромной этической ценности. Более того, одного существования этических воззрений об аморальности запуска симуляций прошлого недостаточно. К нему должно добавиться наличие такой социальной структуры в общецивилизационном масштабе, которая позволяет эффективно запрещать деятельность, которая считается безнравственной.

Итак, поскольку существует возможность того, что второе утверждение верно, в этом случае мотивации постлюдей либо будут разительно отличаться от мотиваций людей, либо постлюди будут должны наложить тотальный запрет на симуляции прошлого и эффективно контролировать действие этого запрета. Более того, этот вывод должен быть справедливым почти для всех постчеловеческих цивилизаций во Вселенной.[199]199
  Bostrom N. Existential Risks; Analyzing Human Extinction Scenarios and Related Hazards // Journal of Evolution and Technology. 2002. Vol. 9: www.jetpress.org.


[Закрыть]

Следовательно, нам необходимо рассмотреть следующую вероятность: не исключено, что у цивилизаций человеческого уровня есть шанс стать постчеловеческими; далее, по крайней мере в некоторых постчеловеческих цивилизациях найдутся отдельные личности, которые запустят симуляции прошлого. Это подводит нас к нашему третьему утверждению: мы почти наверняка живем в компьютерной симуляции. К этому выводу мы приходим вполне естественно.

Если постлюди запускают симуляции прошлого, скорее всего, эти симуляции действуют в очень широких масштабах. Не составляет труда представить миллионы индивидуумов, запускающих тысячи вариантов симуляций на сотни различных тем, и в каждой такой симуляции будут задействованы миллиарды смоделированных личностей. Этих искусственных людей наберется многие триллионы. Все они будут считать, что они настоящие и живут в более раннем времени.

Сейчас, в 2003 году, на планете живет примерно шесть миллиардов биологических людей. Очень даже возможно, что в постчеловеческую эпоху триллионы созданных на основе компьютерных программ людей будут жить в смоделированном для них 2003 году, убежденные в том, что они биологического происхождения – точно такие же, как вы и я. Математика здесь проста, как дважды два: подавляющее большинство этих людей ошибаются; они считают, что они из плоти и крови, но на самом деле они таковыми не являются. Нет причин исключать нашу цивилизацию из этих подсчетов. Почти все шансы сводятся к тому, что мы живем в смоделированном 2003 году и что наши физические тела являются компьютерной иллюзией.