Текст книги "Прими красную таблетку: Наука, философия и религия в «Матрице»"

Автор книги: Гленн Йеффет

сообщить о нарушении

Текущая страница: 18 (всего у книги 21 страниц)

Как скоро можно было бы создать разумного робота? Судя по всему, надвигающиеся прорывы в области вычислительных технологий позволяют сделать это к 2030 году. А от разумного робота остается всего лишь маленький шаг до создания самостоятельного вида роботов, то есть разумных роботов, способных воспроизводить самих себя.

Вторая мечта робототехники предполагает, что мы постепенно заменим самих себя своей роботизированной технологией, достигнув почти бессмертия при помощи загрузки своего сознания в машину; именно к этому процессу, по мнению Дэнни Хиллиса, мы с течением времени привыкнем, и именно этот процесс со вкусом описывает Рей Курцвейль в книге «Эпоха одухотворенных машин».[188]188
  Мы начинаем усматривать намеки на это в имплантации компьютерных устройств в человеческое тело, как показано на обложке журнала Wired за февраль 2002 года.


[Закрыть]

Но если мы загрузимся в нашу технологию, сколько остается шансов того, что мы останемся после этого сами собой или даже людьми? Куда вероятнее, как мне кажется, что роботизированное существование не будет похоже на человеческое бытие в любом нашем понимании, что роботы ни в каком отношении не будут нашими детьми, что на этом пути мы можем утратить нашу человеческую природу.

Генная инженерия обещает настоящую революцию в сельском хозяйстве: увеличить урожаи и сократить использование пестицидов; вывести десятки тысяч новых видов бактерий, растений, вирусов и животных; заменить воспроизводство или дополнить его клонированием; придумать способы лечения многих заболеваний; увеличить продолжительность жизни и ее качество и многое, многое другое. Сейчас мы знаем наверняка, что эти кардинальные перемены в биологических науках неизбежны, и они бросят вызов всем нашим представлениям о жизни.

Такие технологии, как клонирование людей, особенно заставляют нас задуматься о серьезных морально-этических проблемах, с которыми мы сталкиваемся. Например, если бы мы создали на основе самих себя несколько отдельных и неравных видов, воспользовавшись возможностями генной инженерии, тем самым мы поставили бы под угрозу само понимание равенства, которое является краеугольным камнем нашей демократии.

Если принять во внимание невероятные возможности генной инженерии, тогда можно не удивляться тому, что ее применение ставит перед нами важные вопросы безопасности. Недавно мой друг Эмори Ловинс совместно с Хантером Ловинсом написал редакционную статью. В этой статье отдельные из опасных последствий использования генной инженерии рассматриваются с точки зрения экологии. Авторов статьи в том числе тревожит, что «новая ботаника оценивает развитие растений по их экономическому, а не эволюционному успеху».[189]189
  Lovins, p. 247.


[Закрыть] На протяжении долгого времени Эмори занимался изучением эффективности использования энергии и ресурсов, используя системный подход к созданным человеком системам. Этот подход часто помогает находить простые и разумные решения проблем, которые кажутся трудными, и он с пользой применяется и в этой области.

Ознакомившись со статьей Ловинса, я увидел в New York Times статью Грегга Истербрука о генетически улучшенных продуктах под заголовком «Пища будущего: когда-нибудь в рисе будет содержаться витамин А. Если луддиты не победят».

Принадлежат ли Эмори и Хантер Ловинс к луддитам? Конечно нет. Я считаю, что мы все согласились бы с тем, что золотой рис, содержащий витамин А, – это, пожалуй, хорошая штука, если этот рис выводить с надлежащей осторожностью и с учетом возможных опасных последствий, связанных с переносом генов за пределы конкретных видов.

Понимание опасностей, неотъемлемо присущих генной инженерии, начинает возрастать, как сказано в статье Ловинсов. Общественность осознает их и тревожится по поводу генетически улучшенных продуктов. Судя по всему, люди отвергают идею о том, что можно выпускать подобные продукты без соответствующей маркировки.

Однако генная инженерия успела уйти далеко вперед. Как отмечают Ловинсы, Министерство сельского хозяйства США уже одобрило неограниченное производство около пятидесяти генетически улучшенных сортов зерновых. В наше время более половины мирового урожая соевых бобов и треть кукурузы содержат гены, внедренные из других форм жизни.

Хотя здесь существует еще много важных проблем, мой собственный интерес к генной инженерии более узок: генная инженерия волнует меня потому, что она дает возможность – это может быть военная разработка, случайность или намеренный террористический акт – создать «белую чуму».

Многие чудеса нанотехнологии впервые описал в своем выступлении 1959 года нобелевский лауреат, физик Ричард Фейн-ман. Впоследствии текст его выступления был опубликован под заголовком «На дне есть много места». В середине 1980-х на меня оказала огромное впечатление книга Эрика Дрекслера «Машины созидания», в которой он прекрасно описал, как манипулирование материей на атомном уровне может создать утопическое будущее всеобщего изобилия. В таком обществе все производится задешево, и почти со всеми болезнями, которые только можно вообразить, или физическими проблемами справляются при помощи нанотехнологии и искусственных интеллектов.

В следующей книге под названием «Раздвигая пределы будущего: Нанотехнологическая революция» (здесь Дрекслер выступил в качестве соавтора) описываются отдельные изменения, которые могут произойти в мире, где мы будем располагать молекулярными ассемблерами.[190]190
  # В данном случае ассемблер – это сборщик.


[Закрыть] Ассемблеры позволили бы нам получать невероятно дешевую солнечную энергию, лечить рак и простуду, стимулируя иммунную систему человека, существенным образом помочь очистить окружающую среду от загрязнения, производить потрясающе недорогие карманные суперкомпьютеры – на самом деле ассемблеры производили бы любой продукт по цене не больше, чем цена изделий из дерева. Космические полеты стали бы доступнее сегодняшних трансокеанских путешествий. Можно было бы возродить исчезнувшие биологические виды.

Я помню, что после прочтения «Машин созидания» я хорошо относился к нанотехнологи. Как технологу она давала мне ощущение спокойствия. Другими словами, нанотехнология показывала нам, что немыслимый прогресс возможен и, наверное, неизбежен. Раз нанотехнология была нашим будущим, я не чувствовал особого давления со стороны многочисленных проблем, требующих решения в настоящем. Я бы добрался до утопичного будущего Дрекслера в свое время. Возможно, я наслаждался жизнью больше, живя здесь и сейчас. С учетом таких представлений о будущем было бессмысленно не спать ночами.

Кроме того, взгляд Дрекслера на будущее позволил мне изрядно повеселиться. Время от времени я принимался разрисовывать чудеса нанотехнологии другим, кто еще не слышал о них. Подразнив их всеми диковинными вещами, описанными Дрекс-лером, я давал слушателям свое собственное домашнее задание: «Используйте нанотехнологию для создания вампира; в качестве дополнительного задания изобретите противоядие против него».

Все эти чудесные достижения несли с собой и явные опасности. Я остро осознавал их. Как сказал я на конференции по нанотехнологии в 1989 году: «Мы не можем просто заниматься своей наукой и не беспокоиться об этических проблемах».[191]191
  Первая конференция по нанотехнологии в институте Форсайта в октябре 1989 года. Доклад назывался «Будущее вычислений». Опубликован в книге: Crandall В. С, Lewis J. (eds.) Nanotechnology: Research and Perspectives. MIT Press, 1992. P. 269. См. также: www.foresight.org/Conferences/MNT01/ Nano1.html.


[Закрыть] Однако мои последующие беседы с физиками убедили меня в том, что нанотехнология может не заработать – или, по крайней мере, в рабочее состояние она придет нескоро. Вскоре после конференции я поехал в Колорадо, в «норку скунса»,[192]192
  # Маленький, часто изолированный исследовательский отдел какого-либо предприятия, функционирующий полусамостоятельно, практически без контроля начальства.


[Закрыть] которую сам же основал. Мое внимание переключилось с программного обеспечения на Интернет. Особенно меня занимали идеи, впоследствии воплотившиеся в таких продуктах, как Java и Jini.

А потом, прошлым летом, Бросл Хасслакер сообщил мне, что молекулярная электроника наноуровня перешла в практическую плоскость. Это была настоящая новость, по крайней мере лично для меня и, как мне думается, для многих людей. Она радикально изменило мое мнение о нанотехнологии и заставила обратиться к «Машинам созидания». Перечитывая книгу Дрекслера спустя более десяти лет, я был потрясен, поняв, насколько мало я запомнил из длинной главы под названием «Опасности и надежды», где обсуждалась возможность того, что нанотехнологии могут стать «машинами разрушения». И действительно – когда я перечитываю эти предостерегающие строки сегодня, я испытываю потрясение, осознавая, насколько наивными кажутся некоторые меры предосторожности, предложенные Дрекслером, и насколько серьезнее, на мой взгляд, эта опасность сегодня, чем даже по оценкам Дрекслера. (Предвидев и описав многие технические и политические проблемы, касающиеся нанотехнологии, в конце 1980-х Дрекслер начал работать в Институте Форсайта, чтобы «помочь подготовить общество к спрогнозированным передовым технологиям» – самое главное, к нанотехнологии.)

Похоже, весьма вероятно, что несущий с собой многие возможности прорыв к ассемблерам произойдет в течение следующих двадцати лет. Следует ожидать быстрое развитие молекулярной электроники – нового раздела нанотехнологии, где отдельные молекулы являются элементами схемы. За это десятилетие молекулярная электроника станет чрезвычайно прибыльной отраслью, что вызовет увеличение инвестиций во всю сферу нанотехнологии.

К сожалению, как и в случае с ядерной технологией, куда легче изобретать деструктивные способы применения нанотехнологии, чем конструктивные. Очевидно, что нанотехнологию можно использовать в военных и террористических целях; чтобы запустить нанотехнологическое устройство массового уничтожения, не надо идти на самоубийство. Можно сделать так, чтобы подобные устройства работали избирательно, поражая, к примеру, лишь определенную географическую территорию либо группу людей с определенным набором генов.

Непосредственный результат фаустовской сделки по обретению могущества через нанотехнологию состоит в возникновении серьезнейшей опасности – риска того, что мы можем уничтожить биосферу, от которой зависит жизнь на планете. Как объяснял Дрекслер:

«Растения» с «листьями», чья эффективность не превышает сегодняшние солнечные элементы, могли бы вытеснить настоящие растения, заполонив биосферу немыслимой листвой. Буйные всеядные «бактерии» могли бы вытеснить настоящих бактерий: они могли бы распространяться как разносимая ветром пыльца, стремительно размножаться и превратить биосферу в пыль за считанные дни. Опасные репликаторы тоже могли бы с легкостью оказаться непокорными, небольшими и быстро распространяющимися, и их будет невозможно остановить – по крайней мере, если мы не подготовимся должным образом. У нас и без того немало проблем со сдерживанием вирусов и плодовых мушек.

Среди знатоков нанотехнологии эта угроза приобрела название «проблема серой слизи». Хотя массы неконтролируемых репликаторов не обязательно могут оказаться серыми или липкими, термин «серая слизь» подчеркивает, что репликаторы, способные уничтожить жизнь, могут оказаться менее приятными, чем обыкновенные сорняки. Они могут стоять выше по эволюционной лестнице, но это не обязательно делает их ценными.

Угроза «серой слизи» четко говорит об одном: мы не можем допустить, чтобы с воспроизводящимися ассемблерами происходили катастрофы.

«Серая слизь» была бы, без сомнения, угнетающим завершением нашей человеческой истории на Земле. Это было бы гораздо хуже простого огня или льда или чего-нибудь такого, что может произойти в результате обычной аварии в лаборатории.[193]193
  В своем романе «Колыбель для кошки» (1963) Курт Воннегут описал катастрофу, в ходе которой замерзает Мировой океан и которая происходит в результате распространения похожей на «серую слизь» разновидности льда под названием «лед-9», твердеющей при более высокой, чем обычно, температуре.


[Закрыть] Мдаа!..

Именно сила деструктивного воспроизводства, кроющаяся в генетике, нанотехнологии и робототехнике, заставляет нас делать перерыв. Самовоспроизводство – это образ действия генной инженерии, которая использует клеточную структуру для воспроизводства облика клетки. Именно самовоспроизводство представляет собой главную опасность, лежащую в основе угрозы «серой слизи» в нанотехнологии. Истории об обезумевших роботах наподобие Борга, размножающихся либо мутирующих для того, чтобы выйти из-под ограничений, заложенных в них их создателями, заняли прочное место в наших научно-фантастических книгах и фильмах. Может даже статься так, что самовоспроизводство – более фундаментальный процесс, чем мы думаем. Следовательно, его труднее – или даже невозможно – контролировать. В недавней статье Стюарта Кауффмана «Самовоспроизводство: Даже пептиды делают это», опубликованной в журнале Nature, обсуждается следующее открытие: оказывается, состоящий из 32 аминокислот пептид способен «автокатализировать свой собственный синтез». Мы не знаем, насколько распространена такая способность, однако Кауффман отмечает, что это может намекать на «путь к самовоспроизводящимся молекулярным системам на основе гораздо более широкой, чем парные основания нуклеиновых кислот по принципу комплементарности Уотсона-Крика».[194]194
  Kauffman, p. 496.


[Закрыть]

На самом деле мы уже давно располагаем не вызывающими сомнений предупреждениями об опасностях, которые таятся в широком распространении знания о GNR-технологиях. Нам также известно о возможности такого знания в одиночку спровоцировать массовое уничтожение. Однако эти предупреждения не были широко опубликованы, так что публичное обсуждение этой проблемы явно не соответствовало действительному положению дел. Публиковать предупреждения о грозящих опасностях – дело невыгодное.

NBC-технологии, использовавшиеся в оружии массового уничтожения в XX веке, были и остаются, в основном, военными и разрабатываемыми в правительственных лабораториях. GNR-тех-нологии XXI века резко отличаются от своих предшественниц: их явно можно использовать в коммерческих целях, и за редким исключением они разрабатываются в различных частных корпорациях. В наш век триумфальной коммерциализации технология – вместе со своей служанкой наукой – обеспечивает нас чередою почти волшебных изобретений, обладающих феноменальной эффективностью. Мы активно добиваемся осуществления обещаний, заявленных этими новаторскими технологиями, в рамках теперь уже не вызывающей возражений системы глобального капитализма, его разнообразных экономических стимулов и давления конкуренции.

Впервые в истории нашей планеты настал такой момент, когда в результате собственных сознательных действий наш вид начинает представлять опасность для самого себя – равно как и для огромного количества других видов.

Знакомая последовательность событий может разворачиваться во многих мирах: новая планета безмятежно вращается вокруг своей звезды; на ней начинает медленно формироваться жизнь; раскручивается калейдоскопическая процессия, состоящая из многообразных живых существ; возникает интеллект, который, по крайней мере, до самого последнего времени обладал огромной ценностью для выживания; а потом на планете изобретают технологию. Их осеняет, что есть такая вещь, как законы Природы, что эти законы можно открыть при помощи эксперимента и что знание этих законов может как спасать, так и отнимать жизни, причем в беспрецедентных масштабах. Они осознают, что наука дает огромные возможности. В мгновение ока они создают приспособления, способные изменить мир. Некоторые существующие на планете цивилизации видят, что это движение напролом, накладывают ограничения на то, что можно делать и что категорически нельзя, и благополучно переживают это опасное время. Другие, не настолько удачливые или не настолько осторожные, погибают.

Это написал Карл Саган в книге «Бледная голубая точка» (1994). В книге представлен его взгляд на будущее человечества. Я лишь сейчас начинаю понимать, насколько глубоки оказались его прозрения и насколько меня мучает то, что я больше никогда не услышу этот голос. При всем его красноречии голос Сагана всего лишь голос обычного здравого смысла – этого качества, как и умеренности, похоже, недостает ведущим апологетам технологий XXI века.

Я помню, когда был маленьким, моя бабушка была настроена резко против злоупотребления антибиотиками. Еще до Первой мировой войны бабушка начала работать медсестрой, и здравый смысл подсказывал ей, что прием антибиотиков, пока он не стал абсолютной необходимостью, может повредить.

Не то что бы она была врагом прогресса. За свою почти семидесятилетнюю карьеру медсестры она повидала немало достижений прогресса; мой страдавший диабетом дед много выиграл от усовершенствованных методов лечения этой болезни, которое стало возможным уже на его веку. Но бабушка, как многие рассудительные люди, наверное, подумала бы, что сейчас мы поступаем очень самоуверенно, разрабатывая роботизированные «виды-заменители», когда очевидно, что мы не вполне справляемся и с относительно более простыми вещами. И не меньше усилий у нас уходит на то, чтобы справляться с самими собой, – или даже на понимание самих себя.

Теперь я знаю, что она чувствовала суть жизненного порядка и ощущала необходимость жить с уважением к этому порядку. С этим уважением приходит и необходимая умеренность, которой нам с нашей наглостью начала XXI века, не хватает – нам на беду. Основанный на этом уважении здравомыслящий взгляд на вещи нередко оказывается верным и обгоняет научные доказательства. Очевидная хрупкость и различная неэффективность созданных человеком систем должны заставить нас сделать паузу; хрупкость систем, над которыми я работаю, несомненно сдерживает меня.

Нам следовало бы выучить урок, полученный в результате создания первой атомной бомбы и последовавшей за этим гонки вооружений. Мы не очень-то хорошо усвоили его, и его сходство с нашей теперешней ситуацией вызывает беспокойство.

Разработкой первой атомной бомбой руководил выдающийся физик Дж. Роберт Оппенгеймер. Естественно, Оппенгеймера не интересовала политика, однако он начал болезненно осознавать, по его мнению, серьезную угрозу западной цивилизации со стороны Третьего рейха, угрозу действительно нешуточную из-за возможности попадания ядерного оружия в руки Гитлера. Побуждаемый этим опасением, Оппенгеймер приехал в Лос-Аламос, отдав в распоряжение союзников весь свой мощный интеллект, страсть к физике и харизматические качества руководителя. Он возглавил осуществленную в кратчайший срок программу исследований, в которой приняли участие величайшие умы современности, и добился быстрого создания бомбы.

Поражает то, насколько естественно продолжились эти исследования после того, как первоначальный их стимул исчез. Вскоре после победы в Европе у Оппенгеимера состоялась встреча с несколькими физиками, полагавшими, что, возможно, эти исследования следует прекратить, но Оппенгеймер доказал необходимость их продолжения. Его доводы могут показаться несколько странными: разработки по созданию ядерной бомбы нужно продолжать не из-за опасности крупных военных потерь при высадке в Японии, а потому, что Организации Объединенных Наций, которая в то время создавалась, следует учитывать возможности атомного оружия. Более вероятный аргумент в пользу продолжения проекта представлял накопленный к тому моменту движущий импульс исследований: первое атомное испытание, «Тринити», вот-вот должно было состояться.

Известно, что первое атомное испытание физики продолжали готовить, несмотря на существование множества потенциальных опасностей. Изначально их беспокоило то, что результатом атомного взрыва могло стать воспламенение атмосферы. Это показывали расчеты Эдварда Теллера. Новые, исправленные, вычисления свели риск уничтожения мира к вероятности три из миллиона. (По словам Теллера, позже он смог вообще отбросить вероятность поджога атмосферы.) Оппенгеймер очень волновался за результаты «Тринити» и поэтому договорился насчет возможной эвакуации населения юго-западной части штата Нью-Мексико. И, разумеется, существовала несомненная опасность развязывания гонки ядерных вооружений.

Не прошло и месяца после первого успешно завершившегося испытания, как две атомные бомбы камня на камне не оставили от Хиросимы и Нагасаки. Некоторые ученые предполагали, что бомба предназначалась просто для демонстрации силы, а не для бомбардировки японских городов, указывая на то, что этот шаг мог бы существенно повысить шансы установления контроля над вооружениями после войны. Однако это ни к чему не привело. Трагедия Пёрл-Харбора была все еще свежа в памяти американцев, и поэтому президенту Трумэну было бы чрезвычайно трудно приказать провести всего лишь демонстрацию нового оружия, а не использовать его так, как это было сделано: желание быстро покончить с войной и спасти жизни людей, которые могли бы погибнуть при любом варианте войны с Японией, оказалось сильнее. Однако не исключено, что на самом деле все было гораздо проще. Как впоследствии признался физик Фримен Дайсон: «Причина того, что она была сброшена, заключалась на самом деле в том, что ни у кого недостало ни мужества, ни дальновидности для того, чтобы сказать "нет"».

Важна понять, насколько были шокированы физики последствиями бомбардировки Хиросимы 6 августа 1945 года. По их собственным словам, они переживали самые разные эмоции: сначала они ощутили удовлетворение от того, что бомба сработала; потом их охватил ужас при мысли о том, что все люди на месте взрыва погибли; затем у них появилась уверенность в том, что ни в коем случае нельзя сбрасывать вторую бомбу. Но вторая бомба все же была сброшена – на Нагасаки, всего лишь спустя три дня после бомбардировки Хиросимы.

В ноябре 1945 года, когда прошло три месяца после ядерной бомбардировки двух японских городов, Оппенгеймер по-прежнему занимал твердую научную позицию, утверждая следующее: «Невозможно быть ученым, если вы не будете считать, что знание о Вселенной и могущество, которое это знание дает, – это нечто, обладающее существенной ценностью для человечества, и что вы будете всячески распространять это знание и готовы нести ответственность за последствия».

Вместе с другими учеными Оппенгеймер продолжил работать над докладом Ачесона-Лилиенталя, в котором, как пишет в своей последней книге «Видение технологии» Ричард Роде, «был найден способ предотвратить секретную гонку ядерных вооружений без обращения за помощью к вооруженному всемирному правительству». Доклад предлагал отказаться от разработок ядерного оружия в отдельных государствах в пользу международного агентства.

Из этого предложения родился план Баруха, который в июне 1946 года был поддержан ООН. Однако этот план так никогда и не был принят (возможно, потому, что, как предполагает Роде, Бернард Барух «настаивал на обременении плана договорными санкциями» и тем самым обрек его на неизбежную гибель, хотя «почти наверняка он и без того был бы отвергнут сталинистской Россией»). Другие попытки совершить ощутимые шаги к интернационализации ядерного потенциала с целью предотвращения гонки вооружений наталкивались либо на американских политиков и внутреннее недоверие, либо на недоверие со стороны Советов. Возможность избежать гонки вооружений была утрачена, причем довольно быстро.

Два года спустя, в 1948 году, судя по всему, Оппенгеймер стал думать по-другому: «В каком-то грубом смысле, который не могут полностью уничтожить ни вульгарность, ни юмор, ни преувеличение, физики познали грех; и от этого знания они уже не смогут избавиться».

В 1949 году Советы взорвали свою атомную бомбу. К 1955 году и Соединенные Штаты, и Советский Союз провели испытания водородной бомбы, которую можно было доставить к месту взрыва самолетом. Так началась гонка ядерных вооружений.

Почти двадцать лет назад в документальном фильме «День после "Тринити"» Фримен Дайсон суммировал научные позиции, которые подвели нас к ядерной пропасти:

«Я сам это почувствовал. Яркий блеск ядерного оружия. Перед этим блеском невозможно устоять, когда подходишь к ядерному оружию как ученый. Ощущать, что оно вот здесь, в твоих руках, освобождать его энергию, питающую звезды, позволить ей выполнить твой приказ. Совершить эти чудеса, поднять миллион тонн горной породы в небо. Это нечто такое, что вызывает у людей иллюзию безграничной власти, и в каком-то отношении это чувство ответственно за все наши неприятности: именно то, что можно назвать техническим высокомерием, овладевает людьми, когда они видят, чту они способны сделать при помощи своего разума».[195]195
  Else.


[Закрыть]

Как и тогда, сейчас мы являемся создателями новых технологий и вершителями судеб воображаемого будущего. На этот раз нами движут огромные финансовые интересы и глобальная конкуренция, и мы идем вперед, несмотря на явный риск и на то, что мы вряд ли понимаем, что это значит – жить в мире, представляющем собой практический результат того, что мы сейчас создаем и изобретаем.

В 1947 году на обложке The Bulletin of the Atomic Scientists начали печатать «Часы конца света». На циферблате этих часов была выведена оценка относительной ядерной опасности, с которой мы столкнулись, больше чем на пятьдесят лет вперед с учетом изменений международной обстановки. Стрелки часов передвигали пятнадцать раз. Сегодня они показывают без девяти минут полночь, отражая не исчезнувшую и реальную опасность, проистекающую от ядерного оружия. Недавнее пополнение перечня стран, обладающих ядерным оружием, за счет Индии и Пакистана повысило угрозу провала концепции нераспространения ядерного оружия. Эту опасность и отражают стрелки, в 1998 году приблизившиеся к полуночи.

Насколько велика грозящая нам опасность со стороны не только ядерного оружия, но и со стороны новых технологий в наше время? Насколько велик риск вымирания человечества?

Изучением этого вопроса занимался философ Джон Лесли. Он пришел к выводу, что риск исчезновения человечества составляет по крайней мере 30 %,[196]196
  Эта оценка содержится в книге Лесли «Конец мира: Наука и этика человеческого вымирания». Лесли отмечает, что возможность исчезновения человечества значительно возрастает, если мы согласимся с аргументом Брэн-дона Картера в пользу Судного дня. Вкратце он звучит так: «Мы должны с неохотой признать, что мы появились исключительно рано, к примеру, на 0,001 % раньше всех цивилизаций, которые когда-нибудь будут существовать. Это могло бы заставить нас задуматься о том, что человечество не просуществует еще много столетий, если будет в одиночку осваивать галактику. Аргумент Картера в пользу Судного дня не говорит о новых опасностях, если взять его как таковой. Это просто довод для пересмотра оценок, которые мы выводим, рассматривая различные возможные опасности».


[Закрыть] тогда как Рей Курцвейль полагает, что у нас есть «больше, чем даже шанс, справиться с этим», да еще и с той оговоркой, что «его всегда обвиняли в оптимизме». Эти оценки нельзя никак назвать ободряющими. Ко всему прочему, они не учитывают возможность множества иных ужасных последствий помимо окончательного вымирания.

Столкнувшись с подобными оценками, кое-кто из серьезных людей уже говорит о том, что нам нужно просто как можно быстрее осваивать внеземные просторы. Мы бы колонизировали галактику, используя автоматические зонды фон Неймана, которые перелетали бы из одной звездной системы в другую, самовоспроизводясь во время перелетов. Этот шаг станет почти необходимостью через пять миллиардов лет (или раньше, если наша солнечная система испытает катастрофические потрясения в результате неминуемого столкновения нашей галактики с галактикой Андромеды через три миллиарда лет). Но если мы поверим на слово Курцвейлю и Моравеку, то подобное мероприятие станет необходимостью в середине этого столетия.

Каковы его моральные последствия? Если мы будем должны быстро покинуть Землю, чтобы спастись как вид, кто будет нести ответственность за судьбу оставшихся на планете (как-никак, это будет большая часть человечества)? И даже если мы рассеемся по звездам, не может ли случиться так, что мы увезем свои проблемы с собой, чтобы впоследствии обнаружить, что они никуда не делись? Судьба нашего вида на Земле и наша галактическая судьба кажутся неразрывно связанными друг с другом.

Другая идея заключается в том, чтобы воздвигнуть систему барьеров, защищающих нас от каждой из опасных технологий. Стратегическая оборонная инициатива, предложенная администрацией Рейгана, была попыткой разработки такого рода заслона от угрозы ядерной атаки со стороны Советского Союза. Однако, как заметил Артур Кларк, привлеченный к обсуждению этого проекта: «Хотя сооружение местных оборонительных систем, которые пропустили бы "всего лишь" несколько процентов баллистических ракет, может, и станет возможным при капиталовложениях, широко разрекламированная идея о создании "национального зонтика" была чушью. Луис Альварес, пожалуй, величайший ученый нашего столетия в области экспериментальной физики, сказал мне, что защитники этих концепций были "очень способными парнями, абсолютно лишенными здравого смысла"».

«Всматриваясь в свой часто замутненный магический кристалл, – продолжал Кларк, – я думаю, что тотальная оборона может стать реальной возможностью через столетие или около того. Однако разрабатываемая технология будет производить в качестве побочных продуктов оружие настолько опасное, что никого уже не будет заботить такая мелочь, как баллистические ракеты».[197]197
  Clarke, p. 526.


[Закрыть]

В «Машинах созидания» Эрик Дрекслер предложил создать активный нанотехнологический щит – нечто вроде иммунной системы для биосферы – для защиты от опасных всевозможных репликаторов, которые могут выбраться из лабораторий или созданы с каким-нибудь злым умыслом. Однако предложенный им щит будет представлять опасность сам по себе: ничто не сможет помешать ему вызвать сбой внутри иммунной системы и атаковать биосферу самостоятельноSclex_NotesFromBrackets_197.

Те же самые проблемы касаются и создания защитных средств от робототехники и генной инженерии. Данные технологии слишком мощны, чтобы от них можно было отгородиться в оставшееся для этого время; даже если бы существовала возможность ввести оборонительные средства в действие, их побочные эффекты стали бы представлять, по меньшей мере, такую же опасность, как те технологии, от которых мы пытаемся защититься.

Таким образом, все эти варианты являются или нежелательными, или невозможными, либо и тем, и другим вместе. Единственная реальная альтернатива, которую я вижу, – это ограничить разработки слишком опасных технологий путем ограничения нашего стремления к определенным видам знания.

Да, я знаю, что знание – это хорошо, и поиск новых истин – тоже. Мы ищем нового знания с древних времен. Аристотель начинает свою «Метафизику» с простого утверждения: «Все люди по своей натуре жаждут знания». На протяжении долгого времени мы соглашались с достоинствами открытого доступа к информации, потому что открытый доступ является основополагающей ценностью в нашем обществе. Мы признавали проблемы, связанные с попытками ограничения этого доступа и ограничения накопления новых знаний. В последнее время мы дошли до настоящего обожествления научного знания.

Однако если беспрепятственный доступ к информации и, следовательно, неограниченное познание ставит всех нас под угрозу исчезновения, элементарный здравый смысл требует, чтобы мы пересмотрели даже эти основные и существующие долгое время принципы, несмотря на отрицательные исторические прецеденты.

Именно Ницше предупреждал нас в конце XIX века не только о том, что Бог умер, но и о том, что «вера в науку, предстающая нынче неоспоримой, не могла произойти из такой калькуляции выгод – скорее вопреки ей, поскольку вере этой постоянно сопутствовали бесполезность и опасность "воли к истине", "истине любой ценой"»[!# Ницше Ф. Веселая наука, аф. 344.!]. Именно с этой неисчезающеи опасностью мы и столкнулись сейчас лоб в лоб – с последствиями наших поисков истины. Истину, поисками которой занята наука, можно, без сомнения, рассматривать как весьма опасную замену Бога, если существует вероятность того, что она приведет нас к вымиранию.