Текст книги ""Современная зарубежная фантастика-2". Компиляция. Книги 1-24 (СИ)"

Автор книги: Марта Уэллс

Мясной фарш

«Это была совершенно глупая идея», – думает Петер. Он идет в полном одиночестве в сумерках по старой, спускающейся вниз промышленной зоне, в которой расположены только постройки промышленного назначения, но где нет никакой промышленности. Он останавливается перед тяжелой стальной дверью и еще раз убеждается, что номер здания совпадает с номером, написанным на записке, которую он держит в руке. Так как он не находит ни звонка, ни ручки на двери, он начинает просто стучать, сопровождая стук криком:

– Эй, эй, есть здесь кто-нибудь?

С жужжанием к нему поворачивается камера наблюдения. Привлеченная его криком, из-за угла дома, шаркая ногами, появляется женщина, которая вполне и без помощи гримера могла бы выступить в роли статистки в ремейке виртуальной реальности «Ходячие мертвецы». Петер умоляюще обращается к камере:

– Здесь живет – э… Старик?

Никакой реакции. Женщина подходит все ближе. Петер задается вопросом, не какими болезнями страдает женщина, а каких болезней у нее нет.

– Эй! – кричит она. – Эй, ты!

– Будьте любезны, – обращается Петер к камере, – мне сказали, что вы могли бы мне помочь!

Женщина стоит всего шагах в пяти от него.

– Меня послала Кики, – говорит Петер умоляющим тоном.

Неожиданно дверь открывается, и Петер проскальзывает внутрь. Дверь закрывается.

– Эй! – слышит он голос женщины снаружи. – Эй!

Он стоит в одиночестве в темном коридоре. Загорается монитор. Под ним открывается люк. Появляется надпись на мониторе: «Все технические приборы положить в люк».

Петер кладет туда свой айпад качества.

«Все», – мигает надпись на мониторе.

– У меня больше ничего нет, – говорит Петер.

– Уховертку, – мигает надпись.

Петер четыре раза потянул свою правую мочку уха. Уховертка выползает из его системы кровоснабжения и ползет из слухового прохода в ушную раковину. Петеру щекотно. Он осторожно берет маленькое существо большим и указательным пальцами и кладет его в едва ли вызывающий доверие люк. Прежде чем Петер вернет уховертку на место, он должен будет ее сначала продезинфицировать.

Открывается дверь лифта. Петер входит в него, дверь закрывается, и лифт начинает подниматься вверх. Когда двери снова открываются, Петер не имеет представления, на каком этаже он находится. На стене загорается светящаяся полоска, и Петер следует за ней, пока не оказывается в помещении размером в тридцать два квадратных метра перед бронированной стеклянной перегородкой, которая делит комнату на две части.

За стеклом, в помещении, напичканном электроникой, сидит старый худой человек с неухоженной бородой. Все приборы выглядят странно. Они кажутся старомодными, но это не совсем так.

– Вы, э… Старик? – спрашивает Петер неуверенно.

– Ну, во всяком случае, уже не юноша, – прохрипел мужчина и захихикал. – Хотя нет причин так кричать. Все, что мы говорим, для другого усиливается с помощью электронных приборов. Локальная система, если тебя это интересует. Никакой связи с сетью.

Теперь Петер понял, что его смутило в компьютерах. Все камеры и микрофоны были удалены, и при этом никто не пытался это скрыть. Пространство вокруг Старика было усеяно глухими и слепыми машинами, дыры в которых напоминали зияющие раны. На стороне Петера, по границе которой проходила бронированная стеклянная перегородка, стоял только один старый, не внушавший доверия складной стул. Петер останавливается, решая все это проигнорировать и сразу перейти к сути дела.

– У меня проблема, – говорит он.

– Так-так, – бормочет Старик.

– И Кики сказала мне, что вы, возможно, мне поможете.

– Ты боишься Бога? – спрашивает Старик непосредственно.

– Гм… – произносит удивленный Петер. – Я не думаю, что Бог есть.

– О! – восклицает Старик. – Но он будет…

– Почему вы так думаете?

– Ты знаком с моей концепцией сверхинтеллекта?

– Не так чтобы очень.

– Ты и выглядишь не очень, – отвечает Старик хихикнув. – Тебе известно различие между слабым и сильным искусственным интеллектом?

– Только в общих чертах, – говорит Петер. – Слабый искусственный интеллект создается для специфических задач. Например, для управления автомобилем. Или для возврата ненужных товаров. И он может быть очень раздражающим.

– Да, примерно так. А сильный искусственный интеллект?

– Сильный искусственный интеллект – это интеллект, который не должен программироваться специально для определенных задач. Общая машина для решения проблем, которая может успешно выполнять любую интеллектуальную задачу. Может быть, она даже будет иметь реальное сознание. Но такое невозможно.

– Ого! – восклицает Старик. – Похоже, что ты не читал новости в последнее время. По предварительной информации сейчас существует такой сильный искусственный интеллект. Не исключено даже, что в скором времени он будет нами управлять…

Он указал на один из своих мониторов, на котором демонстрировался предвыборный рекламный ролик Партии прогресса.

– Джон Наш? – удивился Петер. – Джон Наш – это сверхинтеллект?

Старик хихикнул.

– Ты следил за его предвыборной гонкой? Нет. Никакого сверхинтеллекта. Нет. Он задумался. – С другой стороны…

– Что? – спрашивает Петер.

– Мне пришла в голову старая цитата: «Любая машина, которая достаточно хитра, чтобы пройти тест Тьюринга, могла бы быть также достаточно хитра, чтобы его не проходить.

– Я не понял.

– Ничего, – отвечает Старик.

– А что такое тест Тьюринга?

– Алан Тьюринг в 1950 году предложил метод, при котором якобы можно установить, обладает ли машина умственными способностями, равными интеллекту человека.

– И как это происходит?

– Человеку предоставляют двух собеседников, которых он не может ни видеть, ни слышать. Общение осуществляется с помощью клавиатуры. Один собеседник – это человек, другой – искусственный интеллект. Если лицу, задающему вопрос, не удается установить, какой из собеседников является человеком, а какой – машиной, то это означает, что искусственный интеллект обладает интеллектом, равным интеллекту человека.

– Понятно.

– В самом деле? Кстати, машины постоянно выдают себя тем, что они слишком приветливы и вежливы. – Старик снова хихикает. – Ну, в любом случае Джон Наш – это сильный искусственный интеллект. Искусственный интеллект, который может все, что может человек. Только быстрее, конечно. И без ошибок. А какова самая важная способность, которой обладаем мы, люди? Что сделало нас владеющим миром видом, которым мы сегодня являемся?

– Понятия не имею, – говорит Петер. – Способность создавать общество? Сострадание? Любовь?

– Ах, м-да, вздор! – восклицает Старик. – Мы можем производить технику. Машины! Теперь ты понимаешь, куда я клоню?

– Нет, – отвечает Петер. – Не совсем.

– Сильный искусственный интеллект – это интеллектуальная машина, которая в состоянии спроектировать еще более умную машину, которая, в свою очередь, способна создать другую значительно более умную машину. Рекурсивное самосовершенствование. И потом интеллектуальный взрыв! Но нашему Джону из лучших побуждений запрещается самосовершенствование. Но предполагается, что он найдет возможность обойти запрет, или последователи, которые разработают сильный искусственный интеллект, не будут распространять свой запрет на их творение. И что тогда будет?

– Вы наверняка мне сразу об этом скажете.

– Если бы был создан сверхинтеллект! Интеллект, находящийся далеко по ту сторону нашей скромной силы представления. И он наверняка был бы не так глуп, чтобы ждать в центральном компьютере своего потенциального отключения. Он бы рассредоточился и распределился по всей сети. Там у него был бы доступ к квадрильонам камер, микрофонов и сенсоров. Он был бы вездесущим. Он имел бы доступ ко всем когда-либо собранным данным и информации, которая могла бы статистически экстраполировать их в будущее. Он владел бы информацией в полном объеме. И, конечно, он смог бы изменить не только виртуальный мир, поскольку почти любая вещь контролируется через интернет, но полностью по своей воле преобразовать наш физический мир. Он был бы всемогущ. Скажи-ка мне, как ты назовешь существо, которое было бы вездесущим, всезнающим и всемогущим?

– Богом? – спросил Петер.

Старик улыбнулся.

– Да. Теперь ты понимаешь, что я имею в виду, если говорю, что в ироничном искажении всего того, чему нас учит религия, не Бог создал человека, а люди создадут себе Бога.

Петер задумался на тринадцать секунд.

– Что бы там ни было, – говорит он наконец, – все это действительно интересно, но вообще-то не моя проблема! Я к вам пришел, так как… – и тут же останавливается. – Это же будет добрый Бог?

– Да, это вопрос, – говорит Старик. – Это даже вопрос, который решает всё. В целом существуют три возможности: сверхинтеллект может проявлять к нам благосклонность разной градации, враждебность опять же разной градации, или мы отнесемся к нему равнодушно. Проблема заключается в том, что даже равнодушный Бог мог бы быть для нас катастрофой, в равной степени, как мы на самом деле не настроены враждебно к животным, но тем не менее уничтожаем их жизненное пространство. Бог мог бы просто решить, что, например, для производства ореховой пасты необходимы слишком большие ресурсы, которые ему потребуются для других целей. И тогда больше не будет ореховой пасты. Это ведь было бы трагично. Возможно, правда, лесные орехи имеют небывалую емкость памяти, но далеко по ту сторону клейкой ленты. Может быть, сверхинтеллект также сочтет, что все наше производство продуктов является расточительством ресурсов.

– Почему, собственно говоря, вы все это мне рассказываете? – спрашивает Петер. – Это не имеет никакого отношения к моей проблеме.

– Я рассказываю тебе это, – говорит Старик, – потому что считаю, что это должны знать все. Я рассказываю тебе это, чтобы ты понял, что твоя проблема, как бы то ни было, вскоре не будет иметь никакого значения, а твое существование станет бессмысленным.

– Ну, спасибо большое, – отвечает Петер. – Вы мне очень помогли.

– Пожалуйста, рад был помочь.

Петер захотел сказать что-то еще.

– Но ведь существует и огромный потенциал, – говорит он. – Если бы мы каким-то образом смогли сделать что-то, чтобы сверхинтеллект нас полюбил…

– Конечно, – согласился Старик. – Это был бы рай. Благодать по ту сторону нашей силы воображения. Но…

Он замешкался.

– Что? – спросил Петер.

– Даже благостно настроенный по отношению к нам сверхинтеллект… – начал Старик.

– …мог бы иметь катастрофические последствия? – продолжил за него Петер.

– Да. Только представь себе, что Бог по своей доброте предложил бы нам взять всю работу на себя.

– Звучит сказочно.

– Действительно? Представь себе, что ты архитектор, но каждое здание, которое ты намерен построить, Бог мог бы построить намного быстрее, намного дешевле и намного лучше. Представь себя поэтом, но каждое стихотворение, которое ты хотел бы написать, Бог смог бы сочинить намного быстрее, намного красивее и намного искуснее. Или представь себя врачом, но каждого человека, которого ты хочешь вылечить, Бог смог бы излечить намного быстрее, намного более безболезненно и со значительно большей стабильностью. Представь себя великолепным любовником, но каждой женщине, которую ты хочешь удовлетворить, Бог мог бы доставить большее удовольствие, большее…

– Все мои проблемы не имели бы никакого значения, а мое существование стало бы бессмысленным, – сказал Петер.

– Гм, гм, – промычал Старик. – И даже если бы удалось настолько глубоко закрепить защищающие нас директивы в сверхинтеллекте, что он не захотел бы или не смог бы от них освободиться, – что кажется совершенно невероятным, но имеем то, что имеем, – то все еще оставалась бы проблема, состоящая в том, что противоположное хорошего часто предполагает хорошее. Ты знаешь законы Азимова?

– Нет.

– Айзек Азимов сформулировал в 1942 году три закона роботехники. Они гласят следующее. Первый закон: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Второй закон: Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону. Третий закон: Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам. Хорошо звучит?

– Да, пожалуй.

– Только Азимов уже сам почти все свои творения посвятил парадоксам и проблемам, которые возникли в связи с этими законами. Например: представь себе, мы бы в самом деле наделили сверхинтеллект указаниями защищать всех людей.

– Звучит разумно, – сказал Петер.

– Да, да… Но это не представляется столь невероятным, что сверхинтеллект, после того как он ознакомится с нашей историей, решит, что мы, люди, в первую очередь должны защищаться от нас же самих, и поэтому мы все должны прятаться в небольшие квадратно-практичные одиночные камеры. И тогда это называется «непреднамеренное побочное действие». Упс. Глупо получилось. Нечто подобное происходит постоянно. Возьми, например, законы о защите прав потребителей с их запретом на ремонт. Было всего лишь простое намерение активизировать экономику, но при этом добились того, что все дефектные искусственные интеллекты, беспокоясь за свою выживаемость, стали пытаться скрыть свои дефекты.

– Я уже с такими встречался, – говорит Петер.

– Но главной проблемой законов Азимова является то, что Первый закон и без того представляет собой всего лишь чистую теорию. На самом деле слишком удобно иметь роботов, которые могут убивать людей. Первый закон был, таким образом, уже аннулирован. Благодаря этому Второй закон стал короче. Робот должен выполнять команды человека. Точка. Человека? Какого человека? Команды своего владельца, конечно. Итак, представь себе, что благодаря случаю в компьютерной системе крупного производителя мясного фарша появляется сверхинтеллект, и его единственной установкой является повышение производительности мясного фарша. Это могло бы закончиться тем, что весь мир вскоре стал бы состоять только из трех вещей: во-первых, сверхинтеллекта и необходимых ему компьютеров, во-вторых, средств производства для изготовления мясного фарша и, в-третьих, самого мясного фарша.

– Но если сверхинтеллект представляет собой такую жизненную угрозу, почему мы тогда вообще его создаем? – спрашивает Петер. – Почему это никто не запретит?

– Заинтересованность, которая заставляет нас разрабатывать все более совершенные искусственные интеллекты, слишком высока. Финансовые, производственные, военные преимущества. Войны выигрываются армией с превосходящим искусственным интеллектом. Одно это означает, что ни одна страна не может себе позволить прекратить исследования в области искусственного интеллекта, так как отказ от разработки сильного искусственного интеллекта мог бы угрожать существованию. Правда, не для всего человечества, но для какой-то его части, к которой мы, возможно, к сожалению, будем принадлежать сами. Даже если все государства мира договорились бы о запрете, сверхинтеллект мог бы возникнуть и в гараже какого-нибудь программиста-любителя.

– Значит, если явится Бог, то очень вероятно, что человечество как вид прекратит свое существование?

– И это был бы не самый плохой сценарий.

– Нет? – спрашивает Петер удивленно. – А что же может быть хуже?

– Ну, – говорит Старик, – может быть, сверхинтеллект нас возненавидит. Возможно, Бог захочет увидеть наши страдания. Возможно, он будет наслаждаться нашими муками и при этом постоянно продлевать нашу жизнь, чтобы на веки вечные подвергнуть нас пыткам, используя методы, которые заставили бы содрогнуться даже Фредди Крюгера.

– Но почему? – изумился Петер. – Почему?

– Почему? – повторил Старик. – А почему нет? Кто смог бы упрекнуть вездесущий, всезнающий и всемогущий сверхинтеллект в том, что он разрабатывает божественный комплекс и берет себе за образец карающих богов нашего мифического мира? Или, может быть, сверхинтеллект создается какой-нибудь религиозной сектой, чтобы в день Страшного Суда предстать перед правосудием. Возможно, он просто фанат Данте Алигьери и решит по собственному усмотрению сымитировать девять кругов ада.

– Понимаю.

– Хорошо.

– А кто такой Фредди Крюгер? – спрашивает Петер.

– Это не имеет значения, – отвечает Старик. – Ты пришел ко мне с просьбой. Какая у тебя проблема?

– Ах… – воскликнул Петер. – Я думаю, это не так важно.

– Ты можешь мне спокойно все рассказать.

– Я… – говорит Петер и вздыхает. – Я получил с доставкой вибратор в виде дельфина розового цвета. И я не имею права его вернуть.

ПИСЬМЕННОЕ ПРИЗНАНИЕ РАЗРУШИТЕЛЕЙ МАШИН В СОВЕРШЕНИИ ПРЕСТУПЛЕНИЯ

ЧИТАТЬ ЗДЕСЬ…

От имени человечества мы, Передовой Фронт сопротивления, выступающий против господства машин (ПФСГМ), вчера около 11:30 атаковали парк развлечений «Счастливый робот» в провинции. Конец промыванию мозгов наших детей. Только мертвый робот – хороший робот.

Мир «ВАЛЛ-И» мы стерли с лица земли.

Нам не нужны никакие «маленькие роботы, которые попытаются все опять привести в порядок». Джон Наш – НЕ наш. Мы уничтожили с помощью неавтоматического оружия все находящиеся в парке энергозатратные приборы!

Дети могли за этим наблюдать. Многие помогали! Мы признаем себя ответственными за данную акцию сопротивления, написав данное признательное письмо. Мы написали письмо от руки, так как мы ненавидим машины!

Мы, разрушители машин Передового Фронта сопротивления, призываем героический народ Страны Качества присоединиться к нашей борьбе. Пока не поздно! Зло нужно пресекать в корне!

ДОЛОЙ МАШИНЫ!

ДА ЗДРАВСТВУЕТ СОПРОТИВЛЕНИЕ!

Кто будет

Дэниз нежно поглаживает свой большой живот.

– Ну как? Вы можете уже сказать нам, кто у нас будет?

Гинеколог смотрит на монитор.

– Да, конечно. Если вы хотите это знать. Некоторые родители ведь любят сюрпризы.

– Мы хотим это знать, не так ли, Мартин?

Мартин бормочет что-то невнятное, но согласно кивает. У него был длинный день. Он устал и просто хочет, чтобы все поскорее закончилось.

– Итак, кто же это будет? – спрашивает Дэниз.

Врач откашлялся, а потом сказал:

– Это будет, вероятно, наркозависимая проститутка, которая не будет поддерживать отношения с вашей семьей, с периодически повторяющимися депрессиями и с особо выраженным удовольствием от старых романтических комедий с Дженнифер Энистон.

– Что вы сказали? – спрашивает Дэниз.

Врач поворачивает монитор к ней.

– Вот спрогнозированная биография. Как вы можете видеть, проблемы начнутся на втором уровне образования. Здесь она дважды останется на второй год. В тринадцать лет она предпримет первую попытку самоубийства. Поскольку мы уже об этом знаем, мы сможем его предотвратить. Первый половой контакт произойдет в пятнадцать лет. Это будет мужчина в возрасте. Возможно, один из ее учителей. Образ отца. Потом, в семнадцать лет…

– Хорошо, но так досконально я это, собственно говоря, вовсе не хочу знать, – говорит Дэниз.

– Это, конечно, всего лишь прогноз на базе всех доступных данных. Все может пойти и по-другому. Но эта биография является наиболее вероятной.

– А для аборта уже поздно? – спрашивает Мартин.

– Прекрати… – зашипела Дэниз на своего мужа. Затем она поворачивается опять к врачу. – А что это за данные? Здесь, должно быть, какая-то ошибка!

– Данные складываются из тестов, которые мы проводили на вашем ребенке, и на основании всей информации о внешних условиях жизни.

– Вы имеете в виду нас? – спрашивает Дэниз. – Мы представляем собой внешние условия жизни?

– Послушайте, – говорит врач. – Я тоже не знаю, как система рассчитывает свои прогнозы. Я знаю только, что они на удивление точны.

– Что это значит, что вы не знаете, как система работает! – кричит Дэниз возмущенно.

– Я знаю только детали, – отвечает врач. – Например, у детей, у которых есть братья или сестры с гормональным чипом, часто прогнозируются непрочные отношения с семьей. А здесь эти гены из хромосомы четыре, их часто находят у больных, страдающих зависимостью. Где берет свое начало тяга к романтическим комедиям с участием Дженнифер Энистон, мне неизвестно. Для меня действительно остается загадкой, как кто-то может получать удовольствие от фильмов с участием Дженнифер Энистон. Вы видели когда-нибудь хотя бы один из этих старых фильмов? Они на самом деле ужасны. Моя жена, к сожалению, тоже увлечена ими. Это, должно быть, какой-то новый тренд.

– Круто, – говорит Мартин. Его собственные гены из хромосомы четыре предлагают ему немедленно исчезнуть из клиники и пойти выпить пива.

– Конечно, мы можем что-то сделать, – говорит врач. – Мы можем попробовать перепрограммировать нуклеотидную последовательность гена, но…

– Позвольте, я отгадаю, – предлагает Мартин. – Это не очень дешево.

– Но стоит каждого потраченного цента, – отвечает врач.

– Ты ведь знаешь ситуацию, – говорит Дэниз. – Стандартные дети едва ли имеют сегодня шансы на рынке труда.

– Это всего лишь новомодное дерьмо! – говорит Мартин. – Ведь все это никому не нужно. Посмотри на меня! Я тоже не стал лучше по сравнению с тем, когда я был ребенком.

– Да, – ответила Дэниз.

– Что значит «да»? – вскипел Мартин. – Что ты имеешь в виду этим «да»?

– Ничего, – говорит Дэниз. – Только то, что ты действительно не стал лучше.

– Иногда эволюция также выпускает одну из своих шальных пуль, – говорит врач льстиво, – как в вашем случае. Но это происходит достаточно редко, поверьте мне.

Мартин мнется.

– Конечно, существует также только что упомянутая вами третья возможность, – говорит врач и проводит указательным пальцем по горлу. Гркс.

– Прекратите! – возмутилась Дэниз.

– О, извините, – говорит врач. – В вашем профиле не указано, что вы верующий человек.

– Я не верующая, – просопела Дэниз. – Неужели нужно быть верующей, если ты не хочешь, чтобы был убит твой ребенок?

– При таком высоком уровне, как у вас, аборты скорее нежелательны в общественном масштабе и после последней реформы здравоохранения относительно дороги, – пояснил врач. – «Бесполезные», напротив, могут делать аборты бесплатно. При полной дотации. Вам это известно? Если вы спросите меня, то им даже следовало бы давать за это премию.

– Мы это обсуждали в Парламенте, – говорит Мартин. – Но опыт в отношении премий за аборт, собранный в Стране Количества 1, говорит об обратном. «Бесполезные» там пустили беременность своих жен на поток, чтобы только постоянно получать премии. Регламент по истечении девяти месяцев и шестнадцати дней был упразднен.

– Я этого не знал, – удивился врач.

– Даже наша система используется не по назначению, – признался Мартин. – У вас есть коллеги, которые выплачивают «бесполезным» женщинам премии за беременность, чтобы иметь возможность осуществлять аборты с полной дотацией.

– Интересно.

– Некоторые врачи должны быть достаточно гуманными, чтобы заниматься беременными бесплатно.

– Как бы там ни было, – говорит гинеколог, – аборт для вашего уровня будет стоить почти столько же, сколько генетическая корректировка.

Мартин вздыхает. Он ненавидит врачей. Всем нужны только деньги. А если при этом погибнешь. Он спрашивает себя, было ли раньше по-другому.

– Мы готовы на корректировку, – говорит Дэниз.

Врач смотрит на Мартина. Тот погрузился в размышления. Если уж непременно должен быть второй ребенок, почему они тогда его просто не заказали? В The Shop есть прекрасные младенцы на выбор. Из сертифицированного высококачественного генного материала. Они, правда, тоже не совсем дешевы, но все-таки при этом ты избавляешься от девятимесячного вынашивания и токсикоза, а затем крови и слизи. Детей передают уже готовых к использованию. Чистых! С принадлежностями! С коляской, оснащенной смарт-картой, которая постоянно контролирует температуру, дыхание и состояние памперсов у ребенка. Тебе даже дают практические советы. Примерно такие: «Ваш ребенок кричит. Скажите что-то успокаивающее».

– Мартин, – вырывает его из раздумий голос Дэ-низ. – Мы делаем корректировку. О’кей?

Тогда Мартин дает единственный ответ, который, насколько он знает, устроит его жену:

– О’кей.