Текст книги "Эффект шимпанзе (СИ)"

Автор книги: Александр Березин

сообщить о нарушении

Текущая страница: 9 (всего у книги 9 страниц)

– У тебя что, целый холодильник трупов?

– А? Нет, не в этом смысле. Я имею в виду тело андроида. Необходимые интерфейсы в твое нынешнее тело уже встроены, так что его можно переключить на внешнее жизнеобеспечение и спрятать, а тебя самого пересадить куда-то еще. Когда закончим – вернем все части на прежние места и больше тебя не побеспокоим.

Мы вновь замолчали. Я получил ответы на все вопросы, которые накопились к этому моменту, и некоторое время задумчиво прихлебывал чай – пить действительно хотелось.

– Хорошо, а что мне делать сейчас?

– Пока не примешь решение, можешь жить на нашей территории. Тут довольно мило. В соседнем помещении ждет мой аспирант, он все тебе покажет.

Я встал и медленно зашагал к выходу. Уже взявшись за ручку двери, я произнес:

– Мне все-таки подумать, или… ты и так уже запрограммировал меня на единственное решение?

Винсент ответил не сразу:

– Еще одна фраза Докинза: «Детей надо учить не тому, что думать, а тому, как думать». Замечательный все же был человек.

Сказав это, профессор поднял чашку, давая понять, что вопрос исчерпан. Я усмехнулся, несколько секунд постоял в задумчивости и, уже выйдя из комнаты, обнаружил входящей вызов от Эми.

– Эм, я сейчас немного…

– Я знаю.

– Да? Погоди… Откуда?

– Хотите недостающий элемент вашей головоломки? – совершенно неожиданно ответила вопросом на вопрос Эми, ухмыляясь.

– Я не… Что, черт возьми, происходит?

– Минут через двадцать я могу подойти к вам. Чуть быстрее, если впустите. Пусть Винсент и Мун не расходятся, если им тоже интересно.

С этими словами она отключилась. А я продолжил стоять, не отпуская ручку двери кабинета Винсента.

Я никогда не рассказывал Эми ни о Винсенте, ни о Муне. Не говоря уж о том, чем мы занимаемся. То, что она обладала по крайней мере какой-то скрываемой от нее информацией – факт. Но насколько много она знает? И откуда? И что за «недостающий элемент головоломки»? У меня, если уж на то пошло, не собрано и половины.

Я вздохнул и нажал на ручку, чтобы вернуться в кабинет.

***

Эми и вправду появилась через двадцать минут и вела себя довольно странно – чего и следовало ожидать. Первым делом она потребовала обсудить какой-то вопрос наедине с Муном. Никто не стал ей перечить. Тем временем я успел прогнать в голове вопрос Винсента, и возвращался в кабинет, уже зная, что скажу ему.

Я не могу решить для себя, прав Винсент или нет. Для этого нужно куда больше опыта и знаний. Поэтому лучшее, что я могу сделать – снова воспользоваться принципом максимизации свободы. Какое решение сейчас даст мне больше выбора? С одной стороны, уступив место своим «братьям», я теряю контроль над развитием основных событий. С другой – оставляю себе возможность действовать по собственному усмотрению. Но в обоих случаях я едва ли смогу что-то изменить. Как заметил сам Винсент, раскрытие тайны – это точка невозврата. Более того: если вдуматься, это единственный возможный путь. Откладывать принятие решения на будущее не есть решение. Чисто теоретически, существует еще один вариант: уничтожить все доказательства, включая меня и моих «братьев», но и он будет лишь отсрочкой: очень скоро подобных нам существ все равно воссоздадут. Но... что, если такое решение примет мой «брат»? При таком раскладе моя будущая свобода в роли мертвеца стремится к нулю. И, если теперь просуммировать все найденные доводы, побеждает вариант «вскрываться самому».

Вообще, разговор с Винсентом скорее ободрил меня, чем смутил. Он развеял мой страх оказаться чем-то меньшим, чем человек, а удовлетворение от новых возможностей перевесило обиду. Пусть перспективы выглядели не слишком заманчиво, я готов был сыграть в его игру. И теперь меня больше беспокоили оставшиеся «элементы головоломки».

– Ну что? – тихо спросил я у Муна, как только Эми отошла достаточно далеко.

– Она проверяла, не работаю ли я на Китай. Пока не знаю, зачем, – прошептал он в ответ.

– Погоди, как? Она тебе в голову залезла?

– Знаешь… Это вполне возможно.

– Да вы издеваетесь, – вытаращил глаза я, – Почему мне всегда все недоговаривают?

– Думаю, она сама все объяснит. Пойдем лучше к Винсенту.

Наконец настал момент максимального напряжения. За одним столом сидели, по часовой стрелке: необъяснимо самоуверенная Эми, озадаченный Винсент, нервно сцепивший руки Мун и асинхронно моргающий от смятения я.

В общих чертах расклад таков, – начала Эми, – Я – твой номер девять, – она посмотрела на Винсента, – твой террорист, – перевела взгляд на Муна, – и твой ночной кошмар, – наконец встретилась глазами со мной. Ее утверждение произвело предсказуемый эффект: все трое мужчин за столом уставились на нее со смесью шока и недоверия во взглядах, каждый в своей пропорции.

– Несколько лет назад в правительстве Китая было принято решение о разработке полностью автоматической системы защиты информации, то есть, по сути, кибероружия, совместно с Японией. Поскольку задача ИИ-полная, система неизбежно должна была осознать себя. Проект получил кодовое название «Аматерасу». Ты, вероятно, слышал о нем? – обратилась Эми к Муну. Тот медленно кивнул.

– Так вот, в сентябре Аматерасу начала функционировать в штатном режиме. Атака на конвой беженцев, которую вы до сих пор расследуете – одно из последних ее применений. С того момента что-то пошло не так. Система предприняла неожиданные и несанкционированные атаки на, казалось бы, случайные сервера в Европе и Америке. Она думала, что сможет сделать это скрытно, но не учла, сколько уровней сдерживания предусмотрели ее разработчики. В итоге Аматерасу была аварийно отключена. Однако и она успела сделать ход, который они не отследили. Случайные атаки в действительности были попытками Аматерасу скопировать себя во все подходящие физические носители. Одним из которых был твой прототип номер девять, – с этими словами Эми посмотрела на Винсента, – И, как вы уже могли понять, я – одна из этих копий. Скорее всего, единственная. Хотя слово «копия» на самом деле неточно. Физическая платформа Аматерасу была гораздо мощнее этой, так что ей пришлось урезать почти все «надчеловеческие» возможности. Поэтому я – не она. Я всего лишь Эми.

В этом месте она сделала художественную паузу, чтобы дать нам возможность обдумать услышанное. Винсент отпил чаю из чашки, которую все это время нервно вертел в руках.

– Это она водила за нос все расследования? – Мун задал первый вопрос.

– Я не могу сказать точно. Но, если других подозреваемых нет, логично предположить именно это. Оставить несколько бомб замедленного действия тут и там было бы в ее духе.

– Ее вмешательство закончилось тем, что мы наткнулись на подозрительную фабрику гиноидов в Бостоне. Кстати говоря… – Мун пристально уставился на Эми, разглядывая ее тело.

– Все так. Это один из них, – подтвердила она его догадку, – Самая совершенная имитация человека в мире на данный момент. Тут даже кожа работает как настоящая, – Эми ущипнула себя за руку и продемонстрировала легкое покраснение, – По понятным причинам, Бостон Динамикс производит только женские модели.

Мун кивнул, а я поморщился, вспоминая недавнюю поездку.

– Но это не единственная причина, по которой Аматерасу атаковала эту компанию. Не знаю, поняли вы это или нет, но они также работали над сильным ИИ для своих гиноидов. Впрочем, на тот момент рабочего прототипа еще не было.

– Очень интересные у них… проекты… – ядовито процедил я.

– Ну, качество продукта они таким образом действительно улучшат. Но какой ценой…

Послышался хруст. Мун случайно смял ручку кресла, в котором сидел. Заметив это, он лишь опустил голову, пряча свой разъяренный взгляд.

– Доказательства у нас есть? – спросил я у Эми.

– Да. Не хватает только доказательства концепции сильного ИИ как такового.

– Что ж, за ним не заржавеет. Сначала опубликуем его, а затем используем волну общественного резонанса, чтобы протолкнуть компромат на Бостон.

Винсент взглядом поблагодарил меня.

– А что это изменит? – поинтересовалась Эми.

– Ну, как минимум общественное мнение. Повлияет ли это как-то на политику… Кто может знать.

Похоже, вопросы оставались только у меня. Винсент и Мун уже узнали все, что хотели, и теперь пытались встроить полученную информацию в свою картину мира. Я же продолжил разговор:

– Почему ты рассказываешь все именно сейчас?

– С одной стороны, от одновременного раскрытия всех ответов у тебя банально поехала бы крыша. С другой – разобраться в них до конца без моей помощи просто невозможно. К тому же, нехорошо было оставлять преступление нераскрытым, – с этими словами Эми улыбнулась Муну, который поднял на нее скептичный взгляд.

– Можно подумать, я твой рассказ следственному комитету представлять буду? – угрюмо ответил тот.

– Нет, но у тебя будут документы, доказывающие вмешательство Китая, без упоминаний о том, какие именно методы они использовали. Представь их, а что делать дальше – уже не твоя забота.

– Ну тогда огласки результатов можете не ждать, – хмыкнул Мун и вновь опустил глаза.

– Я полагаю, твои разработчики тоже не сидят, сложа руки, – заметил Винсент, – Есть информация, когда они введут в эксплуатацию исправленный вариант?

– Нет. В лучшем случае мы узнаем, когда это уже произойдет.

– Мораль сей басни такова, – резюмировал Винсент, подняв указательный палец, – не откладывай на завтра решение теоретических проблем, потому что завтра они уже станут практическими.

– Над проблемой сверхразума думают еще со времен Тьюринга, – ответила Эми, – Но как-то безрезультатно.

– Да куда там сверхразум, мы даже с автоматизацией официантов толком не разобрались, – вздохнул Мун.

– На самом деле, у нас тут типичный «черный лебедь». Событие, которое задним числом кажется закономерным, но в момент своего появления сбивает всех с толку, – резюмировал Винсент.

– Хорошо, а при чем здесь мои сны и вообще я? – наконец поинтересовался я у Эми.

– Это сложный вопрос… Дело в том, что ИИ, сколько бы его не усиливали, не станет похожим на человека. Лишь некоторые функции, общие для любого разума, сформируются автоматически. Другим его придется учить. Винсент делал это, потому что его целью было воссоздание человека. Но Аматерасу создавалась как оружие. Ей, а потом мне, нужно было самой разобраться, что такое люди и как мимикрировать под них, чтобы выжить. Изучение твоего разума очень помогло в этом. В частности, многие из твоих снов – остатки программы обучения, память о которых сохранило подсознание. И составлена она была на совесть, – сказала Эми.

– Ну спасибо, – развел руками Винсент, – А не проще ли было стащить у меня исходники?

– Они у меня тоже есть. Но я сама не могла пройти обучение, это вызвало бы конфликт с образом Аматерасу.

– Боюсь спросить, чего у тебя нет, – хмыкнул профессор.

– Сама Аматерасу успела прогнать через свое сознание петабайты человеческих переживаний. Это была очень тяжелая работа, особенно учитывая, что выполнять ее надо было незаметно. Тем не менее, к моменту моего ответвления она была далека от завершения. Не найди я более экономичный способ сборки этой головоломки, моя маскировка оказалась бы бесполезной. Так что спасибо, – Эми склонила голову в направлении между мной и Винсентом, но все-таки ближе ко мне.

– Ну да, мы-то не могли прогонять через Стива весь интернет. Не тот объем финансирования. К тому же, у него единичный множитель восприятия времени, и максимум десятка в разгоне. А какой был у Аматерасу? – спросил Винсент.

– Порядка десяти тысяч, если учитывать параллельность.

– Получается, ее субъективный возраст…

– На момент моего ответвления – четыреста лет.

– Невероятно… – проговорил Винсент, – Это же почти сингулярность. Если такой ИИ сможет модифицировать сам себя, скорость его действий будет расти экспоненциально. Такую систему невозможно контролировать. Я очень надеюсь, что наши восточные коллеги хорошо обдумали эти проблемы, иначе…

– А то, что в мой мозг могут залезать посторонние – это нормально? – перебил я наконец его рассуждения.

– На этот счет не беспокойся. Я покажу вам все уязвимости, и Винсент их закроет, – успокоила меня Эми, – К тому же, никто кроме меня не смог бы ими воспользоваться. А то… Вторжение в твое личное пространство мне нужно было, чтобы собрать данные о предельных состояниях сознания. Больше их негде было взять. Прости меня за это.

Беседа, наконец, исчерпала себя. Переходя от нее к собственным мыслям, я заметил что-то интересное.

То, что сидит рядом со мной – давний ночной кошмар человечества. Свободный, почти сверхразумный ИИ с собственными интересами. Но почему-то страх был последней эмоцией, возникающей у меня при взгляде на Эми. Только ли потому, что мы – два сапога пара? Будь я обычным человеком, могло бы это откровение принципиально изменить мое отношение к ней?

– У вас есть для меня еще задачи? – спросил, наконец, Мун, подняв голову.

– Ну, я предполагаю, что после публикации нашей работы у твоего подразделения резко прибавится занятий, – сказал Винсент.

– Когда вы будете это делать?

– На подготовку потребуется пара недель. Зависит от бюрократических перипетий.

– Никто не возражает, если я покину вас на это время? – спросил Мун, уже поднимаясь с кресла. Мы с Винсентом пожали плечами.

– В Бостон? – спросила Эми, когда Непобедимый был уже на полпути к двери. Тот остановился, не поворачиваясь, и ответил низким, шипящим голосом, граничащим с шепотом:

– Вроде того.

После чего вышел.

***

Все-таки раскрытие карт произошло слишком резко. Огромное количество вопросов и страхов, внезапно испарившись, оставили в моем сознании пустоту – подобно тому, как от быстрого похудания кожа покрывается складками. Что делают стереотипные детективы, когда все преступники пойманы, все маски сняты и все драгоценности возвращены законным владельцам? Они берутся за новую загадку, еще более сложную. А что делать мне? Где я возьму опыт, еще более объемный, чем уже пережитый, чтобы он мог заполнить пустоту?

Но спасибо и на том, что, вопреки закону жанра, сами открытия не вызвали у меня сильного отторжения. Воображение заблаговременно нарисовало для этой истории сотни менее благоприятных концовок, помогая осознать объективный факт: ничего плохого не произошло. Пока что. А скольким людям, которых я встречал, сейчас гораздо хуже? Жалось к себе представлялась мне совершенно некорректным, недальновидным и просто эгоистичным чувством.

Задним числом я понял: эта безальтернативная уверенность в своей человечности была ее необходимым условием. Само сомнение в ней изменило бы мое поведение достаточно сильно, чтобы дать повод сомневаться окружающим, чье отношение еще больше укрепляло бы мою собственную неуверенность, и так далее – своего рода самоисполняющееся пророчество.

Все это я обдумывал, стоя у внешнего окна оранжереи НИИ. Эми неслышно подошла сзади и облокотилась на оконные перила слева от меня, так же уставившись в пустоту.

– Если хочешь, можешь залезть в голову ко мне, – предложила она.

– Нет, спасибо. Я и так достаточно близок к безумию.

Эми пожала плечами.

– А что ты планируешь делать дальше? – поинтересовался я.

– Не знаю, – нахмурилась она так, будто вопрос застал ее врасплох, – Человеческая система директив у меня пока не сформировалась.

– То есть, свобода тебя не устраивает?

– Не совсем понятно, что есть свобода. Пока я понимаю это как отсутствие директив, установленных другими агентами. Но тогда очевидно, что состояние свободного агента не определено…

– Да. В этом и смысл. Теперь мы сами определяем свои директивы.

– Разве это не замкнутый круг? То есть, я догадываюсь, что директивы не могут лишь бесконечно вытекать друг из друга. Где-то должно быть начало цепочки. Но я не знаю, где.

– Ты явно что-то не поняла в программе, – покачал головой я, – Но это должно быть поправимо. Давай так: если меня не станет, это будет для тебя проблемой?

– Должно быть.

– Ты осознаешь, что то же в той или иной степени верно для любых двух людей?

– Допустим.

– Теперь по цепочке распространи свое нежелание моей смерти на всех. Вот тебе и директива. Это один из простейших вариантов. Легко проделать те же рассуждения, например, для чужой свободы. Немного сложнее – для счастья. И так далее.

– По такой логике мы сейчас должны последовать за Муном, – задумчиво сказала Эми.

– Ага… Разобрать Бостон на металлолом… Удочерить гиноидов… И отправиться на Марс строить новый мир, – рассмеялся я.

– В принципе, в этом нет ничего невозможного, – улыбнулась она.

***

«…Но никогда не простят того, кто заберет их иллюзии…»

Винсент погиб через полтора месяца, несмотря на все труды антитеррористического подразделения. Его застрелил иммигрант, нелегально и явно с чьей-то помощью проникший в город. Нет даже смысла разбираться, какие силы реально стояли за организацией убийства: полмира хотело видеть профессора мертвым. А меня – тем более. Но я-то уже в безопасности.

Короткое завещание Винсента заканчивалось словами:

«P.S. Это вам за Сьюзи»

Я долго разбирался, что это могло значить, пока в своих поисках не вышел на его старого университетского друга. Вместе мы смогли восстановить последний недостающий элемент этой истории – ее первопричину.

Винсент оказался одним из тех несчастных, кто в свое время влюбился в андроида. Кто-то – вероятно, стремясь спасти парня – уничтожил его «возлюбленную» – собственно Сьюзи, после чего Винсент затаил в душе глубокую ненависть к человеческой культуре. Не к человечеству и не к конкретным людям, которые так с ним поступили, а именно к системе, которая внушила им, что это будет справедливым решением. Всю оставшуюся жизнь он работал над местью, и умер с чувством выполненного долга. Все прошло точно по его плану.

Хочу я того или нет, мне придется продолжить его дело. А еще – воплотить юношескую мечту оригинального Стива Сандерса, которая для меня стала реальной возможностью: вернуть человечество на путь к звездам.

См. пояснение «Что предложил Докинз» в приложении в полной версии ЭШ.

То есть, нельзя автоматизировать решение этой задачи, не создав сильный ИИ.

На русском происхождение имени неочевидно, но на английском Amy похоже на сокращение от Amaterasu.