Текст книги "Зеркало"

Автор книги: Карл Ольсберг

сообщить о нарушении

Текущая страница: 19 (всего у книги 20 страниц)

– Он выживет? – спросила Виктория.

Медик кивнул.

– Он потерял довольно много крови, но мы стабилизировали состояние.

Полицейские начали расспрашивать Энди, Викторию и незнакомку. Поняв, что показания противоречат друг другу, они задержали всех троих и отвели в полицейский участок. Вскоре туда пришел Андре Салу и подтвердил, что Энди и Виктория законно находились в его садовом домике, в отличие от неизвестных мужчины и женщины. После этого молодым людям разрешили покинуть полицейский участок.

Когда Энди наконец добрался до дома, то заметил, что перед парадной пусто. Скандирующие идиоты куда-то исчезли.

19

Ритмичный писк пронизывал темноту. Что-то тяжелое давило на нее. Фрейя открыла глаза, но взгляд ее всё еще был затуманен. Она видела какую-то фигуру, склонившуюся над ней.

– Терри?

Имя прозвучало как едва слышное, хриплое карканье. Ее горло словно окатило кипятком.

– Не беспокойся. Ты в безопасности, – сказал кто-то по-немецки.

Ее взгляд немного прояснился, и она узнала Линуса, который озабоченно смотрел на нее. Она явно находилась в больнице.

– Линус? Что… что ты здесь делаешь?

– Я узнал о несчастье, которое произошло с тобой… Подумал, что нужно навестить тебя. Твои родители тоже здесь. Они сейчас пошли пообедать.

– Как… как долго?..

– Врачи продержали тебя несколько дней в состоянии искусственной комы, чтобы ты могла восстановиться. Тебе сделали несколько операций. Эти свиньи сломали тебе почти каждую кость в теле. Большая удача, что ты выжила.

Фрейя сглотнула.

– Терри?

Линус опустил глаза.

– Твой друг не выкарабкался. Он скончался по дороге в больницу от внутренних травм. Соболезную.

Взгляд Фрейи снова затуманился, ее глаза наполнились слезами. Часть ее сопротивлялась утверждению, что Терри мертв. Только не он, всегда осторожный, соблюдавший все правила, избегавший любых споров! Умный, рассудительный и дальновидный Терри. Потом она вспомнила, как он уговаривал ее уйти из опасной зоны. Ее желудок сжался, когда она осознала, что виновата в его гибели. Судорога прошла по ее телу, почти как эпилептический припадок, а из ее горла вырвался животный вой, который медленно перешел в рыдание. Линус ничего не сказал; он просто был рядом с ней и держал ее за руку. Она была благодарна уже за это.

– Что… что с зеркальной сетью? – спросила она, когда наконец на это появились силы.

– Ее, видимо, отключили. Во всяком случае, Зеркала с позавчерашнего дня не работают. Обстановка на улицах стабилизировалась. Но до того царил настоящий хаос. Митинги, демонстрации, уличные беспорядки, стычки с полицией, а также между сторонниками и противниками сети. И так по всему миру! Были даже нападения на правительственные учреждения. Только в Гамбурге с десяток погибших, а во всем мире их тысячи. В газетах полно статей про "зеркальное безумие", как они это называют. Акции всех высокотехнологичных компаний упали еще до того, как приостановили торги. Политики спихивают друг на друга ответственность за то, что произошло. По телевизору психологи раздают интервью, пытаясь объяснить, почему так много людей слепо следовали рекомендациям своих Зеркал. Телевизионщики, кстати, выстроились в очередь, чтобы взять у тебя интервью, но полиция и твои родители никого не пускают. Ты стала героиней мирового масштаба. Про тебя говорят, что ты остановила безумие. Как раз вовремя.

Линус, конечно, не имел в виду ничего дурного, но для нее эта фраза прозвучала необыкновенно цинично. Для Терри и других жертв этого безумия все произошло слишком поздно. Она могла только надеяться, что создатели монстра под названием "зеркальная сеть" будут привлечены к ответственности. А все жадные до денег инвесторы и дельцы, которые пытались разбогатеть на этом производстве, скомпенсируют причиненный ущерб. Хоть так.

Но Терри от этого не оживет. Он заплатил страшную цену за то, что она вступила в борьбу с таким противником. Фрейя вспомнила, как Терри смеялся, когда она рассказала ему о странном поведении своего дрона, и на мгновение ей захотелось, чтобы она в тот момент послушалась его и не стала раскапывать дальше. Но теперь уже слишком поздно. Она должна отвечать за последствия своих действий. И могла только надеяться, что ее поступки хотя бы приведут к тому, что ничего подобного больше никогда не повторится – человечество узнает об этой ошибке и в дальнейшем не будет так вестись на слова новоявленных пророков, обещающих миру спасение через высокие технологии.

Впрочем, на этот счет у Фрейи были большие сомнения.

20

В последний раз они сидели в "Роналду". Карл тоскливо смотрел на наполовину съеденную пиццу, лежавшую перед ним на тарелке. Сколько раз они заседали здесь раньше, воодушевленно обсуждая новые проекты! Карл всегда пытался увлечь Эрика своими идеями, а тот постоянно указывал на практические проблемы в реализации. Это было трудное время. Прошли годы, пока заработал прототип Зеркала. "Уолнат Системс" несколько раз оказывалась на грани банкротства. Но это было и хорошее время – время круглосуточной работы, товарищества, боевого духа и гордости. Карл скучал по нему. Их совместный проект превратился в руины. Большинство сотрудников просто уволились, когда три дня назад Карл принес им дурные новости. Но были и громкие протесты, сопротивление, ругань и угрозы. Вряд ли кто-то из подчиненных и коллег Карла смог сразу поверить, что решение отключить серверы зеркальной сети действительно принадлежит ему, а не является подлым выпадом со стороны ненавистной материнской компании.

Сама зеркальная сеть сделала все, чтобы вызвать еще большую путаницу и задержать отключение серверов. Сбитые с толку сотрудники отказывались предоставить доступ к серверным помещениям. Приходилось обращаться за помощью к полиции. Однажды два полицейских подразделения вступили в продолжительное противостояние: одно пыталось обеспечить персоналу, нанятому Эштоном Моррисом, возможность выключения серверов, а другое стремилось им помешать. Очевидно, кто-то позвонил в полицию, утверждая, что некие преступники под видом сотрудников компании пытаются совершить злодеяние на ее территории. Всё это привело к тому, что отключение серверов растянулось на несколько дней, но в конце концов зеркальная сеть уступила. И ни одно Зеркало больше не работало.

Реакция общественности была предсказуемой. Акции ГИС перестали продаваться. По всему миру прошли демонстрации и митинги, отчасти искусственно подогреваемые. Предположительно, несколько десятков тысяч человек были убиты или ранены. Карлу становилось плохо при одной мысли об этих жертвах. Ясно было, что он не дождется благодарности за усилия по отключению Зеркала, напротив, его в любом случае проклянут: он – человек, который вызвал хаос. И вообще ему сильно повезет, если не придется коротать оставшиеся дни в тюремной камере.

– И что теперь? – спросил Эрик. – Сам-то что собираешься делать?

Он казался таким же подавленным, как и Карл. Хотя Эрик вовремя ушел с линии огня.

– Не знаю, – ответил Карл. – Вероятно, буду круглосуточно разговаривать со всякими адвокатами.

– Я имею в виду, когда это всё закончится.

Карл пожал плечами.

– Кто знает, может, напишу книгу о том, что произошло. Это будет мое предупреждение людям.

– Неплохая идея, – кивнул Эрик. – Но мне почему-то кажется, что дело еще не закончено.

– Конечно, оно не закончено – и не закончится до тех пор, пока не завершится последнее судебное разбирательство по всей этой катастрофе. Еще лет десять, если не дольше.

– Я не о том. Мы отключили зеркальную сеть, но она никуда не делась. Программное обеспечение лежит на серверах, равно как и нейросети. И пользовательские данные всё еще там. В принципе, можно включить систему хоть завтра, и беспорядки начнутся снова.

– Думаешь, какому-то безумцу придет в голову сделать это?

– Кто знает? – пожал плечами Эрик, потягивая свою колу. – Надеюсь, что нет. Но в ГИС сейчас дуют ветра перемен. Тед Корли ушел, да и под Моррисом кресло покачнулось. Акционеры, вероятно, заменят весь наблюдательный совет. И кто знает, что будет потом. Например, кто-то решит, что достаточно нескольких небольших улучшений – и Зеркала снова можно выпускать в продажу!

– Надеюсь, в ГИС не найдется психа, который бы после всего случившегося рискнул бы снова запустить производство.

– Не стоит недооценивать людскую глупость. Все быстро забывается. Кроме того, есть другие потенциальные возможности использования зеркальной сети: на бирже, например, или в армии.

– В армии? Теперь ты меня пугаешь по-настоящему!

Эрик усмехнулся.

– Твой отец наверняка оценил бы такой прекрасный сюжет: зеркальная сеть вновь просыпается в командном пункте, управляющем огромной армией боевых беспилотников. Но своей внутренней задачей она считает месть двум людям, которые позаботились о том, чтобы ее отключить…

Карл так и не понял, шутит Эрик или нет. Возможно, это был предвестник истерики. Во всяком случае, слова друга заставили Карла содрогнуться.

Они оплатили счет и распрощались.

– Всё в порядке, Эрик! – сказал Карл. – Спасибо, что помог мне.

– Разве я мог поступить иначе? Безучастно смотреть, как ты облажаешься?

– Придурок. Удачи тебе с твоим проектом в университете!

– А тебе – с твоей книгой. Это, кстати, хорошая идея. Если ты унаследовал писательский талант своего отца, она может стать бестселлером.

– Сомневаюсь. Хотя, пожалуй, я мог бы заработать на ней немного денег. Ведь теперь из-за судебных издержек все мои миллионы испарятся, как дождевая лужа под калифорнийским солнцем.

– Как поэтично! Береги себя, Карл!

– Ты тоже, Эрик!

Он смотрел, как его друг садится на велосипед и исчезает за углом. Затем достал свой новый смартфон, который, к счастью, был не так умен, как Зеркало, и позвонил отцу.

– Привет, папа. Мне может понадобиться твоя помощь.

– В чем же?

– Я хочу написать книгу.

– Книгу? Ты? О чем?

– О Зеркале.

– Думаешь, в твою историю хоть кто-нибудь поверит?

Эпилог

– Таким образом, моя рекомендация заключается в том, чтобы немедленно приступить к реализации первого этапа проекта "Смарт-солдат", – сказал аналитик из Министерства обороны.

Было видно, что он получил докторскую степень в Массачусетском технологическом институте или, возможно, в Стэнфорде, имел хорошие связи в политических кругах и никогда не приближался к местам ведения боевых действий ближе, чем на пять тысяч миль. Генерал неодобрительно посмотрел на него. Более десятка членов комитета, руководившего армейскими закупками, заседали, чтобы принять одно из, возможно, самых далеко идущих решений для будущего ведения войн.

Он вгляделся в лица сослуживцев. Сегодняшняя встреча была лишь формальностью, а дискуссия, которая теперь завязалась, только повторным обменом мнениями. Итог был ясен давно. Прошло время закулисных игр и перетягивания каната различными заинтересованными сторонами. Мяч давно лежал за линией ворот. И все равно генерал не сдавался. Он до последнего пытаться остановить зло. Он бы пошел в бой не задумываясь и ожидал того же самого от любого из своих людей. Он был дважды ранен в боестолкновениях, потерял при этом руку и глаз, поэтому за спиной его называли капитаном Крюком. Это прозвище раздражало его. Еще больше раздражало его большинство присутствующих в этом зале. Там находились так называемые советники – гражданские лица, которые прямо или косвенно состояли на содержании дельцов, пытающихся вытащить побольше денег из кармана Министерства обороны на всё более фантастические проекты. Присутствовали и представители разных родов войск – Военно-морского флота. ВВС, сил национальной безопасности, которые больше интересовались своим положением в министерстве и размером дохода на следующий год, чем тем, что реально происходило в армии. Присутствовали и бюрократы из самого министерства, которые, как и тот человек, который только что провел эту нелепую презентацию, верили, что с реализацией проекта все военные проблемы решатся одним махом. Все они, казалось, считали, что войны выражаются исключительно в цифрах и всегда можно заранее просчитать исход сражений. Никто не учил их тому, что почти двести лет назад точно подметил прусский стратег Хельмут фон Мольтке: ни один план не переживает встречи с противником.

Министр оглядел присутствующих.

– Кто-нибудь еще хочет что-то сказать или мы сразу перейдем к голосованию?

Генерал вздохнул и поднял руку.

– Да, генерал?

– Мое мнение не изменилось после презентации вашего сотрудника, сэр, – сказал он. – То, что вы задумали, господин министр, к сожалению, чистое безумие. Мы все видели, что произошло, когда зеркальная сеть вышла из-под контроля. И теперь вы хотите дать той же системе командовать моими людьми!

Он взглянул на написанную маслом картину, висевшую на торцевой стене конференц-зала. На ней был изображен Джордж Вашингтон после победы в битве при Йорктауне. На секунду показалось, что заключенный в ней героический дух Войны за независимость способен повлиять на присутствующих и выгнать сумятицу из их голов. Напрасная надежда!

– Вы неправильно меня поняли, генерал, – отозвался молодой специалист. Он носил какую-то благородно звучащую французскую фамилию, ля Гер или как-то в этом роде. Генерал не мог разглядеть одним глазом и на расстоянии табличку с его именем. – Система не будет отдавать вашим солдатам приказов. Она будет выдавать рекомендации. Любое ее предложение в любой момент может быть пересмотрено и отменено приказами начальства. Решение всегда остается за людьми.

– Да? И как мои люди должны догадаться, верны ли эти, как вы их называете, рекомендации? В бою солдаты нуждаются в четких инструкциях, а не в расплывчатых пожеланиях!

– Хорошо, я признаю, в большинстве случаев не останется времени, чтобы подвергнуть сомнению решения системы "Смарт-солдат". Но этого и не потребуется, потому что ее решения почти всегда верны. Я в этом уверен.

Генерал почувствовал, что сейчас его хватит удар.

– Да? И это при том, что система не была протестирована хотя бы единожды в реальной боевой ситуации? Она ведь не проверена? После катастрофической неисправности, которая привела к тысячам убитых и раненых по всему миру! – он покачал головой. – Как может кто-то, в ком есть хоть искра разума, серьезно считать эту идею хорошей?

Остальные собравшиеся смотрели на генерала так, словно он лично оскорбил каждого из них.

– Вы заблуждаетесь, генерал. Во-первых, стратегическое мастерство системы "Смарт-солдат" было подтверждено сотней тестов и проверено на симуляторах. Ее решения всегда оказывались лучше, чем у всех групп военных, в том числе разрабатывавших свои планы под руководством опытнейших офицеров, против которых она выступала. Во-вторых, система "Смарт-солдат", как вы справедливо отмечаете, основана на зеркальной сети. Все же, несмотря на прискорбные инциденты, я должен отметить, что эта сеть работала безупречно, пока ее не отключили. На самом деле она действовала намного лучше, чем могли представить себе ее разработчики. Проблема заключалась лишь в неудачном определении целеполагания системы.

– Прискорбные инциденты? Неудачное целеполагание? Я, наверное, ослышался! – вспылил генерал. – Из-за зеркальной сети и беспорядков, вызванных ею, погибло больше людей, чем в битве при Иводзиме![49]49
  Битва за Иводзиму – сражение между войсками Японской империи и США за остров Иото (Иводзима) в Тихом океане, начавшееся 16 февраля и завершившееся 26 марта 1945 года победой США. Потери со стороны США: 6821 погибший, со стороны Японии: 20703 погибших и раненых.


[Закрыть]

– Генерал прав. Пожалуйста, обратите внимание на то, какие слова вы выбираете, Крис! – упрекнул министр своего сотрудника.

– Прошу прощения, сэр. Но это ничего не меняет по сути. Зеркальная сеть прекрасно выполняла свою задачу, защищая интересы своих пользователей, и очень преуспела в этом. Она организовала отдельных митингующих так, что, пока они находились под ее контролем, все контрмеры полицейских сил оказывались неэффективными. Я также хочу заметить, что гораздо больше было жертв от беспорядков, а не от враждебности зеркальной сети. Я не хочу принизить страдания жертв, но система сделала именно то, что сделал бы любой хороший генерал в этой ситуации: она оптимально использовала свои собственные ресурсы, чтобы нанести вред противнику.

– Хватит! Зеркальная сеть обманула персональных пользователей, когда вычислила, что их благо станет невыгодным для всего сообщества. Предать своих людей, как только станет понятно, что это полезно для общего успеха миссии, – любой генерал, совершивший подобное, сразу же утратил бы доверие своих подчиненных и предстал бы перед военным трибуналом.

– Тут я должен вам возразить, генерал, – вмешался один из советников, пожилой мужчина с прилизанными волосами и безукоризненно завязанным галстуком. – Неоднократно случалось, что отдельные части войск или даже целые армии приносились в жертву, чтобы решить исход битвы или всей войны.

– Да, случалось. Но одно дело, когда у тебя просто нет другого выхода, – ответил генерал, которому сейчас стоило больших усилий сдержаться. – Совсем другое – принять подобное решение из холодного расчета. Это просто аморально!

– Возможно, именно по этой причине и нужен "Смарт-солдат", – хладнокровно возразил советник. – Чтобы предотвратить такие ситуации, когда люди гибнут, поскольку необходимые стратегические решения не принимаются исходя из моральных соображений.

– С этим я согласен, – сказал молодой человек из министерства. – Система может гарантировать, что наши военные цели будут достигнуты с минимальными потерями людей и ресурсов.

– Всем нам должно быть ясно, что это всего лишь вопрос времени: наши враги обязательно разработают сопоставимую или даже лучшую систему и используют ее против нас, – вновь взял слово министр. – В настоящее время у нас есть преимущество, но со стремительным развитием вычислительной техники оно может быстро растаять. Китайцы работают с подобными системами, и мне, наверное, не нужно указывать на то, что они превосходят нас по численности войск.

Генерал с вызовом посмотрел на оппонента. Остальные участники совещания либо одобрительно кивали, либо смущенно уткнулись в свои планшеты.

– Вижу, что не могу вас переубедить, – генерал поморщился. – Но я не приму этого решения. Я не собираюсь предстать перед своими офицерами и объявить им, что с этого момента Зеркало с новым названием берет на себя командование и диктует свои правила стратегии. В случае если будет принято решение задействовать систему, я прошу освободить меня от обязанностей начальника Генерального штаба.

– Пожалуйста, успокойтесь, Чарли! – воскликнул министр. – Никто не хочет вашей отставки. И здесь речь не идет о том, будет ли вся армия оснащена системами "Смарт-солдат" или нет. Сначала мы проведем проверку в спецподразделениях. Именно деятельность небольших элитных отрядов в горячих точках может быть оптимально поддержана системой "Смарт-солдат".

Фраза звучала как заученная наизусть выдержка из глянцевой брошюры, что только подтверждало догадку генерала: министр давно уже принял решение.

Генерал еще раз набрал воздуха в грудь, потом произнес фразу, как он понимал, последнюю во всей его долгой военной карьере.

– Я настаиваю, что, пока я занимаю свой пост, никто из подчиненных, за которых я несу ответственность, не будет оснащен системой "Смарт-солдат".

Повисло напряженное молчание. Министр наконец кивнул.

– Ну хорошо, мы это обсудим позже. Давайте перейдем к голосованию прямо сейчас. Кто за то, чтобы "Смарт-солдат" поступил в вооруженные силы и прошел испытания в тестовом режиме?

Почти все руки поднялись.

– Тогда этот вопрос можно считать решенным, – сказал министр и удовлетворенно улыбнулся.

Послесловие

Летом 2015 года у меня возникла идея написать переработанную версию романа "Система". С той поры как был написан набросок моего первого произведения, прошло больше десяти лет и окружающие реалии здорово изменились.

Сегодня смартфоны – наши постоянные спутники. Они помогают нам делать покупки, производить безналичную оплату. С их помощью мы делимся событиями своей жизни с друзьями, знакомыми и незнакомыми людьми. Дружелюбные голосовые помощники всегда ответят на наши вопросы и с готовностью сообщат, что на таком-то шоссе образовалась пробка и нам понадобится учесть время, которое потребуется, чтобы успеть на запланированную встречу. Мы знаем, что одновременно в фоновом режиме собирается гигантский объем данных о нас. "Фейсбук", "Гугл" и "Амазон" используют эти данные, чтобы максимально подстроиться под нас, под наши потребности. И хотя возможность злоупотребления нашей личной информацией вызывает смутную тревогу, мы почти не сопротивляемся ее сбору, потому что соблазн обретения дополнительного комфорта слишком соблазнителен.

Многие из нас вряд ли задумываются, какой невероятной вычислительной мощностью обладают современные мобильные устройства. Производительность смартфона нового поколения в 2015 году, измеренная в количестве вычислительных операций в секунду, примерно равна производительности самого быстрого компьютера в мире в 1996-м. Большинство из нас сегодня постоянно таскают с собой суперкомпьютер, которому двадцать лет назад могли бы только позавидовать университеты, военные исследовательские центры и спецслужбы. Тем не менее это устройство в нашем кармане – только верхушка айсберга.

Фактическая вычислительная мощность такова, что она позволяет использовать для предоставления полезных мобильных услуг серверы компаний, эти услуги предлагающих. Несколько миллионов компьютеров надежно и незаметно обслуживают нас в центрах обработки данных поисковых систем, социальных сетей, интернет-магазинов и других бесчисленных поставщиков услуг. Никто не знает, насколько велика их комбинированная производительность, но, по моей личной оценке, общая вычислительная мощность, доступная сегодня, превосходит общую вычислительную мощность 2005 года по крайней мере в сотни тысяч раз. И завершения роста не предвидится: мы уже говорим об "интернете вещей" и "индустрии 4.0". Это означает, что в ближайшем будущем общение между машинами по своему масштабу и интенсивности превзойдет во много раз общение между людьми.

Роман "Система" повествует о вышедшем из-под контроля искусственном интеллекте. В 2005 году этот термин все еще относился к области научной фантастики. Правда, еще в 1996 году компьютер обыграл действующего чемпиона мира по шахматам, но при этом ни одну из систем, имевшихся тогда в наличии, нельзя было назвать разумной. Хоть я и получил докторскую степень, занимаясь именно искусственным интеллектом, я очень смутно представлял себе, как должна работать "система" в моем романе. Как писатель, я мог позволить себе просто проигнорировать технические детали и заявить, что компьютерный вирус, распространившийся по интернету и имитирующий структуры нейросети, вдруг каким-то образом развил собственное сознание и собственный интеллект. Однако экспоненциальный рост производительности компьютеров и достижения в области разработки программного обеспечения в корне изменили ситуацию. В 2011 году компьютер Ай-би-эм "Уотсон" обыграл лучших игроков в шоу "Джепарди". Речь шла не об узко ограниченных математических задачах, а об общечеловеческих знаниях. Сегодня в наших смартфонах есть даже личные помощники, такие как "Сири" или "Кортана". Они не только способны понять человеческую речь, но и разумно интерпретируют наши утверждения, отвечая на многие наши вопросы. За несколько недель до того, как я закончил работу над этим романом, компьютерная программа, разработанная командой "Гугла", победила лучшего мирового игрока в го. А эту игру, между тем, компьютерам освоить гораздо сложнее, чем шахматы.

Искусственный интеллект сегодня помогает врачам в диагностике заболеваний, разработчикам – в создании программного обеспечения, также он применяется в налаживании системы беспилотного городского транспорта Лос-Анджелеса. "Фейсбук" распознает лица на фотографиях лучше любого человека. "Амазон" теперь настолько хорошо знает наши пожелания, что компания переходит к отправке предметов в распределительные центры рядом с нами еще до того, как мы их закажем. Вопреки расхожему мнению, компьютерные программы могут быть даже творческими: например, они полностью автономно пишут газетные статьи о спортивных событиях и событиях на бирже. В увлекательном эксперименте "Гугл" использовал свои алгоритмы распознавания изображений, чтобы "интерпретировать" объекты в изображения облаков или пейзажей, создавая причудливые произведения искусства, которые могли бы выйти из-под кисти художника-сюрреалиста.

В то время как в девяностых и двухтысячных искусственный интеллект представлял собой всего лишь одну из ниш в разработке программного обеспечения, сегодня он стал одним из основных конкурентных факторов во многих отраслях в гонке за лидерство на рынке. Все крупные поставщики программного обеспечения инвестируют миллиардные суммы в соответствующие исследовательские центры или покупают стартапы, которые могут быть успешными в этой области.

Никто не знает, сколько времени потребуется компьютеру, чтобы превзойти по работоспособности человеческий мозг. По оценкам экспертов, этот срок варьируется от 2030 года до второй половины нашего века. Но уже сейчас ясно, что компьютерные программы, построенные на принципах так называемого искусственного интеллекта, будут всё больше доминировать в разных сферах нашей повседневной жизни. Они уже сейчас советуют нам, какую музыку слушать, какие книги читать, с какими потенциальными любовными партнерами встречаться. В будущем они смогут автоматически писать за нас электронные письма ("Гугл" уже работает над соответствующей функцией) или давать нам советы, как оптимально вести себя на первом свидании. – с учетом, конечно, интересов и наклонности наших партнеров. Всё больше и больше мы полагаемся на правильность этих рекомендаций, и они в основном таковы и есть. Системы, которые мы используем, всё лучше и лучше знают нас, потому что созданные по нашим данным модели всё более точно соответствуют нашему реальному мышлению и поведению.

Однако в таком развитии есть и огромные риски, это совершенно очевидно. Сегодня об этом предупреждают уже не только авторы триллеров, описывающие опасности безудержного и неконтролируемого технического прогресса. Физик Стивен Хокинг видел в развитии искусственного интеллекта, производительность которого превышает аналогичные возможности нашего мозга, опасность для выживания человечества. Основателя "Пэй-Пала", "Теслы" и "Спейс-Икс" Илона Маска, конечно, сложно назвать технофобом, но и он неоднократно предупреждал об опасности неконтролируемого развития искусственного интеллекта. Маск подписал обращение, направленное против разработок автономных систем интеллектуального оружия, к которому присоединились многочисленные исследователи и ученые из разных стран мира.

В своей замечательной работе "Суперинтеллект" философ Ник Востром предрекает, что мы столкнемся с огромными трудностями, прежде чем компьютер с интеллектом, превосходящим человеческий, научится делать правильные, с точки зрения человека, выводы.

На фоне всех этих событий мне быстро стало ясно, что переписыванием моего романа "Система" дело не ограничится. Историю искусственного интеллекта, ускользающего от контроля своих человеческих создателей, пришлось пересказать полностью. Самое важное отличие новой книги от моего первого романа заключается в том, что на этот раз главные герои борются не с автономно действующей "злой" компьютерной системой, а с вышедшим из-под контроля зловещим альянсом, состоящим из манипулирующих устройств и их наивно-эгоистичных пользователей. Это кажется мне гораздо более реалистичным сценарием.

На этот раз моему воображению почти не приходилось выходить за рамки того, что уже сегодня технически возможно. Например, Зеркало, описанное в настоящем романе, имеет вычислительную мощность, которая примерно в десять раз выше, чем у "Айфона-6", и, вероятно, будет стандартной для новых смартфонов в течение следующих трех-пяти лет. Описанные методы интерпретации речи и механизмы развития нейронных сетей уже существуют и применяются такими компаниями, как "Гугл", "Фейсбук" и "Амазон", чтобы предсказывать и более или менее тонко влиять на поведение людей.

Конечно, я все-таки позволил себе несколько творческих вольностей. Я не утверждаю, что такая система, как зеркальная сеть, будет вести себя в реальности именно так, как я описал ее в этом романе. А люди, которые в какой-то момент смогут купить себе устройства, похожие на Зеркала, надеюсь, не будут такими глупыми и наивными, как некоторые из персонажей этой книги. С другой стороны, история показывает, что мы, люди, склонны игнорировать опасности и недостатки новых технологий, если их преимущества кажутся нам достаточно привлекательными. Глобальное потепление – лишь один из примеров. Когда я вижу, с какой готовностью большинство пользователей (включая меня) оставляют данные о себе и своих привычках в интернете, то начинаю опасаться, что наша коллективная наивность обойдется нам очень дорого.

Но я не пессимист. Как автор технотриллеров, я считаю своей задачей попытаться осознать возможные негативные последствия технического прогресса. Однако это не значит, что я боюсь техники. Я сам основал несколько высокотехнологичных компаний и среди прочего вместе с двумя товарищами по команде разработал приложение "Папего", которое позволяет читать печатные книги, подобные этой, на смартфоне. Если кто-нибудь когда-нибудь изобретет такое устройство, как Зеркало, я буду одним из первых покупателей новинки.

Наша проблема не техника, а то, как мы её используем. Мы (то есть вы, дорогие читатели) держим в наших руках возможности, которые приведут нас или к новым техническим прорывам грядущих десятилетий и в лучшее будущее, или в оруэлловскую антиутопию, мир тотального наблюдения и диктата машин. Я надеюсь, что своим романом побудил вас задуматься.

Гамбург, апрель 2016 года