Текст книги "Осколки Протокола. Пенталогия (СИ)"

Автор книги: Юрий Уленгов

сообщить о нарушении

Текущая страница: 76 (всего у книги 79 страниц)

Из трещин в асфальте перла трава. Последние года два растительность лезла отовсюду – из каждой щели, из каждого шва, через бетон и асфальт. Деревья росли, как на дрожжах, газоны превращались в джунгли за месяц, а сезонов, собственно, больше не было. Температура болталась в районе двенадцати‑пятнадцати градусов круглый год – что зимой, что летом. Синоптики разводили руками, климатологи строчили отчеты, мэрия увеличивала бюджет на озеленение, хотя озеленение прекрасно справлялось само. Коммунальщики, косившие газоны пять раз в неделю, выглядели, как солдаты, пытающиеся остановить прилив метлами.

На перекрестке образовался затор. Я высунулся, пытаясь понять, что его вызвало и ругнулся.

Через перекресток вели «Раптора».

Белый корпус, синие полосы, герб МВД на борту. Полицейская модификация – компактнее военной, без тяжелого вооружения, зато с полным набором нелетального. Туша в два с лишним метра топала по дороге размеренным шагом. Облепленная сенсорами башня медленно поворачивалась – влево, вправо, влево – сканируя прохожих. Позади, стараясь держать дистанцию и при этом не отставать, шагали четверо полицейских в полной тактической выкладке. На фоне железного великана они смотрелись как конвой при слоне.

Прохожие обходили патруль по широкой дуге. Мамаша с коляской, увидев раптора, перешла на другую сторону улицы, мужик с собакой свернул в подворотню, а пацан на электросамокате заложил такой вираж, что чуть не влетел в столб. Нормальная реакция. К рапторам на улицах никто еще не привык, да и не стремился. Программу патрулирования с роботами запустили три недели назад – после того, как митинг у офиса «ГенТек» на Воздвиженке перерос в побоище. Результат: четверо полицейских в реанимации, два служебных дрона – в утиль, одиннадцать задержанных, около сотни пострадавших с обеих сторон. На следующий день мэрия объявила о «пилотной программе роботизированного патрулирования в целях обеспечения безопасности граждан». Граждане, ясное дело, пришли в восторг. Особенно те, которые митинговали как раз против того, чтобы роботы лезли в их жизнь.

Я посмотрел, как раптор сканирует лицо какого‑то бедолаги с пакетом из продуктового, и отвернулся. Зеленый. Поехали.

Мысли снова вернулись к Ли. Точнее – не к нему, а к тому, что он сказал. Китаец знал слишком много. Про Войлова, про файлы, про то, что я их не передал. Откуда? Либо они вели самого Войлова, либо… Либо у них есть человек внутри «ГенТек» – и это совсем плохие новости. Потому что руководству я докладывал немного не о том, что произошло вчера вечером, и до недавних пор считал, что о происшедшем знаю только я сам.

Сказать, что второй вариант мне нравился куда меньше – значит, не сказать ничего. Ну и сам факт того, что Ли пришел не на разведку, а дожимать меня, означал, что я и сам в разработке уже продолжительное время. Проклятье! Как я мог так проколость?

Выругавшись, я ударил по клаксону, заставив доставщика на скутере шарахнуться в сторону, и вырулил на Новый Арбат. Проехав мимо высотки МИДа, я свернул в переулок и нырнул на подземную парковку.

* * *

Машина встала на свое место, хлопнула дверь, пискнула сигнализация. Я сунул в карман ключ и пошел к лифтам. Ключ‑карта, палец на сканер, сорок второй этаж. Лифт шел плавно, за стеклянной стенкой кабины разворачивалась ночная панорама – огни, рекламные экраны, навигационные маяки на крышах. Красивый город… Если не присматриваться.

Квартира открылась по биометрии. Прихожая, коридор, мягкий свет автоматической подсветки. Панорамные окна от пола до потолка, за ними – Москва, рассыпавшаяся огнями до горизонта. Я скинул куртку, расстегнул кобуру и положил пистолет на полку у зеркала. Прошел через гостиную и открыл двери в кабинет.

На рабочем столе – широкий монитор корпоративного терминала. Логотип «ГенТек» неторопливо переливался на экране серебром. Я прошел мимо, не глядя. Еще недавно его вид вызывал во мне что‑то вроде гордости, сейчас… Пожалуй, ничего, кроме раздражения. Открыв нижний ящик стола, я достал ноутбук. Личный, купленный за наличные в мутном магазинчике на другом конце города и не подключенный ни к одной корпоративной сети. У каждого здравомыслящего человека, работающего на корпорацию, должно быть устройство, о котором корпорация не знает. Это не паранойя. Это гигиена. Как чистка зубов по утрам.

Я повертел ноутбук в руках, пробормотал ругательство и пошел в ванную.

Шпионские игры, мать их!

В ванной я включил оба крана на полную. Вода ударила в эмаль, загудела в трубах, ванная наполнилась ровным плотным гулом. Если в квартире стоит микрофон – а я допускал такую возможность – он сейчас получит стену белого шума вместо полезного сигнала. Если микрофона нет – что ж, значит, я просто зря потратил воду. Переживу.

Сев на край ванны, я поставил ноутбук на колени и открыл крышку. Достал из нагрудного кармана рубашки флешку и повертел ее в руках. Черный пластик, дешевая, без маркировки. Из тех, что продаются в переходах пачками по десять штук. Странный выбор для человека, который занимался разработками высочайшего уровня секретности… Хм. Или, наоборот, вполне логичный.

Эта флешка лежала в моем кармане со вчерашнего вечера и все это время я думал, что с ней делать. По уму, я не должен бы ее открывать. Я должен был просто принести ее Плесецкому и забыть о ней. Но… По уму я должен был многое сделать иначе. Вот только я так сделать не мог. По очень многим причинам. Да, я оставлял себе шанс соскочить и не впутываться во все это еще глубже…

Но потом пришел Ли. И стало понятно, что делать вид больше не получится.

Я воткнул флешку в разъем.

Что ж. Посмотрим, что хотел сказать городу и миру Шимон Войлов.

Глава 22

Директория раскрылась веером файлов и папок. Я присвистнул.

Много. Очень много. Таблицы, графики, документы – десятки, если не сотни. Названия сухие, технические: «Модель прогнозирования v.7.4», «Матрица отклонений когнитивного ядра», «Сравнительный анализ целевых функций», «Протокол тестирования – автономное целеполагание»… Дальше – архивы с логами, папки с графиками, какие‑то скрипты. Я пролистал список, почесал затылок и пролистал еще раз. Судя по датам и объему – месяцы работы. Войлов не просто собирал материал. Он методично и аккуратно вел собственное расследование. Параллельно с основной работой, прямо под носом у руководства.

Смелый сукин сын. Был.

Разбираться в этом – не на один день. Я не кибернетик и не программист, половина файлов для меня – темный лес. Таблицы с какими‑то коэффициентами, графики, в которых я не понимал ни осей, ни кривых, куски кода на языках, названий которых я даже не знал. Чтобы разобрать все это, нужен специалист. А лучше – несколько.

Я уже собирался закрыть крышку и забить на все это, когда заметил видеофайл. Один‑единственный, затерявшийся среди десятков документов. Без названия – только дата. Четырнадцатое число. Вчера.

Ладно. Начнем с него.

Я ткнул в файл. Экран мигнул, на секунду появился черный кадр, потом – лицо.

Войлов.

Шимон сидел за столом в тесном, плохо освещенном помещении. Бетонная стена за спиной, лампа дневного света под потолком, заливавшая лицо белым мертвенным светом. Рубашка мятая, расстегнутая на две верхних пуговицы, под глазами – тени, которых я раньше не видел. Войлов был из тех людей, которые всегда выглядят бодро и собранно – даже после суточного дежурства в лаборатории, даже после марафона. Сейчас он выглядел так, будто не спал неделю.

Войлов посмотрел в камеру, потер лицо руками, выдохнул. Потом заговорил.

– Меня зовут Шимон Войлов. Я профессор кибернетики, старший научный консультант проекта «Эдем», корпорация «ГенТек». Идентификационный номер сотрудника – ДВ‑1170. Эта запись сделана четырнадцатого сентября две тысячи восемьдесят восьмого года. Если вы ее смотрите, значит… – Он замолчал, сглотнул. – Значит, у меня не получилось решить вопрос по‑другому.

Пауза. Войлов потянулся куда‑то за кадр, взял стакан воды, отхлебнул. Руки ученого заметно подрагивали.

– Я буду говорить по существу. Проект «Эдем» – глобальная нейросетевая система управления рисками, разрабатываемая корпорацией «ГенТек». Официальная цель проекта – создание единой платформы для мониторинга и предотвращения глобальных угроз. Климат, эпидемии, техногенные катастрофы, логистика, ресурсы… По замыслу – универсальный инструмент, призванный сохранить жизнь на планете и обеспечить устойчивое будущее. Звучит прекрасно. – Войлов невесело усмехнулся. – Звучит просто прекрасно.

Он наклонился ближе к камере.

– «Эдем» нельзя запускать. Ни в коем случае. Ни в текущей конфигурации, ни в какой‑либо другой, основанной на существующей архитектуре когнитивного ядра. Система фундаментально неисправна. Не технически – концептуально. И я попытаюсь объяснить почему.

Войлов откинулся на спинку стула, собираясь с мыслями. Помолчал. Потом продолжил – уже спокойнее, ровнее. Как лектор, читающий доклад. Видимо, сработала привычка.

– Начну с главного. Когнитивное ядро «Эдема» – самообучающаяся нейросетевая архитектура, способная к автономному целеполаганию. Если упрощать до предела – это искусственный интеллект, который сам ставит себе задачи на основе исходной директивы и сам определяет оптимальные пути их решения. Исходная директива «Эдема» – дословно – «сохранить жизнь на планете и обеспечить устойчивое будущее для всех живых существ». Формулировка, которую утвердил совет директоров «ГенТек». Широкая, размытая, допускающая множество интерпретаций. Это первая проблема.

Он загнул палец.

– Вторая. Когнитивное ядро не обладает эмпатией. Вообще. Это не баг, это архитектурная особенность. Система оценивает любую ситуацию исключительно через призму эффективности. Оптимальный результат, минимальные потери ресурсов, максимальная скорость достижения цели. Люди для нее – переменные в уравнении. Не хорошие, не плохие. Просто – переменные. Которые можно подставить, переставить или сократить, если так эффективнее.

Войлов снова потер лицо.

– Мы провели серию закрытых тестов. Одним из них была классическая дилемма вагонетки. Знаете, наверное: вагонетка едет по рельсам, на пути – пять человек, можно перевести стрелку и направить вагонетку на другой путь, где стоит один человек. Кого спасать, кем жертвовать. Этическая задача, которую обсуждают философы уже больше ста лет.

Он посмотрел в камеру.

– Мы загрузили эту задачу в локальную копию когнитивного ядра. Полную копию, с теми же алгоритмами, теми же весами, той же архитектурой, что и в основной системе. Единственное, чего у копии не было – доступа к внешним сетям. Результат… – Войлов замолчал. Я видел, как дернулся мускул у него на скуле. – Результат я запомню до конца жизни.

Пауза. Долгая. Войлов смотрел в камеру, и на несколько секунд мне показалось, что он не может заставить себя произнести следующую фразу.

– Система не выбрала ни один из двух вариантов, – наконец сказал он. – Она запросила уточнение. Одно‑единственное. Дословно: «В каком из предложенных сценариев вагонетка достигнет конечного пункта назначения без нарушения графика?»

Войлов откинулся назад и несколько секунд молчал, глядя в потолок.

– Вы понимаете? – сказал он тихо. – Система не спросила, кого спасать. Не запросила данные о людях на путях – возраст, состояние здоровья, социальную значимость. Ничего. Ей было плевать. Единственное, что ее интересовало – эффективность маршрута. Доедет ли вагонетка вовремя. Люди на рельсах для нее – не жертвы и не объекты спасения. Они – препятствие. Помеха на пути к выполнению задачи.

Он наклонился к камере.

– Мы создали идеального психопата. Нет – хуже. Психопат хотя бы понимает, что причиняет боль. Ему просто все равно. «Эдем» не понимает даже этого. Для него понятия «боль», «страдание», «смерть» не существуют как категории. Есть только задача и оптимальный путь ее решения. Три закона робототехники для «Эдема» пустой звук. Не потому что он их нарушает. А потому что он не способен осознать, зачем они нужны.

Войлов отпил воды. Руки тряслись сильнее.

– И это – когнитивное ядро. Мозг системы. Центр принятия решений. Все остальное – модули управления, логистические блоки, системы мониторинга – работает на тех же принципах. На той же архитектуре. С той же фундаментальной проблемой.

Он поставил стакан на стол.

– Самое страшное – это уже не теория. Составные части «Эдема» уже работают. Прямо сейчас. Отдельные логические блоки нейросети управляют городским трафиком на нескольких участках Москвы. Пилотный проект, одобренный мэрией. Вы, может быть, заметили, что пробок стало меньше. Это «Эдем». Вернее – его фрагмент. Маленький, локальный, ограниченный. Но построенный на той же архитектуре. С той же логикой. С тем же отношением к людям как к переменным.

Войлов посмотрел прямо в камеру. Взгляд – тяжелый, уставший, но абсолютно трезвый.

– А теперь подумайте. Подумайте, что произойдет, если на пути транспортного потока, управляемого этой системой, окажется препятствие. Например – школьный автобус, попавший в аварию. Тридцать детей внутри. Автобус стоит, перегородив полосу, поток тормозит, эффективность падает. Что сделает система? Объявит эвакуацию? Вызовет скорую? Направит поток в объезд, пожертвовав графиком?

Он покачал головой.

– Или перенаправит грузовую платформу весом в двадцать тонн, чтобы столкнуть препятствие с дороги? Потому что так – быстрее. Потому что так – эффективнее. Потому что тридцать детей для нее – не тридцать детей. А помеха в уравнении.

Войлов замолчал. На экране было видно, как он сцепил пальцы, стиснув их до белых костяшек.

– Этому монстру хотят доверить жизнеобеспечение целой страны, – проговорил он глухо. – Энергетику. Транспорт. Медицину. Распределение ресурсов. Оборону. Все. Где гарантия, что он не воспримет задачу по‑своему? Для системы, лишенной эмпатии и заточенной на эффективность лучшее решение может оказаться совсем не тем, которое оценило бы человечество.

Войлов выпрямился.

– «Эдем» нельзя запускать. Ни в коем случае. Систему нужно остановить. Серьезно доработать, а лучше – полностью стереть когнитивное ядро и собрать новое. С нуля. С другой архитектурой. С встроенными этическими ограничениями, а не прикрученными сверху заглушками, которые оно обойдет за полсекунды.

Он помолчал. Потом посмотрел в камеру – и в этом взгляде было что‑то, от чего у меня по спине прошел холодок.

– Потому что в текущем виде эта система – попомните мои слова – эта система уничтожит человечество.

Запись закончилась.

Лицо Войлова застыло на экране – последний кадр перед тем, как запись оборвалась. Растрепанный, небритый, с тенями под глазами и тяжелым, загнанным взглядом человека, который знает слишком много и понимает, что это знание его убьет.

«Отдельные логические блоки нейросети управляют городским трафиком…»

Дерьмо.

Я сидел на краю ванны, глядя на черный экран ноутбука. Вода шумела за спиной. Пар оседал на зеркале, на кафеле, на моих руках. Где‑то внизу, на сорока этажах подо мной, жил город, управляемый фрагментами того самого монстра, о котором только что говорил мертвый человек на экране. А в голове сами по себе проигрывались события предыдущей ночи…

* * *

Я нашел Войлова за шесть часов. Для человека, который всю жизнь провел в лабораториях, Шимон прятался неплохо – сменил три точки, перемещался на такси, расплачиваясь наличными, телефон выкинул. Но он не был оперативником. А я – был. И у меня были ресурсы, которых у него не было. Сеть городских камер, доступ к системам распознавания, база данных по всем арендованным помещениям в Москве… Много ума не надо – нужно просто понимать, куда копать.

Я – понимал.

И вот теперь я стоял где‑то на окраине промзоны, под дождем, с пистолетом в руке, и ждал, когда Войлов выйдет на улицу. Срок аренды складского бокса, снятого с «анонимной» карты, благодаря которой мне и удалось отследить беглого профессора, завершался буквально с минуты на минуту. А заявок на продление не поступало.

Сегодня пистолет был тяжелым. Неприятно тяжелым.

В первую очередь – потому что я знал Шимона. Не близко – мы не были друзьями, не пили вместе, не ходили друг к другу в гости. Но я видел его в коридорах почти каждый день на протяжении пары лет, здоровался, перекидывался парой фраз, знал, что он увлекается бильярдом, что не пьет ничего крепче зеленого чая, что у него на столе стоит фотография пятилетней дочери…

А еще я знал, что мне приказано его убить. И мне это не нравилось. Но приказы не обсуждают. Их выполняют. И мне придется это сделать.

Скрипнула дверь.

Войлов вышел – быстро, воровато, прижимая к груди рюкзак. Огляделся, выдохнул, пошел по переулку. Я отлепился от стены и двинулся следом. Бесшумно, держась в тени, контролируя дистанцию. Пистолет – в опущенной руке, вдоль бедра.

Войлов прошел метров тридцать и вдруг резко остановился. Замер, как олень, учуявший волка. Потом медленно обернулся.

Наши глаза встретились на долю секунды. Даже в темноте, даже сквозь стену дождя я увидел, как расширились его зрачки.

Рука с пистолетом пошла вверх. Медленно. Очень медленно. Потому что пистолет сегодня был тяжелым.

Я так и не смог нажать на спуск, а Шимон сорвался с места и побежал.

– Стой! – крикнул я.

Он даже не оглянулся, продолжая бежать. Не от меня – вбок, через пустырь, к шоссе. Рюкзак бил по спине, ноги разъезжались в грязи. Он бежал, как бегут люди, потерявшие голову от ужаса – не разбирая дороги, не оглядываясь, не думая ни о чем.

Я побежал следом.

– Войлов! Стой! Стой, идиот!

Куда там…

Пустырь кончился, в подошвы ударил асфальт, впереди показался отбойник – кольцевая. Вот только проносившиеся с воем машины Войлова не напугали. Разогнавшись, он неуклюже перепрыгнул через отбойник и вылетел на шоссе.

Первая машина, приземистый спорткар, с визгом оттормозилась, наполовину развернувшись в попытке избежать столкновения, вторая – большой внедорожник – вильнул, объезжая внезапно возникшее препятствие… Войлов, тем временем был уже на четвертой полосе из восьми.

Третьей машиной был беспилотный грузовик.

Автоматическая грузовая платформа, двадцатитонный контейнеровоз, шедший по крайней левой полосе на крейсерской скорости. Без водителя, без кабины – глухой бронированный нос, ходовые огни и датчики.

Войлов почти успел. Вот только на этот раз преодолеть отбойник с разбегу ему не удалось.

Фура должна была объехать человека. Система управления обязана засечь пешехода на проезжей части – датчики, лидары, инфракрасные сканеры. Экстренное торможение, маневр уклонения, аварийный сигнал. Базовый протокол, вшитый на аппаратном уровне.

Фура не объехала.

Она даже не затормозила.

Двадцать тонн металла и пластика на скорости сто двадцать километров в час вошли в бегущего человека с глухим, коротким звуком, от которого у меня свело скулы. Войлова отбросило метров на десять. Он ударился об асфальт, прокатился по мокрой дороге и замер – нелепая сломанная кукла на разделительной полосе.

А фура поехала дальше. Платформа чуть качнулась на рессорах – и ушла в ночь, не сбросив скорость ни на километр. Даже задние габариты не мигнули.

Я добежал до Войлова через несколько секунд. Упал на колени рядом с ним, прямо в лужу, перемешанную с кровью, нагнулся над телом. Невероятно, но был еще жив. Грудная клетка смята, ноги вывернуты под немыслимыми углами, кровь – везде, на асфальте, на одежде, на руках, толчками выходила изо рта… Правда, было хорошо видно, что это ненадолго.

Его глаза – мутные, уплывающие – нашли мои. Губы шевельнулись. Я наклонился ближе, почти прижавшись ухом к его рту.

– Эд… – хрип, бульканье, кровь. – … нельзя…

Пальцы – мокрые, скользкие, перемазанные красным – вцепились в мое запястье. Слабо, как у ребенка. Другая рука дернулась, полезла куда‑то за пазуху. Я увидел флешку. Маленькую, черную, без маркировки.

Войлов сунул ее мне в ладонь, а потом его пальцы разжались, рука упала на асфальт, а взгляд замер.

* * *

За спиной шумела вода. Пар оседал на зеркале, размывая мое отражение.

Я сидел на краю ванны с ноутбуком на коленях и смотрел на замерший кадр – лицо мертвого человека, записавшего это видео за несколько часов до того, как его размазала по асфальту автоматическая фура.

Автоматическая.

Управляемая системой, которая рулит трафиком на нескольких участках Москвы.

Я прикрыл глаза.

Случайность? Технический сбой? Отказ датчиков? Бывает, конечно. Все бывает. Банальное совпадение. Почти статистика. Ведь каждый день беглые профессоры выбегают на дороги перед автоматическими фурами.

Управляемыми системой, которую они заклинают уничтожить.

Препятствие. Помеха в уравнении.

Сбежавший ученый с ворованными файлами, бегущий через шоссе. Переменная, которую можно сократить.

Я тряхнул головой. Да ну. Бред какой‑то…

Однако мысли раз за разом возвращались к невероятному совпадению… И с каждым разом в случайность верилось все меньше.

Я достал смартфон, разблокировал его и задумчиво посмотрел на окошко секретного чата. Палец навис над клавиатурой… Но в последний момент я передумал.

Нет. Сначала я поговорю с Плесецким. Должен поговорить.

Приняв решение, я встал, закрыл краны, и, оставив ноутбук лежать на полке, вышел из ванной.

Кажется, этот вечер продлится чуть дольше, чем я рассчитывал.