Текст книги "Бог, человек, животное, машина. Технология, метафора и поиск смысла (ЛП)"

Автор книги: Meghan O'Gieblyn

сообщить о нарушении

Текущая страница: 13 (всего у книги 16 страниц)

Эта доктрина достигла своего апофеоза в творчестве протестантских реформаторов. Замечание Кальвина о том, что "ни одна капля дождя не падает без непреложного повеления Бога", было бы немыслимо для средневекового человека, как и утверждение Лютера о том, что божественная справедливость "совершенно чужда нам". Это была лишь одна из многих карательных доктрин, появившихся в протестантской теологии. В прошлом христиане могли утешаться обещанием вечности и грядущего мира, но и это средневековое решение было уничтожено доктриной предопределения, утверждавшей, что верующие не могут знать, спасутся они или нет. Это был Бог, который ничем не обязан человеку и который винил людей во всем мировом зле, но при этом скрывал от них статус их собственного спасения, ставя под сомнение всякую былую уверенность.

Тезис Блюменберга, который с тех пор повторили многие философы и историки, заключается в том, что номинализм, получивший широкое распространение в протестантской теологии, привел к Просвещению, разочарованию и научной революции. Травма утраченных универсалий создала невыносимую ситуацию, которая достигла точки кризиса в мыслительных экспериментах Декарта, который настолько не доверял собственным способностям разума, что, по его мнению, было немыслимо, чтобы Бог каким-то образом обманул его, заставив думать, что у квадрата четыре стороны или что два плюс три равняется пяти. Распространенное мнение о том, что Декарт единолично положил начало современности, часто создает впечатление, что современная эпоха возникла ex nihilo, без всяких прецедентов (иллюзия, которую сам Декарт культивировал, построив свои «Размышления» на основе мифа о творении Бытия). Но его философия была порождением и ответом на очень специфический теологический кризис. Он утверждал, что физика должна отказаться от конечных причин, поскольку цели Бога непознаваемы (как он пишет в «Принципах философии», «мы не должны настолько полагаться на себя, чтобы думать, что мы знаем о Его намерениях»). Что еще более важно, его вывод о том, что абсолютная уверенность может быть основана только на человеческой мысли, был необходимым противодействием номинализму и единственным выходом из него. Если человечество не может обосновать себя и свою ценность ничем трансцендентным, если оно не может найти заверений в высшей сфере, то единственным выходом остается утверждение собственной ценности и определение своей судьбы. Номиналистический Бог «оставил человеку лишь альтернативу его естественного и рационального самоутверждения», – пишет Блюменберг, что и привело к рождению гуманизма. Эмпиризм был таким же ответом на утрату универсалий – радикально изменчивый мир без основополагающего порядка должен постоянно изучаться и проверяться – и сделал ненужным самого Бога: божественный дух и человеческий дух были настолько чужды друг другу, что могли функционировать, не принимая друг друга в расчет. «Бог номиналистов – это лишний Бог, – пишет Блюменберг, – которого можно заменить случайностью отклонения атомов от их параллельных траекторий и возникающими в результате этого вихрями, из которых состоит мир».

Блюменберг считал, что невозможно понять нас как современных субъектов, не принимая во внимание породивший нас кризис. И по сей день многие «новые» идеи являются лишь попытками ответить на вопросы, унаследованные нами от более ранних периодов истории, вопросы, потерявшие свой специфический контекст в средневековом христианстве по мере того, как они переходили из одного века в другой, путешествуя от теологии к философии, науке и технике. По его мнению, во многих случаях исторические вопросы, скрывающиеся в современных проектах, не столько заявлены, сколько подразумеваются. Мы постоянно возвращаемся на место преступления, но делаем это вслепую, не в состоянии распознать или идентифицировать проблемы, которые кажутся нам лишь смутно знакомыми. Не понимая этой истории, мы вынуждены повторять решения и выводы, которые оказались неудовлетворительными в прошлом.

Возможно, именно поэтому кризис субъективности, который можно обнаружить у Кальвина, Декарта и Канта, продолжает преследовать нас в спорах об интерпретации квантовой физики, постоянно возвращающихся к пропасти, существующей между субъектом и миром, и в наших теориях разума, которые все еще не могут доказать, что наши самые непосредственные сенсорные переживания реальны. Отголоски этого сомнения громче и настойчивее всего звучат в разговорах о новых технологиях, инструментах, призванных выйти за пределы нашего земного разума и восстановить нашу нарушенную связь с трансцендентной истиной. ИИ начался с желания создать бога. Неслучайно созданное нами божество удивительно напоминает того, кто изначально втянул нас в эту проблему.

Глава 12

Один мой хороший друг однажды рассказал мне историю, о которой я в последние годы вспоминаю удивительно часто. Это странная история, скорее анекдот, чем повествование, но почему-то она меня зацепила. В качестве контекста отмечу, что когда моей подруге было около двадцати, до того как мы с ней познакомились, она была зависима от опиатов. Эта история связана с одной из схем, которую она использовала, чтобы раздобыть денег в это время, – одной из тех гениальных стратегий, которые рождаются из отчаяния. Она жила в то время в пригороде, заходила в один из крупных магазинов в местном торговом центре и, как можно незаметнее, рылась в мусорных баках у входа, выискивая чеки. По ее словам, вы удивитесь, как много людей выбрасывают их сразу же после выхода из магазина. Найдя чек на покупку за наличные, она заходила в магазин, брала с полки один из товаров, указанных в чеке, и шла в службу поддержки, где "возвращала" его за наличные. Это всегда срабатывало. Ее никогда не ловили и даже не допрашивали. Когда я из любопытства спросил, как часто она это делала, она не смогла сказать. "Это просто одна из тех вещей, которые вы делаете, когда вам нужны деньги", – сказала она.

Когда она мне это рассказала, было лето, и мы сидели, кажется, на столиках для пикника во дворе за местным рынком, где мы часто ели ланчи, купленные в гастрономе. Когда мы познакомились, она была чиста уже почти десять лет и получала степень по социологии. В рамках процесса выздоровления она постаралась вернуть деньги, украденные за эти годы, не только отдельным людям, но и магазинам, в том числе этой крупной национальной сети. В тот день она сказала мне, что накопила несколько сотен долларов – приблизительную сумму, которую она взяла за эти годы. Примерно неделю назад, по ее словам, она отнесла эти деньги в магазин, где совершила мошенничество с чеками, встретилась с менеджером в его кабинете и объяснила ситуацию. По ее словам, он был очень мил, очень понимающий. Но в конце концов он сказал ей, что не может взять деньги. Очевидно, компания ежегодно теряла определенный процент выручки из-за краж, и эту цифру можно было предсказать с достаточной точностью, чтобы заранее заложить ее в бюджет годовых расходов. Это называлось "усушкой". Моя подруга спросила, может ли она пожертвовать деньги, но, разумеется, магазин не принимал пожертвований. Менеджер сказал, что она может отдать деньги в одну из благотворительных организаций, с которыми они сотрудничают, но, скорее всего, эффективнее будет отправить деньги им напрямую. Она сказала, что подумает над этим, но после ее ухода вся эта ситуация стала ее беспокоить. Она пришла в магазин, чтобы возместить причиненный ею ущерб, но на самом деле никакого ущерба она не причинила. Деньги, которые она украла, в некотором смысле уже были учтены. Не было никакого дефицита, чтобы расплачиваться.

Моя подруга – очень хороший рассказчик, неторопливый, с хорошим слухом о темпе и драматическом напряжении, и мне показалось, что это была притча, как одна из странных историй Христа о займах и возврате долгов, его любимая метафора космического баланса. Она сама осознавала философский и, возможно, духовный подтекст этой истории и сказала мне в тот день, что не может перестать думать об этой встрече и о том, что она означает для ее собственного агентства. Мы подружились отчасти после того, как обнаружили, что у нас обоих сохраняется частная одержимость свободой воли – проблема, которая так же мучительна и неизбежна для наркомана, как и для теолога. Вот как она объяснила дилемму: она решила взять деньги, руководствуясь определенными обстоятельствами, которые происходили в ее жизни. Ей нужны были деньги на наркотики, и она использовала эти деньги, чтобы купить наркотики. И сотни других воров по всей стране поступали так же, считая свои действия собственными. Но если взглянуть на картину в целом, то, по ее словам, она была не отдельным человеком, а членом набора данных, чьи действия можно было предугадать с такой точностью, что корпорация уже заложила в бюджет деньги, которые, как она знала, она украдет.

Аналитика на самом деле не так уж точна, сказал я ей. Вернее, они были точны только в очень больших масштабах.

"Я знаю это", – сказала она. "Я изучала статистику". Она на мгновение замолчала, и я понял, что она разочарована тем, что я воспринял эту историю слишком буквально, упустив из виду суть. Через мгновение она собралась с мыслями. По ее словам, она не могла перестать думать о том, что в любой момент в мире существует конечное число наркоманов и воров и что если бы она не украла деньги, то на ее месте появился бы другой. Сам факт точности таких предсказаний говорит о том, что условия мира фиксированы и неизменны.

Компании веками предсказывали убытки – в таком использовании статистики нет ничего нового, хотя, думаю, не случайно, что она поделилась этой историей в тот момент, когда передовая предиктивная аналитика только зарождалась в общественном сознании, когда в национальных изданиях часто появлялись истории о жутком, почти сверхъестественном предвидении этих систем – включая ставшую канонической историю о том, как Target узнала о беременности девочки-подростка на основании истории ее покупок раньше, чем ее родители. Эра больших данных превратила то, что раньше считалось благоразумной догадкой, в своего рода прорицательскую силу.

Правда, как заметил мой друг, точность этих предсказаний предполагает – по крайней мере интуитивно – что человеческое поведение детерминировано, что решения, которые мы считаем спонтанными или свободно выбранными, являются всего лишь концом длинной и жесткой причинно-следственной цепи событий. Аргументы в пользу детерминизма часто возвращаются к вопросу о предсказаниях, а в некоторых случаях и о некоем предсказателе. Ученый XIX века Пьер-Симон Лаплас предположил, что если бы существовал интеллект, который знал бы текущее состояние каждого атома во Вселенной, то он мог бы предсказать любое будущее событие. Теология Кальвина идет еще дальше: божественный интеллект существует вне системы и не только предвидит, но и контролирует ее будущее. Но именно здесь все становится неясным. Я подозреваю, что история моего друга осталась со мной, потому что она так точно передает мое замешательство по поводу отношений между предвидением и свободой: В какой степени акт предсказания приводит в действие ту самую судьбу, которую он предвидит?

Наверное, есть некоторая ирония в том, что доктрина о предопределении стала тем, что в конце концов спровоцировало мой кризис веры. Сомнения – естественное условие религиозной веры, и я не в первый раз испытывал сомнения. Но после чтения Кальвина и Лютера стало невозможно не задаваться вопросом, не являются ли мои возражения против божественной справедливости доказательством того, что я сам не принадлежу к избранным. Иначе с чего бы мне приходить в голову такие мысли, если только я никогда не был спасен с самого начала? Мои сомнения приобрели ощущение неизбежности и превратились в порочный круг. Они стали рекурсивными и самореализующимися, и каждая еретическая мысль, казалось, подтверждала, что я испорчен и обречен на ад. Чем более вероятной казалась эта судьба, тем более абсурдным казалось то, что я должен быть наказан за то, что совершенно от меня не зависело, что только усугубляло мои сомнения. Доктрина была похожа на китайскую ловушку для пальцев, ее логика становилась все более укорененной и неизбежной, чем больше я пытался с ней бороться.

Особая мука этого цикла проистекала из того, что невозможно было узнать статус своего спасения. Как и многих других детей евангелистов, меня учили наивному пониманию вечной безопасности – однажды спасенный, всегда спасен, – но, согласно Кальвину, абсолютная уверенность была невозможна. Божественная воля была «черным ящиком». Только Бог знал имена, записанные в книге жизни, и Бог понимал, как мы сами не могли, чисты ли наши побуждения. Невозможно было даже узнать, были ли сами сомнения предначертаны или выбраны по собственной воле. «Ежедневный опыт, – пишет Кальвин в своих „Институтах христианской веры“, – заставляет вас осознать, что ваш разум направляется скорее по Божьему побуждению, чем по вашей собственной свободе выбора». Эта доктрина уничтожила не только свободу воли, но и всякое связное чувство собственного достоинства. Признать, что разум управляется Богом, – значит стать машиной. Это значит признать, что сердце – тоже черный ящик, полный скрытых желаний и теневых мотивов, истинные причины которых остаются скрытыми от сознания.

Именно об этом беспокойстве пишет Вебер в книге "Протестантская этика и дух капитализма". Протестантизм, по его мнению, привнес в западную культуру новое, навязчивое сомнение в статусе своего спасения. Те, кто не может знать, являются ли они избранными, сделают все возможное, чтобы вести себя так, как будто они избранные, хотя бы для того, чтобы успокоить свой разум. Они будут делать все, что требуется, потому что никакие заверения не убедят их в том, что их усилия оправдались. Это сомнение породило удивительную энергию – "протестантскую трудовую этику", дух трудолюбия и самоконтроля, который создал необходимые условия для подъема капитализма. Но, как показывает мой собственный опыт, борьба с механизмами судьбы может иметь и обратный эффект. Как только у вас появляются основания полагать, что ваши худшие подозрения верны, бороться с ними становится бессмысленно.

-

Самым известным современным пересказом Книги Иова – хотя библейское вдохновение в нем затушевано и заслонено антиутопической политикой – является роман Кафки «Испытание». В романе рассказывается история Йозефа К., анонимного банковского служащего, которого однажды утром арестовывают, не объясняя ему сути его преступления. Пытаясь доказать свою невиновность, он сталкивается с загадочной системой правосудия, которую, кажется, не понимает никто, даже ее клерки и эмиссары. Судебная система имеет на него какое-то досье и хранит жуткие сведения о его прошлых действиях, но он так и не может понять, почему его расследуют и в каком преступлении его подозревают. Нортроп Фрай назвал роман «своего рода „мидрашем“ на книгу Иова», в котором непрозрачная природа божественного правосудия переосмыслена как лабиринт современной бюрократии. Стоическое и грозное здание государства становится в двадцатом веке воплощением Иеговы, скрывающего себя в вихре.

Дэниел Дж. Солоу, профессор права, пишущий о частной жизни и слежке, утверждает, что роман прозорливо отражает дилемму современного субъекта информационных технологий. По его мнению, озабоченность сбором данных и предиктивной аналитикой слишком сильно сфокусирована на оруэлловских страхах – идее, что государство следит за нашими самыми частными моментами, жадно выискивая признаки политического несогласия, – в то время как реальные угрозы более кафкианские. Уникальная угроза бюрократического государства заключается в его безликости, отсутствии намерений и смысла. "В "Испытании" изображена бюрократия с непостижимыми целями, которая использует информацию о людях для принятия важных решений о них, но при этом лишает людей возможности участвовать в том, как используется их информация..." Солоу пишет. "Вред от бюрократии – равнодушие, ошибки, злоупотребления, разочарование, отсутствие прозрачности и подотчетности".

По мере того как технологии «черного ящика» становятся все более распространенными, не утихают требования о повышении прозрачности. В 2016 году Генеральный регламент Европейского союза по защите данных включил в свои положения «право на объяснение», заявив, что граждане имеют право знать причину автоматизированных решений, которые их касаются. Хотя в Соединенных Штатах аналогичной меры не существует, технологическая индустрия стала более благосклонно относиться к «прозрачности» и «объяснимости», хотя бы для того, чтобы укрепить доверие потребителей. Некоторые компании утверждают, что они разработали методы, которые работают в обратном направлении, чтобы найти точки данных, которые могли вызвать решения машины – хотя эти объяснения в лучшем случае являются разумными догадками. (Сэм Ритчи, бывший инженер-программист компании Stripe, предпочитает термин «нарративы», поскольку объяснения – это не пошаговое описание процесса принятия решений алгоритмом, а гипотеза о тактике рассуждений, которую он мог использовать). В некоторых случаях объяснения исходят от совершенно другой системы, обученной генерировать ответы, которые призваны убедительно объяснить в семантических терминах решения, принятые первоначальной машиной, в то время как на самом деле эти две системы совершенно автономны и не связаны между собой. Эти вводящие в заблуждение объяснения в конечном итоге просто вносят еще один слой непрозрачности. «Проблема усугубляется, – пишет критик Катрин Пассиг, – потому что даже существование отсутствия объяснения скрывается».

Однако в какой-то степени дебаты о технических объяснениях и их предполагаемой невозможности – это ловкий трюк, призванный отвлечь внимание от реальных препятствий на пути к прозрачности, которые носят юридический и экономический характер. Система КОМПАС, которая использовалась в деле Эрика Лумиса, жителя Висконсина, которому было отказано в праве знать, по каким критериям алгоритм определял его тюремный срок, на самом деле не была моделью "черного ящика"; она была разработана частной компанией и защищена правом собственности. Google, Amazon, Palantir и Facebook – многие компании, внедрившие технологии "черного ящика" в государственные системы, – естественно, не решаются раскрывать принцип работы своих программ даже в тех случаях, когда это возможно, чтобы конкуренты не получили доступ к их исследованиям. Учитывая, что эти машины теперь интегрируются в огромные системы, стремящиеся к прибыли, которые сами по себе непостижимы, существует все больше теневых границ между машинами, которые эзотеричны по своей природе, и теми, которые скрыты для защиты власть имущих. Нам не только не позволено знать информацию, которую эти системы имеют о нас, нам не позволено знать, почему нам не позволено знать.

Эта непрозрачность имеет еще более коварные последствия. Хотя эти технологии часто превозносят за их «нейтральность», этот покров безликой объективности делает учреждения, которые их используют, более неуязвимыми для обвинений в несправедливости. Как отмечает Ванг в книге «Карцеральный капитализм», многие полицейские департаменты взяли на вооружение предиктивные модели в качестве ответа на свой «кризис легитимности», видя в них решение проблемы широко распространенного общественного недоверия к полицейским, возникшего в результате многолетнего расового господства и произвольного применения силы. Предиктивная полиция позволяет полицейским провести ребрендинг «таким образом, чтобы подчеркнуть статистическую безликость и символически устранить самостоятельность отдельных сотрудников», – пишет Ванг, представляя таким образом деятельность полиции как «нейтральную, беспристрастную и рациональную». Но персонификация – необходимая часть морального возмущения. ACAB, аббревиатура, ставшая известной благодаря антиполицейским протестам, теряет свою риторическую силу, когда в ней нет субъекта. «Все полицейские базы данных – ублюдки» не имеет смысла, – пишет Ванг.

Когда дело доходит до данных, используемых для этих прогнозов, – информации, которую тихо выкачивают из нас компании, торгующие тем, что ученый Шошана Зубофф называет "поведенческими фьючерсами", – нас часто успокаивают напоминанием о том, что зеркало двустороннее. Успокаивающий бальзам "метаданных" заключается в том, что наша информация в равной степени анонимизирована и обезличена для тех, кто на ней наживается. Нам говорят, что никто не читает содержание ваших писем, а только то, с кем вы переписываетесь и как часто. Они не анализируют ваши разговоры, просто отмечают тон вашего голоса. Ваше имя, лицо и цвет кожи не отслеживаются, только почтовый индекс. Это, конечно, не из уважения к частной жизни, а скорее следствие философии самосознания, которая характеризует информационные технологии с первых дней кибернетики – представления о том, что человека можно описать исключительно в терминах шаблонов и вероятностей, без какой-либо заботы о внутреннем мире. Как отмечается в исследовании MIT, посвященном моделям человеческого поведения, невозможно определить "внутренние состояния человека", поэтому прогнозы должны опираться на "косвенный процесс оценки", глядя на различные внешние состояния, которые можно измерить и оценить количественно. Зубофф утверждает, что капитализм наблюдения часто ошибочно идентифицируется как форма тоталитаризма, который стремится переделать душу гражданина изнутри наружу. Но доктрина цифрового наблюдения не интересуется душой. В идеологии, которая не верит в мысли, не может быть "мыслепреступлений". "Ей все равно, во что вы верите. Ему все равно, что вы чувствуете", – говорит Зубофф об этой доктрине. "Ее не волнует, куда вы идете, что вы делаете или что читаете". Вернее, эти действия интересуют его только с точки зрения того, "что он может получить в качестве сырья, превратить в поведенческие данные и использовать в качестве прогнозов для своего рынка".

Эти метаданные – оболочка человеческого опыта – становятся частью петли обратной связи, которая затем активно изменяет реальное поведение. Поскольку прогностические модели опираются на прошлое поведение и решения – не только самого человека, но и других людей с теми же демографическими характеристиками, – люди оказываются запертыми в зеркале своего цифрового отражения, и этот процесс исследователь из Google Вячеслав Полонский называет «алгоритмическим детерминизмом». Алгоритмы правоохранительных органов, такие как PredPol, обозначающие красными рамками конкретные районы, где вероятно совершение преступлений, получают свои прогнозы на основе исторических данных о преступности, а это значит, что они часто направляют полицейских в те же самые бедные районы, которые они патрулировали, руководствуясь только своей интуицией. Разница в том, что теперь эти решения, подкрепленные авторитетом эмпирических данных, вызывают предубеждение подтверждения, чего не скажешь об интуиции. «Каково отношение или менталитет офицеров, которые патрулируют одну из коробок?» – спрашивает Ванг. спрашивает Ванг. «Ожидают ли они, входя в бокс, что наткнутся на совершаемые преступления? Как ожидание найти преступление может повлиять на то, что офицеры обнаружат на самом деле?» Офицеры, которые останавливают подозреваемого в таких местах, часто используют прогнозы программы для подтверждения «обоснованных подозрений». Другими словами, человек является подозреваемым, потому что алгоритм определил этот район как тот, где могут находиться подозреваемые.

Есть и более открытые и преднамеренные случаи, когда предсказание скатывается в модификацию поведения. После скандала с Cambridge Analytica в 2016 году, когда частная компания продала данные пользователей Facebook политическим кампаниям для размещения целевой рекламы, Марк Цукерберг возмущался, настаивая на том, что его компания стала жертвой «злоупотребления доверием», и скрывал тот факт, что платформа сама тайно манипулировала своими пользователями с 2010 года. На промежуточных выборах в том году и на президентских выборах 2012 года Facebook прикреплял стикеры «Я проголосовал» к определенному проценту домашних страниц пользователей в день выборов, а в некоторых случаях – список проголосовавших друзей человека – тактика, которая должна была использовать социальное давление, чтобы подтолкнуть пользователей к голосованию. То, что это считалось «экспериментом» (это утверждение подкреплялось тем фактом, что его результаты были опубликованы в журнале Nature), создавало впечатление, что компания просто делает прогнозы или проверяет гипотезы для какого-то будущего использования, тогда как на самом деле лабораторией были реальные избиратели на настоящих демократических выборах (никто из которых, конечно, не знал, что они участвуют в массовом социальном эксперименте). Когда выяснилось, что эта акция повысила явку избирателей на сотни тысяч человек, компания была удостоена похвалы в журнале The Atlantic за «восхитительную гражданскую добродетель» и способность «повысить демократическое участие строго беспартийным способом».

Критики рассуждают о том, во что может превратиться эта экономика предсказаний в будущем, когда технология станет более мощной, а мы, граждане, станем более привычными к ее вторжениям. Как отмечает Юваль Ной Харари, мы уже доверяем мудрости машин, которые рекомендуют нам книги, рестораны и возможные свидания. Возможно, когда корпорации реализуют свое искреннее стремление знать клиента лучше, чем он сам, мы будем принимать рекомендации о том, за кого выйти замуж, какую карьеру сделать, за кого голосовать. Харари утверждает, что это официально ознаменует конец либерального гуманизма, основанного на предположении, что человек сам знает, что для него лучше, и может принимать рациональные решения о своих интересах. «Дейтализм», который, по его мнению, уже сменяет гуманизм в качестве правящей идеологии, лишает законной силы предположение о том, что индивидуальные чувства, убеждения и верования являются законным источником истины. "Если гуманизм приказывал: "Прислушивайтесь к своим чувствам! ", – пишет он, – "Дейтаизм теперь приказывает: «Слушайте алгоритмы! Они знают, что вы чувствуете». " Для скорости технологической эволюции характерно то, что даже самые алармистские прогнозы актуализируются и в какой-то степени становятся устаревшими почти сразу после того, как их озвучили. Всего через пару лет после того, как Харари сделал это предсказание, Amazon в 2018 году подал патент на «предвосхищающую доставку», предполагая, что со временем сможет предсказывать, что покупатели собираются купить, до того, как они это сделают.

Возможно, к тому времени грань между предсказанием и контролем полностью растворится, и уже невозможно будет определить грань между индивидуальной самостоятельностью и неумолимой логикой потока кликов, а также разницу между желанием и страхом. Исследование, опубликованное в журнале Berkeley Technology Law Review несколько лет назад, показало, что после разоблачений Эдварда Сноудена о правительственной слежке в интернете резко сократилось количество запросов на террористическую терминологию, такую как «Аль-Каида», «Хезболла», «грязная бомба», «химическое оружие» и «джихад». Это, конечно, не было вызвано снижением интереса к терроризму. Скорее, люди сами сдерживали себя в поиске, осознав, что их поисковые запросы регистрируются. Чуть больше года спустя количество поисковых запросов по этим словам все еще снижалось, несмотря на то что было очень мало свидетельств того, что люди подвергались преследованиям или наказаниям за свои интернет-поиски. Другими словами, люди действовали не из страха: они просто впитали логику государства наблюдения в свое поведение, так что это стало выглядеть как выбор. Именно такие случаи заставляют вспомнить замечание Вебера о протестантской тревоге. Дело не только в том, что прогнозы способны формировать поведение. Настоящая сила проистекает из невозможности расшифровать, что именно знают о вас власть имущие и какое поведение отслеживается и прогнозируется. Те, кто не может понять, представляют ли они опасность, будут делать все возможное, чтобы доказать свою невиновность, в некоторых случаях выходя за рамки разумного или требуемого. Остается неясным, понимают ли создатели этих технологий подобную динамику или просто повторяют исторический шаблон с бездумностью самих алгоритмов. Остается надеяться, что именно мрачная ирония, а не полная историческая амнезия, вдохновила руководителей Microsoft назвать свое первое программное обеспечение для GPS-навигации Predestination.

-

Последний год обучения в библейской школе я провел в интеллектуальной шахматной игре против кальвинистского Бога, выискивая его слабые места и пытаясь найти выход из тотализирующей логики доктрины. Я знал, что невозможно доказать, что Бог не существует, но все же был убежден, что могу разоблачить несправедливость божественного замысла. Я начал исследовать эти аргументы с помощью формальной экзегезы, которую мои профессора с почти садистским удовольствием дискредитировали. Мои работы возвращались испещренными красными чернилами, а маргиналии становились все более оборонительными и пронзительными. Бог суверенен, – написал один профессор заглавными буквами. Ему не нужно объяснять себя. Если бы я имел дело с традиционными структурами власти, с которыми сталкиваются в колледже, – капитализмом, патриархатом, – я был бы вооружен дубинкой теории и уверенностью в том, что понимание функций власти позволяет бороться с ней. Но номиналистического Бога нельзя победить с помощью рациональных аргументов, так же как нельзя победить сверхразумный алгоритм в игре Го. Ничего не оставалось делать, как покориться и сдаться.

Примерно так все и закончилось. Я перестал задавать вопросы, которые, как я знал, будут отвергнуты как дерзкие. Я выполнил письменные аргументы, которые от меня ожидали, что вернуло мне благосклонность профессоров. Я механически двигался вместе с остальными студентами, просыпаясь до рассвета, чтобы сидеть в лекционных залах без окон, делая заметки о заветах патристики. Каждое утро я посещал часовню в святилище, которое, казалось, трусилось под огромным органом Möller Opus, и пел гимны Богу, чье лицо стало таким же пустым, как китовый оскал органных труб. Каждый раз, когда я пытался молиться, меня переполняло чувство личной неудачи, напоминание о том, что я не могу общаться с божеством, которое не было антропоморфизировано до доброты. Я вспомнил, сначала с тоской, а потом со стыдом, те школьные вечера, когда я часами разговаривал с Богом, как с другом по переписке. Стоя на коленях в тишине своей комнаты в общежитии, я слышал только насмешливого Бога псалмопевца: Ты думал, что я такой же, как ты.