Текст книги "Бог, человек, животное, машина. Технология, метафора и поиск смысла (ЛП)"

Автор книги: Meghan O'Gieblyn

сообщить о нарушении

Текущая страница: 6 (всего у книги 16 страниц)

Когда речь идет о биологических системах, таких как леса и стаи, эмерджентное поведение, которое кажется единым и разумным, может существовать без централизованной системы управления, такой как мозг. Но эта теория была применена и к самому мозгу, как способ объяснить человеческое сознание. Хотя большинство людей склонны считать мозг центральным процессором организма, сам этот орган не имеет центрального управления. Философы и нейроученые часто указывают на то, что наша вера в единое внутреннее "я" – иллюзия, как однажды выразился Ричард Докинз, что мы «единица, а не колония», – не имеет под собой никакой основы в реальной архитектуре мозга. Вместо этого существуют лишь миллионы бессознательных частей, которые, подобно пчелиной колонии, сговорились между собой, чтобы создать «систему», обладающую разумом. Эмерджентизм часто подразумевает, что сознание находится не только в голове; оно возникает из сложных отношений, существующих во всем теле, а также из взаимодействий между телом и окружающей средой.

Брукс и его команда из Массачусетского технологического института, по сути, пытались воссоздать условия эволюции человека. Если верно, что человеческий интеллект возникает на основе более примитивных механизмов, унаследованных нами от предков, то и роботы должны аналогичным образом развивать сложное поведение на основе ряда простых правил. При создании ИИ инженеры обычно использовали подход к программированию "сверху вниз", как будто они были богами, создающими существ по своему образу и подобию. Но эволюция зависит от стратегий "снизу вверх" – одноклеточные организмы развиваются в сложные многоклеточные существа, – что, по мнению Брукса, более эффективно. Абстрактное мышление было поздним событием в эволюции человека, и не таким уж важным, как нам хотелось бы верить; задолго до этого наши предки научились ходить, есть, передвигаться в окружающей среде. Когда Брукс понял, что его роботы-насекомые способны на многое без центрального процессора, он перешел к созданию человекоподобного робота. Машина представляла собой туловище без ног, но убедительно напоминала человеческую верхнюю часть тела, с головой, шеей, плечами и руками. Он назвал ее Cog. Она была оснащена более чем двадцатью шарнирами, а также множеством микрофонов и тепловых датчиков, которые позволяли ей различать звук, цвет и движение. Каждый глаз содержал по две камеры, которые имитировали работу человеческого зрения и позволяли ему совершать "саккады" с одного места на другое. Как и в случае с роботами-насекомыми, у Cog не было центрального управления, и вместо этого он был запрограммирован на ряд самых простых приводов. Главной целью Брукса было доказать, что робот может действовать как разумный человек без центрального хранилища информации – механический эквивалент единого "я". Идея заключалась в том, что через социальное взаимодействие и с помощью алгоритмов обучения машина со временем выработает более сложные модели поведения и, возможно, даже научится говорить.

За те годы, что Брукс и его команда работали над Cog, машина достигла некоторых замечательных результатов. Она научилась распознавать лица и устанавливать зрительный контакт с людьми. Она могла бросать и ловить мяч, показывать на предметы и играть со Slinky. Когда команда играла рок-музыку, Когу удавалось отбивать сносный ритм на барабане. Иногда робот демонстрировал «эмерджентное» поведение – новые действия, которые, казалось, органично развивались из спонтанных действий машины в мире. Однажды одна из аспиранток Брукса, Синтия Бризил, трясла ластик на доске, а Ког протянул руку и коснулся его. Забавляясь, Бреазил повторила это действие, что побудило Кога снова прикоснуться к ластику, как будто это была игра. Брукс был ошеломлен. Похоже, робот осознал идею «очереди», а ведь он не был запрограммирован на ее понимание. Бреазил знал, что Ког не может этого понять – она помогала создавать машину. Но на мгновение она словно забыла об этом и, по словам Брукса, «вела себя так, как будто Ког больше, чем есть на самом деле». По словам Брукса, готовность его студентки относиться к роботу как к «чему-то большему», чем он был на самом деле, привела к появлению чего-то нового. «Cog оказался способен работать на более высоком уровне, чем предполагала его конструкция», – сказал он.

У самой Бреазиль было похожее откровение: чтобы машины стали разумными, сначала с ними нужно обращаться так, как будто они разумны. Как матери разговаривают со своими детьми, зная, что ребенок еще не понимает, так и социальное взаимодействие с роботами может помочь им развить те самые качества – намерения, желания, самосознание, – которые им ложно приписывают. Проблема заключалась в том, что Ког был несколько грозным роботом – он был очень высоким и не имел черт лица, поэтому люди неохотно относились к нему как к человеку. Поэтому Бреазил решила создать своего собственного робота. Она взяла одну из запасных голов Кога и внесла в нее несколько важных изменений: удлинила шею, сделала розовый, похожий на ленточку рот и голубые, огромные глаза, которые напомнили ей глаза ребенка Гербер. Серия моторчиков приподняла брови и заставила губы выразительно изгибаться и кривиться. Бреазил назвала своего робота Кисмет. Она запрограммировала его на распознавание эмоций в человеческих голосах, включая запрет, внимание и комфорт, и на соответствующую реакцию на эти эмоции. Она создала для робота протоязык – гибкий лексикон фонем без заранее установленных грамматических правил, похожий на лепет младенца. Его синтезатор голоса менял высоту тона, время и артикуляцию, чтобы соответствовать эмоциям, которые он обнаруживал в голосе Брезила. Когда журналисты посещали лабораторию, они постоянно отмечали, что Бреазил разговаривает с машиной на детском языке, воркуя, как мать со своим ребенком. Бреазил часто испытывала противоречие между тем, что она объективно знала о Кисмет, и тем, во что ее склоняли поверить эмоции. Однажды она призналась журналисту, что скучает по роботу, когда ей приходится покидать лабораторию на целый день. «Мне почти стыдно говорить о Кисмете, – сказала она, – потому что люди считают странным, что я могла так привязаться к этому роботу».

Когда я познакомился с этими анекдотами, то сразу вспомнил о привязанности и материнской заботе, которую я испытывал по отношению к Айбо. Но когда я посмотрел фотографии Кисмет в Интернете, я не почувствовал того очарования, которое, как утверждал Бреазил, испытывал к своему созданию. Черты робота были похожи на человеческие лишь в самом абстрактном смысле. На его лице не было ни кожи, ни гладкой поверхности, оно представляло собой просто конструкцию из открытых металлических частей с наспех приделанными глазами и губами, как будто это было сделано после. Все, чем оно обладало, должно было зависеть от взаимодействия наблюдателя с ним. Возможно, это правда, что мы воспринимаем объекты как личности, когда нам приходится вступать с ними в социальную связь, что появление интеллекта во многом зависит от нашей готовности относиться к объекту так, как будто он похож на нас. На самом деле это было частью теории Брукса о децентрализованном интеллекте. Сознание не было некой субстанцией в мозге, а скорее возникало из сложных отношений между субъектом и миром. Это была отчасти алхимия, отчасти иллюзия, совместные усилия, которые стирали наши стандартные разграничения между собой и другим. Как сказал Брукс, «интеллект – в глазах наблюдателя».

-

Я заинтересовался эмерджентностью несколькими годами ранее, потому что она казалась убедительной альтернативой редуктивному материализму – мнению, что любое явление можно объяснить, разложив его на самые основные, элементарные строительные блоки. Такой подход в теориях разума слишком часто приводил к абсурдной позиции, что раз сознание нельзя наблюдать в мозге, то его не существует. Эмерджентисты, напротив, считают, что сложные, динамичные системы не всегда можно объяснить с точки зрения их составных частей. Это не просто вопрос заглядывания в мозг с помощью МРТ и обнаружения определенной области или системы, которая отвечает за сознание. Вместо этого сознание – это своего рода структурный паттерн, который возникает из сложности всей сети, включая системы, существующие за пределами мозга и распределенные по всему телу.

Хотя эмерджентизм уходит корнями в физикализм, критики часто утверждают, что в этой теории есть что-то мистическое, особенно когда утверждается, что эти модели высшего уровня способны контролировать или направлять физические процессы. Философ искусственного интеллекта Марк А. Бедау утверждал, что эмерджентность в своих самых сильных итерациях "неуютно похожа на магию", поскольку предполагает, что нематериальное свойство (сознание) способно каким-то образом причинно воздействовать на материальную субстанцию (мозг). Более того, немногим эмерджентистам удалось точно сформулировать, какой тип структуры может порождать сознание у машин; в некоторых случаях разум представляется просто как свойство "сложности" – термина, который является весьма расплывчатым. Некоторые критики утверждают, что эмерджентизм – это всего лишь обновленная версия витализма – древнего представления о том, что мир одушевлен жизненной силой или энергией, которая пронизывает все вещи.

Вплоть до XVII века витализм был онтологией по умолчанию практически во всех человеческих культурах: в большинстве случаев оживляющей силой считалась душа, которая существовала во всех вещах, проявлявших признаки жизни. Только после Декарта витализм был сформулирован как научная позиция, как возражение против популярного мнения, что люди – это просто машины. Виталисты настаивали на том, что организм – это нечто большее, чем совокупность его частей, что помимо физической структуры должен существовать некий «живой принцип», или élan vital. Эта теория была убедительной отчасти потому, что она была интуитивной. Машина всегда остается просто машиной, но мертвому животному явно не хватает чего-то – жизни, тепла, – что когда-то оживляло его живую форму, даже если все материальные части остаются на месте. Виталисты выдвинули гипотезу, что этим принципом жизни, возможно, является эфир или электричество, и их научные усилия по обнаружению этой субстанции часто переходили в стремление воссоздать ее искусственно. Итальянский ученый Луиджи Гальвани провел ряд широко разрекламированных экспериментов, в ходе которых он пытался оживить расчлененные лягушачьи лапки с помощью электрического тока. Отчеты об этих экспериментах вошли в научную литературу, вдохновившую Мэри Шелли на создание романа «Франкенштейн», герой которого, безумный ученый, погружен в виталистскую философию своего времени.

Хотя эмерджентизм сосредоточен именно на сознании, а не на жизни как таковой, эта теория подвержена той же критике, которая долгое время преследовала витализм: это попытка получить "нечто из ничего". Она выдвигает гипотезу о некой дополнительной, невидимой силе, существующей внутри механизма, подобно призраку в машине. Когда я читал о Бруксе и его команде в Массачусетском технологическом институте, у меня часто возникало ощущение, что они занимаются своего рода алхимией, продолжая наследие тех магов-виталистов, которые вдохновили Виктора Франкенштейна оживить свое существо из мертвой материи, и рискуя столкнуться с теми же опасностями. В конце концов, самый мистический аспект эмерджентности заключается в том, что мы можем создавать вещи, которые до конца не понимаем. На протяжении десятилетий критики утверждали, что искусственный интеллект общего назначения – машинный интеллект, функционально эквивалентный человеческому, – невозможен, потому что мы еще не знаем, как работает человеческий мозг. Но возникновение в природе демонстрирует, что сложные системы могут самоорганизовываться неожиданным образом, не будучи задуманными или спроектированными. Порядок может возникать из хаоса. В области машинного интеллекта сохраняется надежда на то, что если мы правильно соберем все части – благодаря изобретательности или чистой случайности, – то сознание просто возникнет как побочный эффект сложности. В какой-то момент природа вмешается и завершит работу.

Это кажется невозможным. Но, с другой стороны, разве не все творческие начинания основаны на процессах, которые остаются загадочными для создателя? Художники давно поняли, что творчество – это неуловимое занятие, которое делает художника неподвластным большим силам, возникающим как бы извне. Философ Джиллиан Роуз однажды описала акт письма как «смесь дисциплины и чуда, которая оставляет вас под контролем, даже если то, что появляется на странице, возникло из неподвластных вам областей». Я часто сталкиваюсь с этим странным явлением в своей работе. Я всегда сажусь за стол с видением и планом. Но в какой-то момент то, что я создал, открывает рот и начинает издавать собственные указы. Слова словно обретают собственную жизнь, так что, когда я заканчиваю работу, трудно объяснить, как она стала такой, какой стала. Писатели часто рассказывают о таком опыте с удивлением и благоговением, но я всегда относился к нему настороженно. Я задаюсь вопросом, хорошо ли для художника или любого другого творца быть таким пористым, даже если вмешательство бога – это не более чем законы физики или работа его бессознательного. Если то, что получается в результате таких усилий, приходит, как выражается Роуз, «из областей, неподвластных вам», то в какой момент готовый продукт выходит за рамки ваших желаний? В какой момент вы, создатель, теряете контроль?

-

Позже, весной, я узнал, что роботы-доставщики еды действительно прибыли во время каникул. Мой друг, который провел зиму в кампусе, рассказал мне, что в течение нескольких недель они бродили по пустым университетским тротуарам в качестве своеобразной тренировки, изучая все маршруты и отмечая важные препятствия. У машин были нейронные сети, и они учились ориентироваться в окружающей среде благодаря многократному взаимодействию с ней. Друг работал во время перерыва в одном из опустевших зданий рядом с озером и рассказывал, что часто выглядывал из окна своего кабинета и видел, как они проносятся внизу. Однажды он застал их всех в кругу посреди торгового центра кампуса. «У них был какой-то симпозиум, – сказал он. Подобно сети деревьев, охватывающей большой лес, их интеллект был распределен по всей системе. Они сообщали друг другу об опасностях и дистанционно передавали информацию, чтобы помочь адаптироваться к новым вызовам окружающей среды». Когда весной того года началось строительство одного из самых больших зданий, информация об этом распространилась по сети роботов – или, как выразилась одна из местных газет, «роботы сделали перепланировку и „рассказали“ об этом друг другу».

Однажды я проходил через кампус, возвращаясь домой из библиотеки. Был ранний вечер, примерно в то время, когда заканчивались последние дневные занятия, и тротуары были переполнены студентами. Я ждал у светофора, чтобы пересечь главную магистраль – оживленную четырехполосную улицу, которая раздваивала кампус, – вместе с десятками других людей. Дальше по улице был еще один пешеходный переход, но он не был освещен. Это был печально известный опасный перекресток, особенно в ночное время, когда случайные студенты в последнюю минуту бросались через него, едва избежав столкновения со встречным транспортом. Пока я стоял и ждал, я заметил, что все внимание приковано к другому переходу. Я посмотрел вниз по улице, а там, на углу, ждал один из роботов-доставщиков, выглядевший совершенно растерянным и несчастным (но как? У него даже не было лица). Он пытался перейти улицу, но каждый раз, когда выходил на пешеходный переход, чувствовал приближение машины и отступал на тротуар. Каждый раз, когда оно это делало, толпа издавала коллективный ропот беспокойства. "Ты сможешь!" – крикнул кто-то с противоположной стороны улицы. К этому моменту несколько человек на тротуаре остановились, чтобы посмотреть на это зрелище.

Дорога на мгновение расчистилась, и робот снова начал двигаться вперед. Это была его единственная попытка, но машина все еще двигалась неуверенно – было неясно, собирается ли она бежать. Студенты начали кричать: «Сейчас, сейчас, сейчас!» И волшебным образом, словно в ответ на эти призывы, робот пронесся по пешеходному переходу. Как только он оказался на другой стороне улицы – как раз мимо следующего потока машин, – вся толпа разразилась радостными криками. Кто-то крикнул, что робот – его герой. Свет переключился. Пока мы шли через улицу, толпа не утихала, смеялась и улыбалась. Женщина примерно моего возраста, затерявшаяся, как и я, в море молодых людей, привлекла мое внимание, определив союзника. Она зажала шарф на шее и покачала головой, выглядя несколько ошеломленной. «Я очень волновалась за этого малыша».

Позже я узнал, что за роботами постоянно наблюдал человек-инженер, который сидел в комнате где-то в недрах кампуса и наблюдал за ними на экранах компьютеров. Если один из ботов оказывался в особенно затруднительном положении, человек мог отменить действие его систем и управлять им вручную. Другими словами, невозможно было понять, действуют ли боты автономно или управляются дистанционно. Самое жутко умное поведение, которое я наблюдал у них, могло быть именно тем, чем оно казалось: свидетельством человеческого интеллекта.

Глава 6

В своем эссе "Научить камень говорить" Энни Диллард пишет, что на острове, где она живет, у побережья штата Вашингтон, есть человек по имени Ларри, который живет один в хижине на скале и посвятил свою жизнь тому, чтобы научить камень говорить. Он держит камень на полке, обтянутой куском кожи, и каждый день по нескольку раз открывает его для уроков. Диллард признается, что понятия не имеет, что происходит во время этих уроков, но она представляет, что он пытается научить камень одному слову, например "чашка" или "дядя". Никто не подшучивает над этим предприятием; на самом деле все в городе, включая ее саму, относятся к его усилиям с глубочайшим уважением. "Я желаю ему всего хорошего", – пишет она. "Это благородная работа, и с любой точки зрения она превосходит продажу обуви".

Начав с этого странного анекдота, Диллард переходит к обширному размышлению о разочаровании в природе. Если раньше мир был священным и святым местом, полным болтливых и компанейских объектов – камней и деревьев, способных общаться с нами, – то теперь мы живем в мире, который стал немым. "Молчание природы – это ее собственное замечание, – пишет она, – и каждая чешуйка мира – это скол с этого старого немого и неизменного блока". Мы до сих пор временами жаждем вернуться к древней космологии и прилагаем все усилия, чтобы заставить природу вновь вступить с нами в диалог. Но в конце концов Диллард решительно пессимистично оценивает возможность возвращения. Зачарованный мир, отмечает она, – это "шоу, на котором мы уехали из города". В одном из отрывков она творчески переосмысливает сцену на Синае, когда Бог появляется перед изгнанным народом Израиля и пугает их до смерти своим громовым голосом. Люди умоляют его никогда больше не говорить, и он соглашается. Смысл очевиден: мы сами сделали это с собой. Это мы настояли на том, чтобы духи ушли, это мы изгнали себя из сада. "Трудно исправить свой собственный ущерб, – пишет она, – и вернуть в свое присутствие то, что мы попросили оставить... Сами святые горы хранят молчание. Мы затушили горящий куст и не можем его разжечь; мы тщетно зажигаем спички под каждым зеленым деревом".

Эссе Диллард относится к той группе повествований о разочаровании, которые относят падение из благодати гораздо раньше – не к эпохе Просвещения и становлению современной науки, а к возникновению монотеизма. Не было ли, в конце концов, само понятие imago dei– того, что люди обладают каким-то особым отличием, уединенным романом с Богом, тем, что заставило нас поверить в то, что мы отличаемся от остальной природы, и привело к нашему отчуждению? За стихами Бытия, в которых человечество окрещено образом Божьим, следует наделение Адама «владычеством» над творением, что навсегда связывает исключительность человека с деградацией мира природы. Но эссе Диллард поднимает достойный вопрос: Учитывая, что на нашу культуру наложили отпечаток иудео-христианские повествования и философские традиции, которые на них основываются, возможно ли вернуться назад? Или эти нарративы настолько глубоко встроены в ДНК наших онтологических предпосылок, что возврат невозможен? Это особенно сложно, когда речь идет о наших попытках создать жизнь из обычной материи – заставить наши собственные камни ожить. В ортодоксальных формах иудаизма и христианства способность вызывать жизнь из инертной материи осуждается как язычество, колдовство или идолопоклонство.

Этот страх перед черной магией преследует современную робототехнику с момента ее зарождения. В середине прошлого века он был еще достаточно силен, чтобы Алан Тьюринг почувствовал себя вынужденным обратиться к тому, что он назвал «теологическим возражением» против ИИ. В своей эпохальной работе 1950 года «Вычислительные машины и интеллект» Тьюринг подытожил теологическое возражение в общепринятом понимании следующим образом: «Бог дал бессмертную душу каждому мужчине и каждой женщине, но не животным и не машинам. Следовательно, ни одно животное или машина не могут мыслить». Сам Тьюринг был ярым материалистом и признавался, что «не может принять ни одной части этого» – то есть саму идею существования Бога или души. Но ради аргументации он воспринял возражение всерьез и попытался ответить на него в его собственных терминах. Проблема с теологическим возражением, утверждал он, заключается в том, что оно ограничивает всемогущество Бога. Если Бог действительно всемогущ, разве он не может дать душу слону, если сочтет нужным? А если так, то, вероятно, он мог бы сделать то же самое и с машиной. Этот акт божественного вмешательства, утверждал он, не так уж сильно отличается от деторождения: физический процесс осуществляется посредством человеческой деятельности – секса и зачатия – и все же никто не похвалит родителей за то, что они наделили душу своим ребенком. Подразумевается, что в какой-то момент Бог вмешивается и одухотворяет физическое тело ребенка. «Пытаясь сконструировать такие машины, – утверждал Тьюринг, – мы не должны неуважительно узурпировать Его власть над созданием душ, так же как и над созданием детей: скорее, в любом случае мы являемся инструментами Его воли, предоставляющими особняки для душ, которые Он создает».

С точки зрения аргументов, это удивительно неуклюже. Все, что доказывает ответ Тьюринга, – это то, на чем изначально основывалось теологическое возражение: что люди не способны создать разумную жизнь; что для такого подвига потребуется что-то еще – душа, сознание, – что не учитывалось в механистическом понимании Тьюрингом личности. Тьюринг и его коллеги, в конце концов, не создавали "особняки", которые должны были быть сверхъестественно населены бессмертной душой; они считали, что их машины сами по себе являются жизнью.

-

Когда Брукс и Бреазил работали над своими роботами в Массачусетском технологическом институте, к их команде присоединилась немецкий теолог по имени Анна Фёрст, заинтересовавшаяся робототехникой. Во время работы в архиве Гарвардской школы богословия она забрела в Массачусетский технологический институт и уговорила Брукса разрешить ей пожить в Media Lab, чтобы понаблюдать за работой инженеров и программистов. Фоерст быстро очаровалась роботами – особенно Кисмет, с которой у нее возникла сильная эмоциональная связь. Она вспоминает, как ревновала, когда другим удавалось привлечь внимание робота, и радовалась, когда выражение лица и голос машины, казалось, отвечали ее собственным. На протяжении всех месяцев, проведенных в лаборатории, она пыталась примирить реалистичность этих машин со своей верой в то, что люди созданы по образу и подобию Божьему. «По мере того как наши технические создания становятся все более похожими на нас, они поднимают фундаментальные богословские вопросы», – пишет она в своей книге «Бог в машине», посвященной этому опыту. «В теологии я научилась понимать людей как особенных, избранных Богом, чтобы быть партнерами Бога». Однако идея о том, что мы сами можем создавать разумные машины по своему образу и подобию, предполагала, «что люди – не более чем машины, мешки с кожей, которые можно переделать».

В конце концов она попыталась гармонизировать это противоречие между наукой и религией, обратившись к мистическому иудаизму. В рамках этой традиции считается, что буквы и числа являются строительными блоками творения. Согласно "Сефер Йецира", одной из самых ранних книг иудейского мистицизма, вся совокупность Вселенной основана на мистических комбинациях букв еврейского алфавита, своего рода космическом коде, который предшествовал материи и присущ каждой вещи в мире. Сама ткань реальности информационна. В практической каббале – ветви этой традиции, обучающей использованию освященной Богом магии, – считается, что человек может манипулировать этими цифрами и буквами, чтобы одушевить неодушевленное. В Средние века эта мистическая традиция породила множество историй о големах, в которых люди лепили андроидов из глины и оживляли их с помощью магических заклинаний. В некоторых историях эти заклинания определены как математические перестановки. Согласно каббале, люди способны на это, потому что созданы по образу и подобию Бога и наделены теми же творческими способностями. Фоерст отмечает, что големы, с одной стороны, были инструментами, призванными помочь человечеству и облегчить его жизнь. Но они также были попытками понять Бога и Божье творение. "Создание человекоподобных роботов следует за этим поиском партнерства, – пишет Фоерст. Искусственный интеллект был одновременно формой поклонения и "повторением Божьего акта создания нас".

Одна из самых известных историй о големах – история Иегуды Лёва, пражского магарала. Говорят, что рабби Лёв создал голема по имени Йозеф, чтобы помочь пражским евреям защитить свое гетто, которое часто подвергалось нападениям христиан. Голем стоял у входа в гетто всю ночь как дозорный, а днем помогал жителям в работе. Иосиф, как и большинство големов в этих историях, мог стать одушевленным только тогда, когда держал во рту бумагу с именем Бога. Рабби Лёв не знал, считать ли Иосифа машиной или Божьим ребенком, но, чтобы подстраховаться, решил каждую пятницу вынимать из голема бумажку с Божьим именем, заставляя его соблюдать шаббат. Однако в одну из пятниц раввин забыл вынуть бумажку, и голем стал агрессивным, сея хаос во всей общине и, в некоторых версиях истории, убив раввина. Такая концовка перекликается с темой гордыни, которая присутствует во многих мифах о попытках человека создать жизнь. Но в другой версии истории есть более обнадеживающий финал. В этой версии раввину удается извлечь бумагу изо рта голема и положить ее на чердак синагоги. Затем раввин Лёв придумывает каббалистический стишок, который пробудит голема в конце времен. На протяжении многих веков мальчикам, принадлежащим к традиции восточноевропейских евреев, ведущих свое происхождение от рабби Лёва, на бар-мицве рассказывали секретную формулу, способную пробудить голема.

В одном из моментов своей книги Фоерст рассказывает анекдот, услышанный ею в Массачусетском технологическом институте, который настолько странен, что я сначала не решался включить его сюда – хотя позже нашел подтверждение в других источниках. Эта история относится к 1960-м годам, когда Media Lab курировал знаменитый робототехник Марвин Мински – период, который сейчас считается «колыбелью ИИ». Однажды два аспиранта MIT, Джерри Сассман и Джоэл Мозес, болтали во время перерыва с несколькими другими студентами. Кто-то вскользь упомянул, что первый большой компьютер, построенный в Израиле, назывался «Голем». Это привело к общему обсуждению историй о големах, и Суссман рассказал коллегам, что он потомок раввина Лёва, а на бар-мицву его дед отвел его в сторону и рассказал ему рифму, которая пробудит голема в конце времен. На это Моисей, потрясенный, рассказал, что он тоже потомок рабби Лёва и на бар-мицве его дед тоже дал ему магическое заклинание. Оба мужчины договорились записать заклинание отдельно на листках бумаги, и когда они показали их друг другу, оказалось, что формула – несмотря на то, что она передавалась веками в виде чисто устной традиции, – была идентичной. В этот момент Минский вышел из своего кабинета и застал своих студентов в ошеломленном молчании. Он спросил, что они обсуждали, и когда они рассказали ему, сказал: «Вы в это верите? Послушайте, сразу после моей бар-мицвы мне сказал то же самое мой дедушка. Но вы думаете, я в это поверил?» Минский был отъявленным рационалистом, считавшим, что религия в корне противоречит научным достижениям. Когда студенты спрашивали его о заклинании, он настаивал, что забыл его.

Непонятно, что делать с этой историей. Можно сделать вывод, что формирующая сила этих мифов, рассказанных этим людям в детстве, стала частью того, что привело их в область искусственного интеллекта. А может быть, вся эта история – апокриф, попытка ведущих ученых мира придать своему предприятию серьезность духовного поиска. И Сассман, и Мозес стали профессорами Массачусетского технологического института. Митчелл П. Маркус, ученый-компьютерщик, учившийся у Сассмана в 1980-х годах, в своем эссе передал по сути тот же анекдот и утверждал, что Сассман однажды сказал: «Знаете, мы, ученые-компьютерщики, на самом деле являемся современными каббалистами. Мы одушевляем эти неодушевленные машины, правильно подбирая строки символов». Митчелл считает себя продолжателем этой традиции. «Как ученый-компьютерщик, я вижу информационное вокруг себя, и я вижу информационное как очень отдельное от физического», – пишет он. Он отмечает, что мистические аспекты иудаизма подтверждают базовую структуру компьютерной науки: «Создание и оживление с помощью манипуляций с символами – то, чем занимаются и что изучают компьютерщики, – это лишь один из аспектов нашего бытия, созданного по образу и подобию Божьему».

-

"Есть два типа мифов о сотворении мира, – пишет историк технологий Джордж Дайсон в своей книге "Собор Тьюринга", – те, в которых жизнь возникает из грязи, и те, в которых жизнь падает с неба". История современных компьютеров, утверждает Дайсон, опирается на обе эти традиции: "Компьютеры возникли из грязи, а код упал с неба". Этот дуализм, питающий некоторые из самых амбициозных технологических начинаний, очевиден в попытках вызвать у машин эмерджентный интеллект. Как големы были вылеплены из грязи и оживлены с помощью магического заклинания, так и роботы, созданные из материальных частей, будут населены божественным дыханием – абстрактными математическими схемами, которые составляют большую часть нашего мира и способны заставить системы ожить. Хотя эти мистические нотки не должны дискредитировать эмерджентность как таковую – это достаточно полезный способ описания сложных систем, таких как пчелиные ульи и климат, – идея о том, что сознание может возникнуть из машин, кажется формой принятия желаемого за действительное, хотя бы потому, что цифровые технологии были построены на предположении, что сознание не играет никакой роли в процессе развития интеллекта. Точно так же, как несколько причудливо верить в то, что наука может объяснить сознание, когда сама современная наука была основана на исключении разума, трудно поверить, что технологии, созданные специально для того, чтобы исключить понятие сознательного субъекта, могут прийти к развитию внутренней жизни.