Текст книги "Молох (сборник)"

Автор книги: Станислав Лем

сообщить о нарушении

Текущая страница: 28 (всего у книги 63 страниц)

5

Необходимо четко уяснить, что в области, в которую мы вступили, никакие запутанные ухищрения не помогут. Движение стрелок часов может быть вызвано пружиной, электромоторчиком, гирей – в последнем случае часы своему мерному ходу обязаны земной гравитации, и там, где ее нет, как на орбите, они идти уже не могут. В каждом таком примере движение векторно сориентировано «сверху», то есть часовщиком-конструктором. В то же время мы ведем речь о том, чтобы «электронный мозг», компьютерный «разум» (или как его еще назвать) робота имел в виду, психически воспринимал, предвидел ЦЕЛИ, к которым он будет двигаться, при этом о его отдельных решениях, создающих смысловое единство, мы заранее знать не будем, как не знаем, какие решения будет принимать полярник в своем походе на полюс или на гору Эверест. Иначе говоря, речь идет о прогрессирующей, адаптационно успешной суверенизации робота – в последней фазе совершенствования волевых актов он, возможно, будет равен человеку…

6

Среди экспертов повсеместно преобладает распространенное убеждение, что миллиарды лет, которые в результате организовали кембрийский взрыв видов, а стало быть, и многообразные формы survival of the fittest, может «напрямую» заменить человеческий разум. Если мы все тщательно продумаем и создадим необходимые теоретические науки, то нас быстро окружат роботы, обладающие «волей», которых мы сможем «подговорить» и направить на достижение необходимых НАМ целей. Однако при такой возможности не в виде исключения следует учесть и то, что такие роботы смогут достигать указанных им целей не как плохо нацеленный снаряд, а как неблагодарный ребенок или как выпестованный нами вредитель. Наделенные волевой суверенностью роботы могут нам сопротивляться – и здесь я не имею в виду излюбленный из-за примитивизма воображения «бунт» роботов против человека. Я думаю только о том, что когда количество степеней свободы поступков увеличивается, то уже не «только добро» будет следовать из этого, ибо в свободе может сформироваться и некое «зло». В естественной эволюции это видно даже слишком хорошо, и эти размышления могут немного затормозить нашу намеренность наделить роботов «свободной волей».

7

Кстати, прозвучало слово «намеренность». Оно означает именно определенную направленность на то, что «намерение» желает указать. Речь идет не только или почти не только о намерении в понимании феноменологии как определенного направления философии. Речь только о том, что наши компьютеры никакого следа намеренности не демонстрируют, и, может, стоит задуматься над тем, как реально и просто эту намеренность из них высечь?

8

Единственным в мире известным нам способом для осуществления этого является естественная эволюция, которая то, что живое, но проявляет недостаточно намерений к жизни, без «жалости» уничтожает, а то, что намерение жизни искусно реализует, сохраняет на какое-то время (в норме – время размножения). Наибольшей проблемой для теоретиков и практиков конструирования является, к сожалению, то, что эоны времени, необходимые естественной эволюции, то есть миллиарды или по меньшей мере миллионы лет, являются препятствием, которое мы не преодолеем. По моему мнению, все зависит от того, имеется ли какая-нибудь методика, какая-нибудь стратегия ускоренного получения волевой составляющей, намеренности или попросту ХОТЕНИЯ чего-нибудь. Люди обоих полов имеют некоторые внутренние стремления, например, либидо, голод, жажда и т. д., но, кроме того, проявляют разнообразную чрезмерность ( redundance), распространяющуюся от изготовления кремниевых молотков и боевых топоров до строительства замков из кирпича или из спичек и last but not leastкосмических полетов.

9

Чтобы волевая составляющая как-то начала функционировать, для нее необходима «картина мира» или хотя бы только окружающей среды. Ребенок должен сначала узнать, что Луну снять с неба рукой не удастся, чтобы затем он через несколько десятков лет смог участвовать в программе Apollo.

10

Псевдомодели активного проявления воли, то есть «хотения», можно сконструировать и так, что в программу вводится генератор случайных событий, благодаря чему мы сумеем предвидеть будущие состояния и, возможно, функции «робота», но никто этого не хочет. Никто не желает этого, за исключением лотереи или лототрона. Одна женщина жаловалась психиатру на сына, рассказывая, что он съел весь торт, предназначенный для праздничного стола, и изнасиловал кухарку. «Не является ли это, – спрашивала она, – доказательством его ненормальности?» «Нет», – ответил доктор. Если бы сын съел кухарку и изнасиловал торт, можно было бы на это смотреть иначе. Это неплохой пример функционирования «случайного генератора», который должен изображать нам волевую деятельность. Она должна быть наделена каким-то смыслом. У бактерии, блохи или слона это будет смысл выживаемости, у человека, как говорилось, количество более или менее осмысленных поступков намного больше, мы знаем также слишком хорошо (к сожалению), что люди способны желать для себя вредные, безумные и даже убийственные вещи. Я не представляю себе, чтобы робот мог иметь почти беспредельную волевую составляющую, чтобы он мог владеть artificial intelligence, будучи освобожденным от сильных ограничений – как люди. Мы ведь находимся «в путах» определенных положений, моральных законов, установленных традициями или воспитанием, которые нас во многом сдерживают, так как если бы этого не было, то не было бы преград и тормозов в желаниях поедания или насилия.

11

Я упорно возвращаюсь к вопросу, каким образом мы могли бы наделить роботов «желаниями», подкрепленными определенными запретами и направляющими ориентациями. Это очень трудная проблема, и идея Айзека Азимова, содержащаяся в его трех законах «роботехники», – это чистейшая нереализуемая утопия. И выбросив за борт рассуждения всякой утопии, мы будем вынуждены подставить лоб различным антимониям жизни, поскольку существуют различно достигаемые цели, по-разному отягощенные аксиологически и вместе с тем НЕДОСТИЖИМЫЕ, и тогда обычный человек теряет голову (как говорится) или же, чтобы голову совсем не потерять, бросает монету, высматривая орла или решку. Проще говоря, он тогда сдается на милость судьбоносному механизму, полностью внешнему по отношению к нему и по результату абсолютно от него не зависящему. Но если бы роботы, приодетые в юридические тоги, заседали в каком-нибудь трибунале, намереваясь разрешить наши конфликтные дела, то мы были бы не в восторге, когда бы их приговоры зависели от чисто случайных механизмов.

12

Я уже давно писал о том, что есть ситуации, в которых sui generisволевая составляющая появляется или не появляется в зависимости от того, какой язык описания мы используем. Потому что, когда вирус приближается к живой клетке, происходит физико-химическое и биохимическое притяжение, мы получаем описание, где ничего не говорится о воле, а о том, ХОЧЕТ ли вирус вообще убить клетку или нет, – речи быть не может. Но вирус атакует клетку, вторгается в нее, притворяется, что в своем составе имеет те же гены, что и геном клетки, преобразуется – троянский конь и негодяй – в вирион, и вот мы уже имеем на сцене микродраму волевого проявления или хотя бы его зародыш.

13

Акты нашей воли всегда направлены в будущее. Поэтому пришло время поговорить об очередном препятствии для конструкторов роботов, ибо ни один компьютер не направлен в будущее. Хотя для того чтобы казалось, что все-таки направлен, программа для игры в шахматы содержит богатую вариантами оценку «состояний» шахматной доски, а коэффициенты ценности, приписанные СВЕРХУ различным ходам в соответствии с их дальнейшей последовательностью в игре, делают следующие шахматные ходы компьютера мало-мальски понятными и из-за этого квазиволевыми. Нам говорят, что возможных шахматных партий порядка 10 ⁹⁹, но ведь это конечное количество. Если бы мы послали «планетарную машину» на Титан (спутник Сатурна), мы сначала должны были бы составить таблицу тех событий, которые машина (робот) на Титане может застать и встретить. Но если окажется (сегодня вещь абсолютно неправдоподобная), что там есть какие-то Существа или Псевдосущества, мы не сможем обеспечить робота волевой осмысленностью поведения на чужой планете. Как заметил еще Витгенштейн, о чем невозможно говорить, о том следует молчать. В упомянутый выше «перечень событий» для робота трудно играть, поскольку может быть так, что sed tamen potest esse totaliter aliter. Но значит ли это, что при наличии непредвиденных ситуаций обязательно надо посылать ЛЮДЕЙ? Посылать можно, но гарантии успеха это не даст, поскольку и человек не является совершенным воплощением такой намеренности, которая во всем разберется, и такой волевой составляющей, благодаря которой будут выполняться исключительно оптимальные действия в незнакомых обстоятельствах. И, следовательно, как видим, ПОСТЕПЕННО возникает понятие «успешной волевой деятельности», и потому ученый, не сумев разгрызть очередную загадку Природы, падает на колени и просит Господа Бога о помощи или, осознавая, что суть загадки знает только Господь Бог, изменяет (этот ученый) научному методу, хотя при этом может быть очень религиозной личностью. Суть в том, что с момента апелляции к Господу Богу или к кому-то другому трансцендентному мы переадресуем НАШИ ПРОБЛЕМЫ Кому-то или Чему-то, отказываясь от собственной суверенности в познании. Также если бы планетарная робот-машина нам сообщила, что один Господь Бог знает, что где-то Там может быть, и по этой причине он, робот, отказывается от выполнения рискованной экспедиции, то этот робот не будет ни с конструкторской, ни с гносеологической точки зрения чего-либо стоить. Роботов, апеллирующих к Господу Богу, впрочем, было бы слишком легко создавать…

14

В затронутой здесь теме скрываются также многочисленные дальнейшие загадки, например, вопреки мнениям, мы не имеем понятия, для чего проявлению воли нужны ЭМОЦИИ (а они как-то необходимы). Для чего нужна интуиция (тоже очень нужна). Для чего нужны сны (то же самое можно сказать) и т. п. Цифровое (либо иное) моделирование нам проясняет не слишком много вопросов из-за типичной для него моноцифровой (нумерационной) линейности. Мы еще не разобрались во всех разумах, включая и собственный.

15

Присматриваясь к нашим собственным, человеческим поступкам, легко можно заметить, какие причины порождает то, что называется рассеянностью. Вот, подозванный к телефону, я откладываю книгу, а вернувшись, не могу ее найти, и после мучительного поиска оказывается, что я «машинально» поставил этот том на полку. «Машинально» здесь означает не что иное, как «бессознательно». Поскольку сознание постановку книги в ряд других на стеллаж не «заметило», и память этого не записала, я обречен на потерю времени, вызванную поиском. Итак, перед нами появляются очередные «сущности», а именно «сознание» и «память». «Умный робот» должен тогда обладать и тем, и другим. Память без сознания не нужна et vice versa. [144]144
  и наоборот (лат.).


[Закрыть]Сложности растут и избежать их нельзя. Робот, вооруженный аналогами органов чувств, заметит акт постановки книги на полку и запомнит его. Однако означает ли это, что он обладает сознанием и памятью так, как мы? Я сомневаюсь. Нам дана довольно сильно ограниченная делимость внимания. Робот здесь может быть более способным, я в этом не сомневаюсь, но что это имеет общего с сознанием? Когда я неподвижно отдыхаю, например, в постели перед тем как заснуть, отдавая себе полностью отчет о положении тела, я могу, кроме того, «посылать» мое предсонное сознание, например, к любой ноге, к рукам, к уху, и я знаю, что каждый нормальный человек тоже это сумеет. Если бы робот имел такую чисто психическую способность, то как бы мы могли об этом «посылании на периферию» сознания робота узнать? Мы можем следить за импульсами в соответствующих псевдонервах робота – это ясно. Но свидетельствуют ли они о бодрствующем сознании? Уже все меньше людей-экспертов остаются верны тестам Тьюринга, а когда робот или компьютер НИЧЕГО НЕ ГОВОРИТ, дело становится еще хуже. Вместе с тем разные красиво названные системы, до краев заполненные сознанием и все аккуратно запоминающие, снабженные совершенной волевой составляющей, воображением с четкой намеренностью, речью, эмоциями, соединенными с мышлением, и мышлением, соединенным с интуицией, – все эти вещи даже не настолько существенны, сколько необходимы для того, чтобы нас окружал народ, состоящий из роботов, которые будут нас внимательно слушать, но в отличие от людей абсолютно ничего плохого нам не сделают и не будут множеством правительств призваны на военную службу, чтобы двинуться на врага. Пока таких роботов нет, а если бы они появились, были бы, как я думаю, чертовски дороги – люди намного дешевле и их столько везде. Эти роботы, которые разумны, послушны и добры, как-то больше мне напоминают воплощение мечтаний конструкторов об АНГЕЛАХ-хранителях, чем о людях. Я думаю, что на поверхности малых планет (как Марс, а также Луна) в XXI веке появятся так называемые (мною) планетарные машины и что они будут обладать программами с большими возможностями, но ни о чем интересном поговорить с ними скорее всего не удастся. Впрочем, со многими настоящими людьми также не о чем говорить – это должно такого скептика, как я, немного утешить.

Моделирование культуры [145]145
  Symulowanie kultury, 1996. © Перевод. Язневич В.И., 2004


[Закрыть]

1

В настоящее время стало модным «компьютерное моделирование всего» – от судеб Вселенной через сто миллиардов лет до вирусной эволюции. Поэтому неудивительно, что издательство « MIT PRESS» перворазрядного университета в США взялось за редактирование и публикацию серии трудов, посвященных моделированию культуры. Но удивительно то, что, приняв меня (бог знает почему) за «знатока», это « MIT PRESS» прислало мне работу Н. Гесслера с просьбой написать на нее рецензию. А поскольку этот автор уже предварительно и непосредственно прислал мне тезисы своей работы, вращающейся вокруг моделирования (цифрового) культуры, и поскольку я посчитал эту идею невыполнимой, то это же написал и издательству « MIT PRESS».

2

Однако в своем ответе я ограничился категорическим утверждением о неосуществимости проекта, да еще изложил это способом, который мог обидеть редакцию издательства. Поэтому меня не покидало чувство, что голословного признания проекта моделирования культуры чистой фикцией будет недостаточно, что следует хотя бы кратко объяснить, ПОЧЕМУ культуру, ее возникновение, ее «эмергенцию» смоделировать невозможно. И настоящее эссе посвящено некоему доказательству «невозможности» данного начинания. Сначала, разумеется, следует определить, ЧТО такое культура и откуда она взялась, а точнее – они взялись, так как это целый букет расходящихся дорог, причем многие культуры, возникая, или переходили в другие формы, или вымирали и исчезали. Культурологи из круга антропологов, изучающих культуры, до сих пор наталкиваются в своей работе на остатки древних культур, отчасти с нерасшифрованными знаками уже несуществующих на Земле видов ПИСЬМА. В общих чертах я писал о культуре несколько десятилетий назад в окончании книги «Фантастика и футурология» и процитирую оттуда самого себя, ибо течение времени и прилив новейших суждений ничем не изменили моих взглядов. И поэтому с цитаты приходится начать.

3

«Человек – не животное, которому в голову пришла мысль о культуризации. Он – не битва импульсивного „старого мозга“ с молодой корой серого вещества, как это думает Артур Кёстлер. И он не „голая обезьяна“ с большим мозгом (Десмонд Моррис), поскольку он – не животное с добавлением чего-то. Совсем наоборот. Как животное человек несовершенен. Сущность человека – культура; не потому, что так нравится прекраснодушным идеалистам. Сказанное означает, что в результате антропогенеза человек лишился наследуемых, эволюционно „сверху“ заданных норм поведения, животные обладают рефлексами, удерживающими в повиновении внутривидовую агрессивность, а также автоматически тормозящими рождаемость при угрозе популяционного взрыва. Перелетами птиц или саранчи руководят гормонально-наследственные механизмы. Муравейник, улей, коралловый риф – это агрегаты, приспособившиеся за миллионолетия к автоматическому равновесию. Социализация животных также подчиняется наследственному управлению. Так вот – автоматизмов такого рода человек попросту лишен. А поскольку эволюционный процесс лишил его тех внутренних механизмов, действиям которых подчиняются животные, постольку человек был принужден создавать своей биологией – культуру.

Человек – животное несовершенное, это означает, что он не может возвратиться к животному состоянию. Именно поэтому дети, выросшие вне человеческого окружения, оказываются глубоко ущербными в биологическом отношении: у них не вырабатывается ни присущая виду норма разумности, ни речь, ни высшая эмоциональность. Они – калеки, а не животные. Человекоубийство тоже есть форма культуры. В природе не существует «зооцид» как аналог геноцида. Короче говоря, в биологии человека нет данных, позволяющих однозначно вывести его обязанности. Не понимая этого и действуя стихийно, общества создали институты культуры, которые отнюдь не являются продолжением биологических свойств человека, хотя и служат им рамкой, опорой, а то и прокрустовым ложем.

Человеческая биология НЕДОСТАТОЧНА для того, чтобы «как следует» очертить поведение человека. Эту недоочерченность культура восполняет ценностями, несводимыми к «чистому выживанию». Человек сотворил институт, то есть проявляющиеся вовне структуры ценностей и целей, которые выходят за пределы индивидуума и поколения.

Парадокс человечности состоит в том, что биологическое несовершенство принуждает человека создавать культуру, и культура, возникнув, тут же начинает ценностно дифференцировать человеческую биологию. Одни части тела она размещает на шкале оценок выше, другие – ниже; одним функциям приписывает достоинство и благородство, другие лишает их. Нет культуры, которая бы антропогенетически данное человеку строение принимала «демократично», равно, без каких бы то ни было замечаний, то есть которая тем самым приняла бы человека как данного в недоочерченности, коя должна быть дополнена. Каждая культура формирует и дополняет человека, но не в соответствии с фактическим состоянием, ибо она не признается в собственных изобретениях, решениях и перечне той их произвольности, которую обнаруживает лишь антропология, когда изучает весь комплекс культур, возникших в истории. Каждая культура настаивает на своей исключительности и необходимости и именно так создает свой идеал человека. Так вот, с этим идеалом человеку не всегда бывает удобно. С явлением «неприспособленности» чрезвычайно трудно себя отождествить, поскольку оно имеет возвратно-круговой характер: совершенствуя себя или «доочерчивая», «доопределяя», человек одновременно перемещает собственную природу в направлении, характерном для данной культуры. И поэтому становится должником ее идеала, неполностью платежеспособным. Но переместившись в установленном культурой направлении, человек оттуда видит себя почти с религиозной точки зрения и с перспективы обычаев и норм, то есть не как некую материальную систему и не как недопрограммированный гомеостат, но как существо, подчиненное аксиологическим градиентам. Он сам придумал для себя эти градиенты. Потому что какие-то изобрести должен был, а теперь они его формируют уже в соответствии с логикой, присущей их структуре, а не структуре склонностей и пристрастий». [146]146
  Цитата по изданию: Лем С. Фантастика и футурология: В 2 кн. Кн. 2. – М.: ООО «Издательство АСТ», 2004, с. 579–581 Перевод Е. Вайсброта).


[Закрыть]

4

Эта длинная цитата показалась мне необходимой, поскольку она объясняет, по крайней мере на начальном этапе, почему нельзя моделировать возникновение культуры. К этому следует кое-что добавить. В действительности (здесь я утверждаю только об определенной постоянной ( constans), но не занимаюсь поиском причин, по которым она берется), происходит именно так, что возникновение культуры инициирует возникновение орудий труда, изобретенных в эолите, в палеолите уже усовершенствованных, а вместе с ними заодно и результаты, при помощи этих орудий полученные, что приводит к появлению «облака» нематериальности. Увидеть его следы археолог не может, так как «облако» исчезает вместе со смертью тех пралюдей. Оно начинает быть видимым впервые в ЗАХОРОНЕНИЯХ, в которые рядом с останками клали оружие, продукты, чтобы умерший мог, неизвестно как, продолжить свое существование после смерти. Другого объяснения этим вложениям в могилы мы не знаем и придумать не можем. Древнейшие захоронения людей насчитывают уже несколько десятков тысяч лет, хотя точнее дату установить трудно, и сейчас считается, что каких-то 15–20 тысяч лет назад возник праязык, который в ходе расселения пралюдей по всей (почти) планете разделился на «местные» языки. Здесь уже кроется одна из загадок, так как трудно представить, чтобы до возникновения речи, в немоте, возникли какие-либо верования. Но здесь перед нами вырастает уже лес гипотез, в который мы не свернем, так как неправдоподобно, чтобы перед возникновением не столько речи, сколько ПИСЬМА мимолетные «метафизические» верования могли оставить какие-либо следы. Немного следов до сегодняшнего дня (например, менгиры) сохранилось, но по шкале антропогенеза они не являются очень древними. Здесь дальнейшие исследования археологов еще многое могут нам сказать.