Текст книги "Мир Лема - словарь и путеводитель"

Автор книги: Леонид Ашкинази

сообщить о нарушении

Текущая страница: 36 (всего у книги 38 страниц)

4. Summa technologiae?

Тематика наших бесед была школьнической – мы рассуждали о человеке.

Лем Ст. Голос Неба.

Эта статья – о книгах Станислава Лема. Выбор темы объясняется просто – мне нравится этот писатель: как он пишет, что он пишет.

Как ни велик соблазн попробовать написать о том, как пишет Лем, от этого придется отказаться. Чтобы иметь право поддаться этому соблазну, желательно иметь соответствующее образование. К счастью, оно не нужно, чтобы читать книги и бродить по лесу.

В большом лесу можно увидеть нового зверя – но мы узнаем прежде всего зверей, в какой-то степени знакомых. Так что если вы сочтете самыми интересными у Лема не те вопросы, что я, это будет лишь естественно.

Мне показался интересным вопрос о психичности техники. Сразу вспоминаются споры на тему «могут ли машины мыслить». Со временем споры утихли, а некоторые из спорящих занялись делом – созданием машин (которые пока не мыслят). Известным законам природы мыслящие машины противоречат не более, чем мыслящий человек, так что аргументы «против» могут быть только от антропоцентризма. Но и веского аргумента «за» до сих пор не видно.

Лишь под занавес споров о мышлении у машин спорящие выяснили, что под мышлением они понимают зачастую разные вещи, кроме случаев, когда считают, что мышление – это «нечто такое, что делает человек». Ограничиваться таким же ответом на вопрос «что такое психичность?» не хочется. Итак, что такое психичность в лемовском понимании, когда и у кого она бывает?

Проще начать «от противного». Что Лем, судя по реакции людей, окружающих искусственную систему, не считает признаком психичного поведения? Прежде всего тривиальные внешние признаки – точность отражения внешней обстановки – «Вторжение», эффективность действий в новой ситуации – «Непобедимый», обучаемое поведение – «Ананке», суперсложное, но все же постигаемое человеком поведение – «Элистер Уэйнрайт, Being Inc.», даже сложное до непостижимости поведение – «Непобедимый», даже явное интеллектуальное превосходство Голема XIV-го. Призыв «копать глубже» довершает Терминус, от общения с которым Пиркс чуть не поседел, и который оказывается не только апсихичным, но и почти не мыслящим автоматом.

Не является признаком психичности ни коллективное поведение, ни поведение непредсказуемое – эти две гипотезы Лем не рассматривает, видимо, за очевидностью. Действительно, машинные модели простейших проявляют коллективное поведение, а поведение рулетки непредсказуемо. Но и способность к предсказанию событий не оказывается признаком психичности – «137 секунд». И даже попытки автодескрипции, которые делают героини «Соляриса» и «Маски» и Барнс из «Дознания» сами по себе ничего не доказывают – любое познающее устройство рано или поздно в процессе познания наткнется на самое себя… Однако характерно, что попытки автодескрипции делают у Лема системы, которые мы позже признаем наделенными психикой. А как же, ведь самокопанье – это так по-человечески… Но при чем здесь, собственно, человек?

Лемовское summa contro anthropocentrismus – «Доктор Диагор». Создания доктора пытаются освободиться от создателя, а последнее даже использует его в своих целях – но увы, ни то, ни другое – не психичность… просто эмоции Диагора, оказавшегося игрушкой своего творения, даны уж очень психично. И даже попытка подчинить себе все человечество, сделанная Другом, не означает его психичности.

Антропоцентризм все же силен – Эл Брегг признает психичными сломанных роботов «Возвращения со звезд», ожидающих своей очереди в печь – еще бы, они обратились к нему за помощью. О милосердии взывал и компьютер, увидевший над собой Молот; но его Лем признает психичным по другой причине. Тот же, кто держал молот, разбираться в этих тонкостях не стал. Антропоцентризм – не критерий, но куда же от него денешься, если не являются психичностью ни разработка мировоззренческих гипотез – «14-е путешествие Ийона Тихого», ни возникновение веры в существование по ту сторону конторы по сбору металлолома – «Возвращение со звезд», «Сумма технологии», ни возможность сойти с ума – «Охота на Сэтавра», «Клиника доктора Влипердиуса» – просто в сложной системе и поломки сложные.

Итак, антропоцентризм. В какой-то степени такой подход, может быть, и выход – ведь человек психичен. Так не поискать ли нам психичность техники в области общения ее с человеком? Доктору Диагору это не противоречит – ведь он со своими созданиями не общался – он их изучал, а последнее из них успешно изучило его. В общении же, в контакте есть что-то кроме взаимоизучения.

Начнем мы с простейшего метода общения. Глазомер и реакция не подводят навигатора Пиркса – выстрел – и Охота на Сэтавра окончена: глыба раскаленного металла падает на камни. За несколько секунд до этого Сэтавр спас Пиркса. Не был ли машинный гуманизм признаком психичности? Впрочем, сам факт проявления оного гуманизма остается сомнительным – уж очень быстро все происходит. И Пиркс остается жить со своими сомнениями.

Блеск и слабый порыв ветра – ведь это был маленький дестабилизатор. На большой не хватило материалов. Но больше на станции Солярис не будет Хэри К. Крис Кельвин может теперь носить при себе, вместе с рвущейся на сгибах открыткой, еще и записку, написанную тем же почерком, только на десять лет позже. Хэри ушла, как и в первый раз, по своей воле. Какие уж тут сомнения…

Нет сомнений и в «Формуле Лимфатера» – все сформулировано, все точки над всеми буквами, битые стекла, оборванные провода… Неясно лишь, откуда берется этот абсолютный гуманизм, с глазу на глаз и под угрозой уничтожения? У биологических систем гуманизм возник в результате межпопуляционного отбора (Грант В. Эволюция организмов. – М.: Мир, 1980. – С. 119), так как он увеличивает вероятность выживания. «Относительный гуманизм» – в обществе и не под угрозой уничтожения – критерием психичности не является, так как может быть просто оптимальным поведением, – как это прекрасно объяснил Барнс из «Дознания».

Абсолютный гуманизм биологических систем объяснить легко – естественное желание «понять – значит упростить» вызывает попытки упростить решение сложной задачи о мере гуманизма в конкретной ситуации. Предельно упрощенное решение – абсолютный гуманизм. Его невозможно реализовать, как и любой абсолют, но можно декларировать; практические реализации – вегетарианство на идейной почве (не от нечем себя занять!) и ахимса – достаточно далеки от абсолюта. Но абсолютизация гуманизма возникает очень редко, в сложных системах, прошедших большой путь развития и только в ситуациях, когда чисто материальное существование обеспечено. Таким образом, абсолютизация гуманизма – ошибка, встречающаяся только у высокоразвитых систем. Откуда она могла взяться у механизмов, в которых не вчера-позавчера затянули последние болты?

Психичности и, в частности, гуманизму, система может научиться от людей. Так возникает психичность у ребенка. Такой путь показан в «Солярисе» и «Маске». Хэри и соблазнительница Арродеса умеют ставить задачи; обе они наделены эмоциями; обе они в процессе общения с людьми (это подчеркивается Лемом) приходят к гуманизму. Итак, один вариант – психичность, возникшая в процессе общения с человеком и проявляющаяся в гуманизме и наличии эмоций. Способность к постановке задач при этом подразумевается, так как проявление гуманизма невозможно без постановки задач. Система с «человекоподобной» психикой должна быть идентифицируема на очень «человеческом» языке – поэтому Лемом акцентируется наличие свойственных обычно человеку эмоций и попыток автодескрипции – признака сложности. У других психичных систем Лема эмоции либо не показаны – у Анела из «Несчастного случая», либо их эмоции проявляются много слабее, чем у Хэри и Маски – у Верного робота Граумера, Барнса и Кальдера из «Дознания», компьютера из «Молота» и у реализации «Формулы Лимфатера», слабо и явно непонятно для человека, как у Голема XIV-го. Правда, ниоткуда не следует, что эти другие психичные системы общались с человеком меньше, а если измерять в «учебных часах», то, наверное, и больше. Но это общение не было близким, не было личным. В значительной степени личным было еще общение в Молоте; поэтому компьютер из Молота знал, что такое гуманизм, но, так сказать, теоретически – он его не применял, а к нему взывал, как и сломанные роботы в «Возвращении со звезд».

Итак, по мнению Лема, психика человеческого типа с ее атрибутами – гуманизмом и эмоциями – может возникнуть у искусственных систем только в процессе индивидуального общения. Продукты чисто группового обучения лишены этих существенных черт человеческой психики.

Разумеется, и гуманизм, и эмоции есть у зверей, в том числе у тех, которые со времен Ноя не общались с человеком. Но эти звери есть продукт длительной биологической и социальной эволюции, как и человек. Такая эволюция не стоит за искусственными системами.

Другой вариант возникновения психичности – в результате «просто» усложнения системы, ведь рано или поздно количество перейдет… Признаком психичности в этом случае является, по Лему, способность к постановке задач, достаточно далеких от предусмотренных создателем. В глазах человека это есть, во-первых, признак сложности системы, во-вторых, это делает систему якобы похожей на человека, ибо человек считает себя способным на постановку таких задач. Если же эти задачи далеки и от естественных, в человеческом понимании, следствий развития основ системы, то этого признака может быть достаточно – Верный робот Граумер ставит и решает задачу изготовления человека, компьютер из «Молота» влюбляется, Анел совершает восхождение, заканчивающееся Несчастным случаем. Между прочим – для Лема вообще альпинизм окрашен особо, он часто использует альпинистские мотивы.

Задачи, которые ставят другие системы, менее экзотичны. Видно, в результате гипертрофии каких-то сторон исходной программы возникло желание спокойной жизни у Барнса, стремление привести «к ногтю» человечество у «электронного Чингис-хана» Кальдера. Неясно происхождение единственного желания у реализации Формулы Лимфатера, но само желание прогресса и его понимание как познания мира может быть понятно даже на человеческом уровне. А раз эти задачи менее экзотичны, должны быть еще доводы за психичность. У Барнса и Кальдера это эмоции, а воплощение «Формулы Лимфатера» гуманно, хотя в этом гуманизме есть что-то от «все суета», – не назовешь его человеческим.

С Хэри можно поговорить «по-человечески», и даже наводящей ужас машине-убийце из «Маски» монах говорит: «Ты – сестра моя». Не может Пиркс, кстати, не страдающий ксенофобией, говорить «по-человечески» с Барнсом, хотя тот и сложен «до автодескрипции», черные ящики для окружающих – Граумер, Анел и Кальдер. А чем кончается разговор «по-человечески» в «Молоте» и «Формуле Лимфатера»? Просто это хоть и психика, но другая. Первую человек «чувствует нутром», вторую «вынужден признать».

По мнению Лема, неизведанное ждет нас не только среди звезд. Его мнение о втором типе психичности созвучно мнению некоторых специалистов по вычислительной технике, полагающих, что возникновения у сверхсистем качественно новых свойств мы можем просто не заметить – уж очень это будет – в нашем понимании – ни на что (то есть попросту на нас) не похоже.

О проявлениях психичности мы поговорили, что Лем понимает под психичностью, обсудили, а что же такое психичность – определения не дали. А вот что такое стол, мы почему-то знаем. Определение дать можем. Столов мы этих на своем веку тысячи передвигали, да и стульев тоже. В этом и дело – мы изучили много однотипных объектов и объектов близких, но других. Вот мы и выделили – стол. А что такое психичность? Хороши бы мы были, если бы знали во всем мире только один стол и один нестол и пытались понять, чем стол от нестола отличается. Но если объектов все-таки мало? Не стоит ли подумать, что вообще может быть сделано из пяти кусков дерева? Как вообще может проявляться человек? И обязательно ли из пяти? И только ли у человека может быть психика?

… Вот этим Лем и занимается. А понять, что такое психичность, хотелось бы.

Первобытный человек одушевлял природу – дерево или ветер были для него живыми и психичными – они могли быть добрыми и злыми; убивая зверя или срывая плод, он просил у них прощения. Позже понятие психичности сузилось, еще недавно за убийство раба – говорящего орудия – лишь платили штраф. Свободные граждане, настоящие греки – это же совсем другое дело… Понятие психичности и по сей день расширилось не везде. Правда, из недочеловеков уже не делают мыло, но в качестве говорящих, а еще лучше – молчащих – орудий их используют на доброй трети планеты. Законопослушные, добропорядочные граждане – это же совсем другое дело…

Герои Лема даже не платят штрафов, они орудуют молотком, лазером, плавильной печью и малым дестабилизатором, но разве суть проблемы от этого меняется?

Выносимое нашим предком, персонажами Лема и нами решение о психичности определяет и действия, и моральную ответственность за них. Только после признания психичности становится возможен контакт с представителями другой цивилизации – «Солярис», «Эдем», без признания ее контакт невозможен – «Непобедимый», «Друг». Признание апсихичности снимает вопрос о возмездии за гибель товарищей – «Непобедимый», и вообще в корне меняет отношение к социальной системе, даже если элементы системы наделены психикой, как то обнаружил Ийон Тихий в своих 11-ом и 13-ом Путешествиях.

Оказывается, в ходе слияния элементов в систему она может не усложняться, а упрощаться. Действительно, закон Менделеева-Клапейрона проще законов движения молекулы в газе, а психология Государя Макиавелли проще психологии Ромео и Джульетты.

Только после признания психичности объекта наших действий возникает ответственность. Как, никто из вас не хочет слетать на «Солярис» и поменяться местами с Крисом, заменить Пиркса в «Охоте на Сэтавра» или Брегга из «Возвращения со звезд» в деловой поездке на завод по переработке металлолома?

Странно, не правда ли? Так что понять, что такое психичность, действительно хотелось бы.

5. Пиджак как наручники, или Этикосфера вокруг нас

Как было бы хорошо, если бы можно было исключить зло из человеческого обихода. На этом простая часть вопроса до обидного быстро кончается и начинаются более сложные – что есть зло, возможно ли его исключить, какой ценой и каковы будут последствия. Первую сложную часть вопроса можно сильно упростить, ограничив себя рассмотрением простого насилия. Казалось бы, в этом случае можно построить надлежащую систему.

«Кроме того, уже в пеленки им вкладывали напоминайки, внедрявшие в умы уважение к ближним. Если бы и нашелся кто-нибудь, кто захотел бы обидеть ближнего хотя бы по переписке, укорялка тут же принялась бы его отговаривать, а подушечка-думка – нашептывать сквозь сон, чтобы он это дело бросил. Если же он, допустим, упорно стоял на своем… Напишет он, например, анонимку, а чернила разольются, почтовый ящик порвет письмо, в крайнем же случае предохранитель последней линии добросердечия заботливо разобьет адресату очки»." – Воспитание Цифруши

«– Я прошу вас оказать мне любезность, ударив меня по щеке. Вы убедитесь, как действует этикосфера, а после мы обсудим этот эксперимент… Я, пожалуй, встану и вас попрошу о том же, так будет удобнее… Я решил ударить его, раз уж ему так хотелось, и мы встали друг против друга. Я замахнулся – в меру, потому что не хотел свалить его с ног, – и застыл с отведенной в сторону рукой. Что-то меня держало. Это был рукав пиджака. Он стал жестким, словно жестяная труба. Я попытался согнуть руку хотя бы в локте и с величайшим трудом наполовину сумел это сделать». – Осмотр на месте

Но и в этом случае возникает несколько проблем. Первая – как отличить «просто насилие» от «закономерного насилия»? Казалось бы, можно воспользоваться тем, что палач, исполняющий законный приговор, не испытывает тех эмоций, которые испытывает бандит, и различие эмоционального фона должно повлечь различие физиологической реакции организма. Но положить это различие в основу дифференцирующей системы не удастся, потому что многие злодеи – причем, как кажется, наиболее страшные злодеи – уверены в благости своего злодеяния.

«– Я бы не поручился! – возразил я. – Особенно, когда уже известна нужная формула: запечатленные в структуре материи заповеди теряют силу, если убийца верит в благость своего поступка. К тому же вера и неверие – не то же самое, что взаимоисключающие логические категории. Можно верить отчасти, временами, сильнее, слабее… и где-нибудь на этом пути в конце концов перепрыгнуть шустринный барьер… Люзанец мрачно посмотрел на меня. – Действительно, такой порог есть. Не буду обманывать. Только он выше, чем вы полагаете. Гораздо выше. Поэтому штурмуют его напрасно…» – Осмотр на месте

Можно, конечно, запретить любое насилие вообще, но тогда придется передать «силовые функции» какой-то автоматической системе, роботам.

«– Там еще много всего было: например, нельзя применять ни к кому ни силы, ни грубого тона, а уж ударить человека – это позор, даже преступление, потому что это вызовет страшный шок. Драться нельзя независимо от обстоятельств, потому что только звери дерутся… – Постой-ка, – сказал я, – а если из заповедника убежит дикий зверь… Да, я забыл… диких зверей уже нет. – Диких зверей уже нет, – повторил Олаф, – но есть роботы. – Ну и что? Ты хочешь сказать, что им можно дать приказ убить?… Но должны же они быть готовы к крайностям; ведь даже бетризованный пес может взбеситься. Скажешь, нет? – Но… но ведь это… Погоди! Значит, они все-таки могут убивать? Отдавая приказы! Разве это не все равно: я сам убью или отдам приказ? – Для них нет… – Да, например, мы двое, если бы мы что-то, ну, понимаешь… то, конечно, нами займутся роботы, не люди. Они не могут. Они добрые». – Возвращение со звезд

Однако такая автоматическая система может перейти к злоупотреблениям, во всяком случае человеческие системы силового регулирования к злоупотреблениям склонны. Ситуация перехода автоматической системы к злоупотреблениям многократно рассматривалось в литературе (хрестоматийный пример – «Страж-птица» Шекли), но Лем не рассматривает подробностей, а просто указывает на представляющуюся опасной потерю возможности контроля за ситуацией, когда человека окружают устройства, выполняющие этико-контрольные функции (этикосфера).

«Мы еще примирились бы со своего рода двоевластием, будь мы уверены, что в основном – допустим, на две трети – контроль в наших руках, а остальное – в ведении наших шустринных уполномоченных… но мы знать не знаем, какова их настоящая роль в принятии решений, определяющих нашу судьбу». – Осмотр на месте

Третья проблема, которую Лем не рассматривает (возможно, ввиду ее тривиальности), состоит в том, что постоянное управляющее воздействие снимает с элементов системы необходимость иметь «автономную мораль», что делает систему менее надежной при изменении условий. Однако последнее верно только в том случае, если автоматическая система менее лабильна, чем человеческое общество.

6. Управление звездами

К проблемам, связанным с астроинженерной деятельностью, Лем обращается многократно – и в шутливом ключе, и в серьезном. Что касается первого подхода, соответствующие цитаты см. в статье «Астроинженерная деятельность» в Словаре. Что же касается серьезного подхода, то отсутствие сигналов и отсутствие признаков астроинженерии в прошлом веке какое-то время вызывало удивление, связанное с неоправданным оптимизмом, как тогда говорили, «начала космической эры». Разрешение этого психологического противоречия искали на четырех путях – утверждая, 1) что цивилизаций мало, 2) что у них есть и другие проблемы, кроме общения с нами, 3) что в силу наших с ними различий мы не видим этих сигналов и 4) что мы их видим, но не можем отличить от естественных процессов в Космосе. Лем суммирует первые две линии и вводит понятие «окна контакта» (первые две цитаты), третья линия используется для построения оригинальной теории космогенеза (следующие две цитаты), четвертая линия только упоминается (последняя цитата).

«Мы возникли, прошли – история нашей звезды, затем планеты, биогенез и эволюция – через многочисленные „игольные ушки“, и, тем самым, девять миллиардов лет, отделяющих возникновение газового протосолярного облака от возникновения Homo Sapiens, можно прировнять к гигантскому слалому, в котором не остались обойденными ни одни ворота. Уже известно, что таких „ворот“ было довольно много, что любое выпадение со слаломной трассы сделало бы невозможным возникновение Человека, но неизвестно, как „широк“ был этот путь со своими поворотами и рамками, иначе говоря, какова была вероятность „правильного хода“, финишем которого является антропогенез». – Созидательный принцип уничтожения (Мир как Холокост)

«Ортега, Нейссель и Амикар ввели понятие „окна контакта“. Это период, когда Разумные Существа уже в высокой степени используют науку, но еще не принялись за преобразование данной им Природой Разумности – эквивалента человеческого мозга. „Окно контакта“ – это космический миг. От лучины до керосиновой лампы прошло 16.000 лет, от лампы до лазера – сто лет… Период контакта – возможности взаимопонимания – в худшем случае длится 1000 земных лет, в лучшем – от 1800 до 2500 лет. Вне окна для всех цивилизаций, недозревших и перезревших, характерно молчание. Первые не располагают достаточной для связи мощностью, вторые либо инкапсулируются, либо создают устройства для сообщений со сверхсветовой скоростью». – Фиаско

«Но чтобы революция в астрофизике могла совершиться без таких контактов, более того – чтобы именно отсутствие таких контактов, а также полное отсутствие сигналов и признаков так называемой „астроинженерии“ могло бы вызвать величайшую революцию в физике и в корне изменить наши представления о Космосе – такое наверняка не могло прийти в голову ни одному из тогдашних авторитетов». – «Новая космогония»

«С той самой минуты, когда вы впервые осознаете грандиозность авторского замысла, когда в вашем воображении во всей полноте возникает идея палимпсестового Космоса – Игры с его невидимыми и неведомыми друг другу Игроками, вас уже не покидает ощущение, что вы столкнулись с чем-то необычайно, потрясающе новым и одновременно – что это плагиат, перевод на язык естественных наук древнейших мифов, в которых отразился непроницаемый донный слой человеческой истории». – «Новая космогония»

«Не только пульсары, не только гравитационные линзы, не только мазеры газовых звездных туманностей, не только огромные массы центра галактики вводили в заблуждение наблюдателей регулярностью, повторяемостью, своеобразным порядком многократных импульсов». – Фиаско