Текст книги "Молох (сборник)"

Автор книги: Станислав Лем

сообщить о нарушении

Текущая страница: 3 (всего у книги 63 страниц)

Фантоматика может сделать так, чтобы графоман получил Нобелевскую премию. Весь мир она может (конечно, только в фантоматическом сеансе) бросить к его ногам, все будут славить его поэтический дар, но даже во время сеанса он не сможет создать ни единой поэмы, если не согласится, чтобы ему их подбрасывали в ящик письменного стола.

Можно сказать следующее: чем сильнее будет отличаться по складу характера персонаж, в который кто-то хочет воплотиться, от него самого и чем дальше отстоит желаемая историческая эпоха от времени, когда он сам живет, тем более условные, наивные и даже примитивные формы будет принимать его поведение и весь ход спектакля. Чтобы венчаться на царство или принимать папских послов, нужно знать дворцовый церемониал; персонажи, созданные фантоматом, могут делать вид, будто не замечают идиотских поступков облаченного в горностаевую мантию служащего Национального банка. Эти ляпсусы, возможно, не нанесут ущерба его собственной удовлетворенности, но вместе с тем видно, какой примитивизм и шутовство стоят за всем этим. По этой причине трудно думать, что фантоматика станет полноценным искусством. Прежде всего для нее нельзя писать сценарии – в лучшем случае можно создавать только общие сюжетные планы; во-вторых, в искусстве характеры определены, то есть для персонажей они заранее заданы, тогда как клиент фантомата имеет собственную индивидуальность и не мог бы сыграть требуемую по сценарию роль, потому что не является профессиональным актером. Поэтому фантоматика может быть прежде всего видом развлечения. Она может стать своеобразным «супер-Орбисом», «супер-Куком» [30]30
  «Орбис» – польское туристическое агентство, «Кук» – английская туристическая фирма.


[Закрыть] для путешествий по существующему и несуществующему Космосу и, конечно, найти множество других очень ценных применений, не имеющих, однако, ничего общего ни с искусством, ни с развлечением.

С помощью фантоматики можно создавать в высшей степени реалистичные учебные и тренировочные ситуации; следовательно, она может использоваться для обучения любых специалистов: врачей, летчиков, инженеров и т. д. При этом исключается опасность авиационной катастрофы, неудачной хирургической операции или аварии, вызванной неправильно рассчитанной конструкцией. Кроме того, она позволяет исследовать психологические реакции, что особенно важно при отборе кандидатов в космонавты и т. д. Маскировка фантоматического спектакля позволит создать условия, когда испытуемый не будет знать, действительно ли он летит на Луну или это ему только кажется. Такая маскировка необходима, ведь нужно определить подлинные реакции человека в реальной аварийной обстановке, а не при ее имитации, когда каждому легко проявить «личное мужество».

«Фантоматические тесты» позволят психологам лучше изучить самые разные реакции людей, исследовать природу возникновения паники и т. д. Они позволят ускорить отбор абитуриентов в различные учебные заведения и для различных профессий. Фантоматика может оказаться незаменимой для всех тех, кого условия вынуждают долго находиться в одиночестве и относительно ограниченном замкнутом пространстве (на научной арктической станции, в кабине космического корабля, на внеземной обсерватории или даже в помещениях звездолета). Благодаря фантоматике годы полета до звезды можно заполнить нормальной деятельностью, какой члены экипажа занимались бы на Земле, – это могут быть годы путешествий по материкам и морям нашей планеты или даже годы учебы (потому что в фантоматическом сеансе можно также слушать лекции знаменитых профессоров)».(Благодаря экспертным программным системам уровень науки может быть существенно повышен – приписка 1991 года, Лем.)

«Фантоматика будет истинным благословением для слепых (кроме тех, у кого слепота центрального происхождения, то есть у кого поврежден зрительный центр коры головного мозга), им она откроет огромный мир зрительных впечатлений. Таким же благословением будет она и для инвалидов, больных, выздоравливающих и т. д., а также для стариков, желающих еще раз пережить молодость, – одним словом, для миллионов людей. Мы видим, что ее развлекательные функции могут отойти на второй план.

Фантоматика, конечно, понравится не всем. Появятся группы ее ярых противников, обожателей подлинного, которые будут презирать немедленность исполнения желаний в фантоматике. Я думаю (в 1962 году), однако, что будет достигнут разумный компромисс, так как в конечном счете любая цивилизация является облегчением жизни человека, а прогресс в значительной мере сводится к дальнейшему расширению области этих облегчений. Несомненно, что фантоматика может стать и настоящей опасностью, общественным бедствием, однако такая же возможность существует (хотя и не в одинаковой степени) и для любых достижений технического прогресса. Общеизвестно, сколь опасные последствия по сравнению с техникой пара и электричества может иметь злонамеренное использование атомной энергии. Однако эта проблема касается уже общественных систем и господствующих политических отношений и не имеет ничего общего ни с фантоматикой, ни с какой-либо областью техники».

Фантоматика будет их зависимой величиной, хотя не обязательно функцией (в математическом понимании).

Последние предложения я дописываю в мае 1991 года, чтобы добавить в заключение еще одно замечание. В прейскурантах фирм, производящих системы приспособлений для «виртуальной реальности», я вижу такие позиции, как Eye-Phone– цена 9400 долларов, Data-Glove(8800 долларов), пакет VPL(комплект за 220 000 долларов, в который входят два компьютера типа Apple Mac II), причем реклама уверяет, что тяжелые надеваемые Eye-Phoneимеют по 86 000 образоформирующих точек, а Data-Gloveвдоль каждого пальца подключена синхронно к аппаратуре так, что все в совокупности работает в реальном времени, то есть «фантоматизированный» не замечает малейших задержек между своими движениями и изменениями адекватного восприятия и т. д. Я не могу и не хочу изменять конец этого текста в рекламном проспекте фирмы VPL Researchиз калифорнийского Редвуд-Сити. Вышеприведенные сведения, датированные летом прошлого (1990) года, подтверждают, что существование зачатков того, что я назвал фантоматикой, уже не является ни утопией, ошибочно принимаемой как точный прогноз, ни фантастической сказкой. Что же делает философ, который в такое время публикует свои избранные эссе за тридцать прошедших лет? В соответствии с названием антологии переизданий «Похвала непоследовательности» («Pochwaіa niekonsekwencji». – London, «Puls», tom III, pp. 42–51) спокойно повторяет, что все, что в 1963–1964 годах выдумал Лем о фантоматике, является сказкой.

Тайна китайской комнаты

Человек и машина [31]31
  Czіowiek i maszyna, 1993.
  © Перевод. Язневич В.И., 2004


[Закрыть]

1

«Человек-машина» – это работа французского философа-материалиста Ламетри, написанная в середине XVIII века. Не подлежит сомнению, что как сторонники, так и противники подобной крайней точки зрения на человеческую природу нашлись бы и сегодня. Другими словами, выражаясь более современно, спор был бы разрешен только тогда, когда мы смогли бы создать машину, равнозначную человеку. Однако что означает «равнозначная» человеку? Наше сходство с другими живыми тварями в физическом плане не вызывает сомнения: человек – это живородящее млекопитающее, обладающее органами, которые в очень небольшой степени отличаются от органов и общей физиологии других млекопитающих; отличает же нас от них разум, то есть мозг.

2

Как легко может догадаться Читатель, этими немного туманными словами я приближаюсь к вполне современному вопросу, который поставил почти полвека назад английский математик Алан Тьюринг: возможно ли сконструировать такой «конечный автомат» (компьютеры являются такими автоматами как одна из ветвей информационного дерева, выросшего из зерна кибернетики), который не удалось бы в разговоре отличить от человека? В 60-е годы я много раз участвовал, главным образом в бывшем Советском Союзе, именно в таких дискуссиях и горячих спорах, в которых эту проблему пытались разгрызть. Как известно, программы ( software), способные вести некоторые разновидности разговоров с человеком, уже существуют. Однако любую такую программу, имитирующую разумного собеседника, можно раньше или позже «разоблачить». Простейшим способом, до которого (не знаю почему) никто или почти никто не додумался, является рассказ неизвестному участнику дискуссии простенькой истории, например анекдота или шутки, и требование, чтобы рассказанное он повторил своими словами. Машина легко повторит все буквально; нормальный человек не сможет быть точным в пересказе, поскольку он запоминает не столько сложенный из слов ТЕКСТ, сколько его СМЫСЛ, то есть понимает рассказ. Перед нами возникает реальная проблема: можем ли мы и каким образом убедиться в том, что машина «компьютер» понимает что-либо подобно человеку? Необходимо вначале отметить, что «понимание чего-либо» имеет свои уровни и виды. Собака в некотором смысле «понимает», чем занимается ее хозяин, когда видит, как тот собирает чемодан, ибо это она уже видела и «знает», что предстоит какая-то поездка. Но даже и муха «знает», что ей грозит от мухобойки, которой размахивает человек, разгневанный на ее назойливость. Способ, посредством которого разные виды «знания» различаются между собою в различных ситуациях, невозможно проще объяснить, кроме как отталкиваясь от «инстинктов», среди которых основным является инстинкт самосохранения, и в этом самая суть дела. Ни один компьютер, в совершенстве играющий в шахматы, или переводящий научные тексты, или ставящий диагнозы по результатам анализов и информирующий о болезнях, не будет пытаться избежать ударов молотком или киркой, то есть не проявит «инстинкта самосохранения», который лежит в основе «формирования» всех видов живых тварей (за исключением растений). Тот, кто не пробовал кого-нибудь сожрать и не пытался противостоять пожиранию его другими в ходе миллиарднолетних эволюционных процессов, исчез; и только успешно поедающие и успешно убегающие остались жить.

3

Правда, некую разновидность «инстинкта самосохранения» можно было бы в компьютерах реализовать, однако подобные меры не приблизят нас к разрешению проблемы. Дуглас Хофштадтер в своей толстой, забавной и интересной книге « Metamagical Themes» описывает ситуацию, когда он должен был отличить человека от машины, при этом в конце оказалось, что он разговаривал с несколькими студентами, отвечающими на его расспросы ТАКИМ ОБРАЗОМ, чтобы сбить его с толку. Когда он уже решил, что разговаривает с компьютером, правда была раскрыта. Что из этого следует? В наиболее примитивной форме дело представляется так, как я описал в «Сумме технологии» более тридцати лет назад. В книге говорилось, что можно осуществлять очередные и вместе с тем более перспективные конструкторские работы (сегодня я бы сказал «программирование»), меняя «разоблаченные» компьютеры на более совершенные с точки зрения имитации, и, может быть, дошли бы до такой модели, которую в разговорах отличить от человека было бы невозможно.

4

Между прочим, даже для повторения рассказанного найдутся уловки. Именно машины, сортирующие (например) научные статьи, запрограммированы таким образом, чтобы различать тексты в соответствии со «словами-ключами». Если частота появления таких слов, как «плазма крови», «гемофилия» или «клеточная оболочка», перешагнет определенный порог, значит, текст, вероятнее всего, относится к области медицины или (шире) биологии. Если в нем появляются «кварки» или «нуклиды» – понятно, куда его отнести. Однако поступая этим первоначально очень примитивным и «ничего не понимающим» способом, можно научить машину пересказывать так, чтобы повторение представленного ей текста было «скелетным» – грамматически, лексикографически и стилистически очень близким к рассказанному, но чтобы оно не совпадало дословно с исходным. То есть можно сделать машину удачным «обманщиком», выдающим себя за живого участника дискуссии, и на этом этапе появляется следующая проблема.

5

Мы не должны заниматься исключительно загадочным собеседником: следует интересоваться и тем, КАКОЙ ЧЕЛОВЕК тестирует машины. Ибо горький пьяница и тупица не будут квалифицированными экспертами наравне с человеком, имеющим диплом о высшем образовании, или писателем, или каким-нибудь необычным гением.

6

Впрочем, задача, поставленная Тьюрингом, сильно изменилась вследствие того, что именно сегодня о разнообразных возможностях компьютера мы знаем больше, чем о том, каким образом функционирует наш мозг. По моему мнению, основывающемуся не столько на чтении работ из области нейрофизиологии, сколько на собственном интроспекционном опыте, мозг состоит из большого количества подсистем, соединенных между собою для совместной работы таким образом, чтобы обеспечивать оптимальное получение результатов на основе различной информации, а также отражать необычайно долгий исторический (эволюционный) путь, который прошел мозг за тысячи поколений животных, впоследствии – гоминидов, а на финише – нас. Определенную зависимость сознания (боюсь этого термина) от состояния мозга стареющий человек испытывает в большей степени, чем молодой, находящийся в хорошем психическом состоянии. У такого старика, как я, иногда случается, что забывается имя хорошо известного ему ученого, например Пригожина или Планка. Усилие, прилагаемое для воспоминания (чего-либо), почти невозможно описать. Впрочем, часто оно оказывается напрасным, но видимая бесплодная работа «сознания» тем не менее приводит в движение некоторые механизмы из раздела « information retrieval [32]32
  информационный поиск (англ.).


[Закрыть]», так как почти всегда, раньше или позже, иногда через несколько десятков секунд, иногда на следующий день, искомый термин (здесь: имя) «всплывает» из непамяти. Как он был найден – не имею понятия, и пока никто не может мне этого объяснить. В любом случае здесь мы видим одну сторону владения профессиональной информацией, имеющейся в памяти. С другой стороны, человек, занятый напряженной умственной работой (или склеротик), много времени тратит на поиск очков, газеты, письма, так как откладывание, прятанье, оставление «где-то» выходит ЗА пределы запоминаемых действий, которые сознание ДОЛЖНО вложить хотя бы в извилины «кратковременной памяти». И эти неосознанные и беспамятные действия нередко бывают «осмысленными» и соответствуют обстоятельствам, то есть речь не идет о хранении носков в холодильнике или мороженого в ящике стола. Бывает это – как мы говорим – «неосмысленно», подобно поведению эпилептика, склонного к так называемому « petit mal», что значит моментальное временное «отключение» сознания, причем оно МОЖЕТ БЫТЬ присутствующими наблюдателями обнаружено либо нет, ибо иногда «пробел сознания» заполняется автоматически продолжаемым без перерыва действием. Таким образом, вместо приближения к расшифровке «сущности сознания», чтобы (кроме всего прочего) подойти к вопросу его имитации, мы встречаем новые препятствия. Выявление функций частей мозга благодаря рассечению corpus callosum, большой спайки, соединяющей двумястами миллионами нейронных волокон оба полушария мозга, а также вызванное этой операцией определенное «разделение» разума на два практически независимых «разума» эту проблему в последние годы удивительно усложнило. Неизвестно (опять), почему мы имеем мозг двудольным, является ли это следствием возникшей за многие миллионы лет двусторонней симметрии тел всех животных, которые нам предшествовали (то есть имеем дело с наследством «эволюционных решений» за веки веков), или скорее это результат взаимодействия нейронных систем, создающих мозг, работа которого на сегодняшний день оптимальна. Я скорее придерживаюсь первой версии объяснения, однако никакого доказательства ее верности предоставить не могу.

7

Возможно, что крутой тропинкой вывода я привел проблему к еще большей запутанности. Мне кажется, что тест Тьюринга, настолько сильно зависящий от развития и возможностей hardwareи software, с каждым разом становится все менее убедительным определителем Человека и Машины. При этом возникает вопрос, наверное, больше интересующий философов, чем экспертов-информатиков: на кой черт нам нужна машина, так эффективно имитирующая человека, своим речевымповедением неотличимая от человека? Очевидно ведь, что эволюция компьютеров вместе с эволюцией программ от нашего разума не только и не просто ОТДАЛЯЕТСЯ, но одновременно вступает, причем во все увеличивающемся масштабе, в мыслительные пространства человека, которые в общем-то недоступны. То, что ни интуитивно, ни логически и осмысленно в области воображаемого конструирования мы имитировать сами не можем, смогут компьютеры. Наш мозг благодаря истории своего возникновения унаследовал и развил аффективную жизнь, все эти виды основных и дополнительных эмоций, стрессов, чувств, радости, терпения, грусти, счастья, боли, которые «бессознательному бытию» компьютеров остаются совершенно чуждыми, без которых компьютер ДОЛЖЕН обойтись и без которых – как утверждают нейрофизиологи – компьютер подражать человеку в его сознательной жизни никогда не сможет.

8

Несомненно, что сейчас так оно и есть. Будет ли так всегда – не знаю, причем по нескольким причинам, из которых не все смогу здесь изложить. Зона воздействия нашей психики на процессы, происходящие в организме, без сомнения, огромна, и неизвестно, где проходят ее границы. Мы знаем уже, например, что даже ткань, над которой человеческое тело не имеет власти, «взбунтовавшаяся ткань», анархическая, новообразованная, непосредственно САМА не подвергается воздействию мозга, но степень самообороны организма, противостоящего ее распространению, несомненно, зависит от состояния, в котором находится сознание больного. Деморализованные состоянием своего тела создают меньший отпор, чем те, которые хотят жить: своим желанием они оказывают более сильное сопротивление смертельной угрозе. Во время депрессии разума все функции тела увядают и слабеют, а в возбуждении – укрепляются: отсюда исходит круг циклофренических болезней (типичная для этого круга попеременность депрессии и маниакального возбуждения). Это не совсем относится к теме, но программа, позволяющая компьютеру имитировать такую умственную болезнь, как паранойя, была создана уже довольно давно. Кроме чувственной жизни, «потребность» в которой для нас очевидна, хотя это трудно объяснить, мы отдаемся власти Морфея: треть жизни мы проводим или, иначе говоря, «тратим» во сне. На вопрос, ДЛЯ ЧЕГО нам нужен сон, и в особенности «чему служат» сонные видения, до сегодняшнего дня нет одного очевидного ответа и потому собственно (так как ответы многих различны) НИЧЕГО определенного в этом вопросе не известно. Без сна человек долгое время, более чем неделю, не может обойтись. Компьютеры же не спят и «потребности» в этом не испытывают. Что же это значит?

9

Мне кажется (хочу высказываться с определенной осторожностью), что сданный положительно тест Тьюринга (что понимаю как установленную неотличимость человека от машины, даже в результате длительного «экзамена») полностью не поможет определить, имеет ли машина сознание или нет. Вопрос этот, впрочем (напомню), я раскручивал, как умел, тридцать лет назад в своей вышеназванной книге и тогда считал, что к имитации речевого поведения или к подражанию разумному собеседнику можно подходить постепенно, очередными аппроксимациями, после каждой сыгранной «партии» производя улучшения, программы и машины. Таким образом (может, очень непрактичным) дошли бы до создания какого-нибудь электронного молоха, который не только лиц из домашней прислуги, но и студентов, и даже профессоров университета введет в заблуждение своим подражанием человеку. Следовало ли бы из этого какое-нибудь унижение для нашей человеческой сущности? Это уже вопрос, выходящий за пределы оценки работы конструкторов.

10

Недавно в ежедневной прессе писали о первом «романе», который якобы создал компьютер. Это было очень хромым и в то же время сенсационным началом, так как, конечно же, компьютер «ничего не понимал», реальный автор просто давал ему возможность поиска «собственного выражения» определенных состояний героини. По сути, это было мероприятием, проводимым с целью извлечения прибыли, так как множество людей пожелает приобрести роман, автором которого «является компьютер». Также следует сказать, что компьютер входит в сферу «порно», так как существуют соответствующие программы, показывающие то, что требуется покупателю. Однако такое использование высоких технологий, великих достижений науки в делах низких, глупых, примитивных, грязных и так далее остается одним из наибольших разочарований, типичных для конца двадцатого века, которые особенно отвратительным образом подтвердили мои давние прогнозы: будто бы силы света будут побеждены черными похотями и желаниями, местом пребывания которых такжеявляется человек.