Текст книги "Молох (сборник)"

Автор книги: Станислав Лем

сообщить о нарушении

Текущая страница: 21 (всего у книги 63 страниц)

7

Было бы очень интересно и полезно узнать, каким это образом, с какой вероятностью закрепившийся на элементарном уровне вегетации «авторепликаторий» наполнился креационным потенциалом, благодаря которому дошло до кембрийского взрыва жизни – напомню, около 800 миллионов лет назад. Так говорят знатоки, но я, дилетант, считаю, что не было неожиданного прыжка (прыжок, который ДЛИТСЯ полмиллиарда лет, считаться «неожиданным» не может), а только вначале, за миллионы лет, возникли такие локальные «экспансии» к многоклеточности, которые исчезли, поскольку направились по тупиковому пути развития, избавленного от какого-либо продолжения как перспективной силы дальнейших эволюционных шагов «вверх», пока в голоцене появился Человек…

ТО, КАК все было, мы не узнаем, по-моему, никогда. Это предположение я постараюсь образно подтвердить. Миллионы людей играют в рулетку. Половина промилле из них выигрывает (остальные проигрывают и заканчивают в нужде). Из этой половины промилле формируется следующий ряд игроков: из них выигрывают, скажем, 90 тысяч. Из этих в ТРЕТИЙ раз выигрывают затем 14, а в четвертый раз – один и зовется он Homo Sapiens Sapiens. Проигравших не видно и не слышно, виден только тот, кто выиграл, даже если он не ценит собственную жизнь и пытается взорвать этот Монте-Карло, где он поймал фортуну (а при случае прикончить самого себя). Такая картина человечества сегодня ПОЗВОЛЯЕТ обосновать эволюционную палеобиологию… А поскольку действующий процесс – как марковский – нельзя реконструировать обратно (он не располагает памятью о собственных прежних состояниях), то даже имея компьютер с вычислительной мощностью в триллион раз большей, чем даже Supercray, мы можем самое большее рассмотреть обратное направление различных путей, которые могли БЫ привести к желаемому выигрышу, но однозначно установить, КАКИМ путем двигалась эволюция, чтобы на финише достичь антропогенеза, не удастся никогда. Таково мое мнение, закрепленное в математике современной теорией вероятности, в ее многих комбинаторных, стохастических ответвлениях и last but not leastв теории игр, близкой к теориям путей эргодического сканирования. Я, конечно, могу ошибаться, но тогда окажется, что не я один совершил ошибку и что всю очень сильно разветвленную теорию вероятностей вместе с теориями хаоса, фракталов и т. д. надо будет заменить чем-нибудь таким, о чем сегодня никто не имеет ни малейшего понятия.

8

Мне остается ответить на вопрос, впрочем, элементарный: какого черта я выскочил с этим параллельным компьютером как с основой протокода и пражизни? Разумеется, не только потому, и даже совсем не потому, что пишу для журнала, посвященного «твердым и мягким» компьютерным вещам. Я просто думал, что смена исходной модели, смена, которая, как кажется, по крайней мере НЕ запрещена, смена, к которой привели меня работы ученых, таких как Адельман, демонстрирующие, насколько велика скрытая в олигонуклеотидных нитях вычислительная мощность, позволяет посмотреть (или, точнее, ПОЗВОЛИТ посмотреть) на загадку земного биогенеза с новой, другой стороны. Кстати, я думаю, что из-за страшной людской толчеи, а следовательно, и научной, концептуальной, наблюдаемой сегодня на Земле, моя идея перестанет быть исключительно моей идеей, а те, кто ее окончательно примет, тоже не будут иметь ни малейшего понятия, что какой-то живущий под Краковом пророк их немного опередил, также как и те, которые сегодня пристально следят за CYBERSPACE, не имеют понятия, что именно о нем я написал книгу в ранние 60-е годы. Впрочем, я уже знаю, что начинают сбываться мои предсказания также и в других областях: у меня есть этому доказательства, и я не считаю, что есть нечто неправильное в представлении их в качестве документов, удостоверяющих смысл, имеющийся в моих давних попытках предвидения. Возможно, в следующий раз я напишу об «искусственных Вселенных», населенных моделями «людей»: этой проблемой не только в SFя (и не только я) занимаюсь… уже очень давно.

Загадки [107]107
  Zagadki, 1995. © Перевод. Язневич В.И., 2004


[Закрыть]

1

Ежемесячный журнал « Znak» попросил меня принять участие в анкете, посвященной AI, искусственному интеллекту, то есть ответить на три вопроса:

1. Что еще смогут «разумные машины» в будущем?

2. Приведет ли технический прогресс, в частности расширение области его применения, к последствиям экзистенциональной, этической, эмоциональной природы? Если да, то к каким?

3. Что мешает машинам думать и действовать, как человек?

В первую минуту я подумал, что ответы, которые я должен дать в объеме 2–3 страниц, – это примерно то же, что реплика на вопросы, заданные на пороге нашего столетия: «Что можно будет еще сделать с атомами?», «Приведет ли техническая реализация работ над атомами к последствиям экзистенциональной, этической, эмоциональной природы и если да, то к каким?» и «Что мешает атомам проявить свой предполагаемый потенциал, который мы принимаем за преграду?» Вообще мне не кажется, что сопоставление обеих этих триад является абсолютной глупостью. Не говоря уже о том, что проблеме AIпосвящено сегодня такое количество литературы, которое не вместила бы университетская библиотека, и вместе с тем, наверное, уже невозможно, чтобы какой-нибудь человек, изучающий вопросы AI, сумел бы все труды, относящиеся к этой теме, прочесть в течение всей жизни. Уж скорее он прочитал бы от первой до последней страницы Большую Британскую Энциклопедию. Однако я решил ответить очень кратко и аподиктически, поскольку не во всем верна поговорка римлян Si tacuisses, philosophus mansisses. [108]108
  Если бы ты молчал, ты остался бы философом (лат.).


[Закрыть]То есть тот, кто не раскроет рта, будет достоин звания философа (ибо не разговаривая, им остается). Но в наше время повсеместного шума, суматохи, информационного потопа тот, кто будто бы благоразумно сохраняет молчание, станет не философом, а просто никем. Итак, я ответил, что машины смогут «все», что не запрещают Законы Природы – основные законы, составляющие фундамент нашего современного и будущего знания, что КАЖДАЯ технология, имеющая или не имеющая что-либо общее с конструированием AI, приводит к последствиям экзистенциональной, этической, эмоциональной природы, и что пока новая технология не окрепнет и не будет внедрена во всей цивилизации, успешное использование ее результатов (примерно соответствующее американскому термину TECHNOLOGY ASSESSMENT) невозможно. И наконец, в-третьих, машинам мешает думать и действовать подобно человеку то, что ни строением, ни функционированием они гомологически не являются людьми (с человеческим мозгом). Все совершенно иначе, ибо эволюция машин (компьютеров), о которых обычно говорят, что они механизировали по крайней мере часть наших мыслительных процессов, отдаляется от направления, которым антропогенез естественной эволюции привел к тому, что все мы представляем собой очень похожие друг на друга экземпляры вида homo sapiens sapiens.

2

Разумеется, что отвечая, как указано выше, я отдавал себе отчет в том, что мои ответы, по сути дела, являются УЛОВКАМИ, потому что представляют собой довольно банальные, если не сказать даже тривиальные сокращенные толкования некоторых очевидных вещей. Затем я, однако, понял, что ответить на 2–3 страницах более компетентно и по существу – это, как и в затронутой теме «атомов», абсолютно невозможно. До сегодняшнего дня лагерь мыслителей и экспертов, занятых проблемой AI, делится на две большие противоположные группы: одни считают, что AI«удастся создать», другие же – что это невозможно. При этом во всеобщем почете находится известный тест Тьюринга, с помощью которого в сокращенном до важнейшей сути виде добиваются, чтобы человек-Экзаменатор, ведя разговоры на произвольные темы с незнакомым ему собеседником, однозначно определил: производит ли он обмен информацией с другим человеком или с машиной. Здесь мы сразу попадаем в своего рода fuzzy set,«нечеткое множество» (я такой польский перевод термина fuzzy setне люблю, но он уже закрепился в жаргоне отечественных специалистов), поскольку результат экзамена, несомненно, зависит от компетентности ОБЕИХ сторон. Уже сегодня существуют программы, которые значительное количество потенциальных собеседников-людей смогут успешно ввести в заблуждение (даже такая по сути примитивная программа, как ELIZAпрофессора Джозефа Вейзенбаума, обманула его секретаршу). Для проявления способностей не только в объеме общего интеллекта (измеряемого, скажем, тестами Бине для определения размера IQ, показателя интеллекта на гауссовской кривой нормального распределения интеллекта в популяции ЛЮДЕЙ), но, кроме того, и в сфере интересов специалистов по компьютерам, программам и last but not least AI, необходимы СПЕЦИАЛЬНЫЕ ЗНАНИЯ. Это упрощенно можно приравнять к ситуации, в которой человек, выбранный «экзаменатором», должен решить – является ли некий другой человек (другие люди), разговаривающий с ним и поступающий так, как поступают люди в конкретных жизненных ситуациях, АКТЕРОМ, играющим роль не своей личности, а какой-то фиктивной, или же это человек, который никого не изображает, а просто является самим собой. Несомненно, в значительной степени можно предопределить результат такого теста, если «арбитром-судьей» будет лицо, очень хорошо знающее схемы и сюжеты сценических, кинематографических и театральных произведений. Естественно, я здесь не имею в виду фильмы, в которых Гай Юлий Цезарь разговаривает с Брутом по-английски.

3

Вышеприведенные рассуждения мне необходимы для перехода к более существенным проблемам. Как само собой разумеющееся (почти всегда) при проведении теста Тьюринга считается следующее: не все люди одинаково развиты в интеллектуальном смысле, но если по не требующим объяснения причинам мы исключим из круга Экзаменаторов дебилов и иных глупцов, то в действительности КАЖДЫЙ нормальный человек располагает таким запасом знаний и так называемой «языковой перформативностью», что сумеет провести беседы с машинной программой типа AI, заканчивающиеся «разоблачением» машины или установлением ее «нечеловеческого характера». Сегодня данная идея уже начинает вызывать сомнения. При этом гонка в области компьютерного производства, которая в последнее время привела к тому, что мы уже имеем процессоры типа Р6, которые могут обогнать Pentium, совершая два миллиарда элементарных операций в секунду, совершенно не приближает нас к моменту, когда программа, основанная на таком hardware, одолеет имитацией КАЖДОГО человека. Это еще по нескольким причинам довольно далеко от нас, и тот факт, что даже Каспаров получил мат от машины, ничего в нашей теме ( AI) не меняет, поскольку brute forceНЕ может быть успешно использована для языкового подражания поведению нормальной человеческой личности. Несомненно, машины УЖЕ обогнали нас по многим пунктам. Хорошая диагностико-терапевтическая программа, которая обладает сегодня полным комплектом результатов «дополнительных» исследований, сумеет опередить большинство врачей, обеспечивая комплексный подход для распознавания симптомов болезней, а также для определения методов их лечения. Этот тезис не голословен: американцы, любящие проводить статистические исследования на больших по численности релевантных группах (или репрезентативных для широких кругов людей – больных и здоровых), показали, что машины выполняют медицинские экспертизы не хуже, чем хорошие медики. Уже пытаются использовать машины в качестве судей и т. п. Поле этих действий неуклонно расширяется, и уже можно сказать, что некоторые из наших знаний (сегодня в глобальном масштабе они составляют около 10 ¹⁵битов и будут удвоены до 2000 года) удастся алгоритмизировать, построить в виде разветвленного дендритического древа альтернативных решений: те, которые не содержат большого количества антимоний (логикосемантических противоречий), В ПРИНЦИПЕ могут быть преобразованы в программу для машины, которая не только относится к категории конечных автоматов, но, кроме того, обладает такой вычислительной мощностью, что результатов выполнения программы (лечебной, геологической, судебной, астрофизической) не надо будет ждать 200 лет (что было бы необходимо, если использовать простейшую машину Тьюринга…). Одним словом, дело в том, что если бы мы увеличили вычислительную мощность в итеративных, одношаговых системах, которые доминируют сегодня на мировом компьютерном рынке, то в лучшем случае мы смогли бы создать рудименты, макеты «разумного собеседника», но сравниться с ним таким путем нам не удастся. (Только он должен, повторю, действительно обладать интеллектом и разумом, а первое не то же самое, что второе). В скобках стоит добавить, что программы и такие машины можно примерно приблизить к прототипу, который одерживал бы победы в многочисленных поединках тьюрингова типа с заурядными собеседниками, ЕСЛИ программа будет учитывать некоторые особенности каждого языка людей. Этими особенностями являются: А) семантический полиформизм, или то, что значения слов опираются на понятия, которые не укладываются в целые гаммы различных смыслов, определяемых контекстно, конситуативно, коннотативно и денотативно – даже если не десигнативно; Б) вероятностность в границах логики высказываний, которая делает излишним обращение к tertium non datur, то есть что почти всегда есть ИЛИ ДА – ИЛИ НЕТ. Эта вероятностность вводит нас не только в новые двузначные логики (типа правда-ложь), но и в fuzzy setsи даже позволяет применять оксиморонические антимонии. Если же – лучше использовать тривиальный пример – кто-то скажет: «Красивая девушка, но все еще темный лес», а кто-то ответит: «Красивая, но абсолютно недоступная», то поскольку после утверждения идет отрицание, что будто «ничего неизвестно», то большинство людей почувствует какую-то тень сомнения в абсолютной девичьей невинности. Просто «мы так умственно устроены», и машине, которая должна будет подражать человеку, ТОЖЕ следует аналогично хромать в смысле логики высказываний и необходимо испытывать трудности с исполнением «в памяти» более длинных расчетов (даже простых арифметически), она должна также совершать ошибки, поскольку мы, собственно говоря, именно таким образом ведем себя в норме.

4

Каждый, кто прочитает «Вероятностную модель языка»известного математика-вероятностника Налимова, будет убежден автором, что машине ЛЕГЧЕ пройти тест Тьюринга (в разговоре с человеком), чем сделать полноценный перевод небанального и ненаучного текста (например, философского, литературного и тем более стихотворного) с языка на язык. И это действительно так, поскольку если смотреть на ХОРОШИЙ перевод сквозь призму логической семантики, то видно, что об однозначной дословности речь никогда не идет. Налимов утверждает, и я вслед за ним, что перевод – это всегда интерпретация понятийных смыслов, стоящих ЗА отдельными предложениями, выражающими на одном языке то, что должно представлять эквивалент на другом языке. Это, собственно говоря, очевидно, поскольку мы знаем, что на каком-либо языке каждый может как-то понять другого, также владеющего этим языком (естественно, речь не идет о топологии или алгебре), зато беглое знакомство с двумя языками действительно является ОБЯЗАТЕЛЬНЫМ условием для правильного перевода, но не является достаточным, так как не каждый человек, владеющий двумя языками, сумеет проявить способности переводчика – даже прозы (плохо переведенными произведениями мировая литература просто кишит).

5

Но это не все: это всего лишь пролегомены AI. Дело в том, что, по моему мнению, индивидуальность и интеллект – это качества, потенциально РАЗДЕЛЕННЫЕ. Возможен безличный разум, и такой я попробовал показать в книге «Голем XIV». Суть именно в том, что «язнь» или по крайней мере то, что скрывается за местоимением «Я», вовсе не является каким-то единством (для наглядности говорят: так не бывает, чтобы в нашем мозге жил маленький человечек, держащий поводья наших волевых качеств, и чтобы он НАЗЫВАЛСЯ «Я»). Маленькие дети обычно говорят о себе в третьем лице (маленький Ясь не говорит: «Я хочу банан», а скорее: «Ясь хочет банан»). Сознание конструирует индивидуальность, самоназывающуюся «Я» не без труда, а в многочисленных душевных болезнях психиатрического, а также неврологического типа при повреждениях центральной нервной системы это «Я» подвергается удивительным изменениям. Оно может размножаться (раздвоение личности: multipersonality syndrome), что издавна комментировалось в спиритических кругах очень таинственно. Профессор Макс Дессуар в тридцатых годах описывал людей, которые, абсолютно нормально ведя с кем-то беседу, ОДНОВРЕМЕННО могли писать тексты, не имеющие ничего общего с этой беседой: такой человек считал, что его руку ведет некий «спирит», скажем – дух. Возможно, существует ощущение, что «язнь» не находится внутри тела (головы), а где-то «рядом». Могут быть состояния гипоноические, гипобулические (о них писал создатель антропологической типологии Э. Кречмер), и вывод из этого в итоге такой: если машина какого-нибудь будущего поколения будет обладать программой, имитирующей интеллект, то она должна по возможности оказаться ВОСПРИИМЧИВОЙ к отклонениям вышеупомянутого типа. Впрочем, в США уже довольно давно известна программа PARRY, так хорошо имитирующая пароноика, что психиатры чистой воды квалифицировали его как «обычного параноидального больного». Из этого опять следует вывод, что человеческую ненормальность легче имитировать, чем нормальность, и я опасаюсь, что человеческую глупость (а это не является очень редким явлением) – легче, чем высокий интеллект. ПОЭТОМУ в Cyberspaceтак трудно сегодня встретиться с разумным собеседником, созданным компьютером. Впрочем, и об этом я писал в 1963 году в книге «Сумма технологии» в разделе «Фантомология».

6

Работы над AIпродолжаются уже около полувека, а результаты остаются чрезвычайно скромными. Как показывают американские исследования, наш мозг – это многомодульная система, то есть его образуют относительно независимые подгруппы, и они могут, например, и хорошо сотрудничать, и вступать в функциональные противоречия. Поэтому возникают явные парадоксы: дебил может быть хорошим вычислителем, конкурирующим с электронными счетами, по крайней мере в области арифметики; кто-то может феноменально запоминать целые страницы текста «фотографическим» способом. Впрочем, известно, что функции, введенные под контролем сознания, покидая его и превращаясь в автоматизм, бывают функционально более точными (что лучше всего демонстрирует анекдот о сороконожке, которую спросили, как так получается, что она ЗНАЕТ, как передвигать такое количество ног, и она, задумавшись, уже не могла ступить ни шагу). Контроль сознания направлен на некоторые автоматизмы и, например, процесс декламации поэмы он может нарушить и даже остановить. А что касается языка – ребенок учит (без изучения грамматики) язык окружения и между вторым и четвертым годом жизни может в совершенстве знать два и даже три языка «не по науке», а путем погружения во многоязыковую среду. Зато локализация языков, которые мы учим позже, уже полностью отличается («другие модули» должны пройти тренинг и введение в состав, лексику и т. п.). Поэтому тот, кто подвергся повреждению центров родного языка, может иногда объясняться (понимать) с помощью позже выученного языка, причем того, которым владел довольно слабо. С детьми, изолированными от языковой среды, после 5–8 лет будет беда, потому что научиться успешно «автоматизму языка» они уже не способны. Это значит, что мозг после рождения в значительной мере переформирован настолько, что располагает готовностью к получению языкового навыка, а затем невральные механизмы, «ожидающие» этого, как бы подвергаются атрофии. Одним словом, чем лучше, хотя все время мизерно, мы познаем мозг, тем более явно проявляются различия между ним и такими совершенными автоматами, каковыми являются компьютеры ВСЕХ поколений. Загадка мозга заключается в том, что его модульность может быть как сильной стороной с точки зрения интеллекта, так и слабой. В мозге может оставаться в потенциале зерно и гениальности, и таланта, а отклонения во взаимодействии модулей могут стать основой безумия. Туннель «к AI» надо пробивать со стороны технологии наших компьютерных знаний и со стороны нейрофизиологии мозга. Чтобы описать то, как могли бы в будущем действовать компьютеры, «смешанно» построенные, то есть биотехнические, мне уже в этом эссе не хватит места. Более правильным мне кажется приведение в движение безличного разума, чем интеллекта, сдающего тест Тьюринга на «отлично» путем имитации человеческих языковых способностей. Мы были сформированы эволюцией, которая делает «приоритетными» способности, служащие для выживания, а не для распознавания особенностей внутренней динамики мозга или функционирования нашего тела благодаря ему. Поэтому сегодня мы больше можем узнать о галактиках, чем о том, что мы «имеем в голове», и отсюда столько неразберихи в философиях, основанных на самонаблюдениях философов, ибо допустить ошибку здесь очень легко. Мы ничего не знаем о тех подкорковых «Атласах», которые не только поддерживают сознание, но просто участвуют в его создании и тем самым являются агрегатами, работающими едино «для дела» интеллекта, их же сотрудничество определяется и через канал наследования (генами), и через канал культуры жизненного окружения. Компьютеры могут быть объединены в сети (как сейчас) различных интернетов, но даже если соединить их миллиарды, то из этого множества не удастся высечь искры интеллекта. Иначе говоря, разница между мозгом и компьютерами, умеющими ему подражать благодаря программам, как была огромной в эпоху ЭНИАКа, такой и осталась до сих пор. Но для будущих поколений машин, перерабатывающих информацию, следует из этого ровно столько, сколько следует из непохожести птицы и реактивного самолета или даже реактивного самолета и «орнитоптера». Как известно, и на Луну мы долетели, но орнитоптеров, конкурирующих с орлом или самолетом, в нашем технологическом вооружении нет. Итак, не следует ни провозглашать, что AI«уже, уже» перед нами, ни зарекаться, что его не будет никогда. Впрочем, цивилизованная среда сама все время информационно «подзаряжается», так что человек все хуже ориентируется в тех информацией питающихся и приводящихся в движение инструментах, которые ему служат, которые сконструировали для него специалисты… и тем самым отдали на съедение деструктивным, преступным актам человеческой воли.