Текст книги "Молох (сборник)"

Автор книги: Станислав Лем

сообщить о нарушении

Текущая страница: 40 (всего у книги 63 страниц)

5

Споры биологов-эволюционистов возникают в основном из-за того, что ни «тотальный адаптационизм», ни «сальтационизм», ни «лотерейность», ни «генный эгоизм», взятые по отдельности, не могут в нашем понимании объяснить ни «успехов» хода эволюции, ни чрезвычайного многообразиявозникающих в ней видов, родов, классов, типов и отрядов; мы сегодня даже не можем присягнуть на том, что принцип прогрессавообще постоянно присутствует в эволюции. У этого принципа есть и противники. Так, Стивен Джей Гулд говорит, что происходит возрастание сложности(вызванное, например, «состязанием нападения и обороны» хищников и их жертв, а равновесие – первым его математически смоделировал Вольтерра – показало, что возникают пики популяции с обеих сторон), но что в реальности нет «универсального прогресса», если формы, называемые «примитивными», являются таковыми только с субъективной антропоцентрической точки зрения! Насекомых насчитывается почти миллион видов, а то, что у них нет «человеческого интеллекта», – это лишь проявление нашего самолюбия, ведь «наивысшими созданиями из высших» (primates)мы назвали себя сами. Итак, гены существ, размножающихся более эффективно, побеждают, но этот факт не объясняет того, почему в очередные геологические эпохи «примитивные» формы процветали, повторяясь миллионы и миллионы лет, то есть почему «успеха в эволюции» de factoбыло столько же, сколько и эпох стагнации. Похоже, что «рекомбинант ДНК», создающий такие гены, как интроны и экстроны, структурные гены и опероны, может складываться (только, по-прежнему, неизвестно как и почему) во все более сложные наборы биоинструкций. Мы не знаем, почему пресмыкающиеся юрского периода (даже сухопутные) весили до ста тонн, а сегодня только китообразные благодаря жизни в воде приближаются к такому весу, а вес самых тяжелых слонов (Proboscidea)не превышает семи тонн. Мы не знаем, ни почему именно обезьяны оптимально продвинулись в развитии к прачеловеку, ни почему наш мозг оказался способен к пониманию, к речи, к математике, ибо причины таких событий пытаются объяснить различные соперничающие гипотезы, все принципиально непроверяемые экспериментально. Поэтому вопрос, который я хочу задать, звучит следующим образом: возможна ли моделируемая метаинформационная эволюция, имитирующая на внебиологическом материале процесс самоорганизации, наделенной «созидающим автопотенциалом»? Процесс, который покажет, как возникает сложная система и как она может сама эволюционировать в искусственной среде обитания?

6

С тех пор как начали говорить (пока только говорить) о будущих потенциальных возможностях переработки данных КВАНТОВЫМИ КОМПЬЮТЕРАМИ, функционирование которых основано на суперпозиционной игре квантов, та величина, что принималась за предельную производительность цифровых машин, оказалась лишь умеренным уровнем. Ясно, что сконструировать систему, способную привести в движение «самопроизвольную метаинформационную эволюцию», которая должна стать тем, чем являются шахматы по отношению к шашкам (а может быть, пропасть, которую нужно преодолеть, – намного больше?), это то же самое, что создать «виртуальную планету» вместе со всеми ее «виртуальными морями и сушами» и с «виртуальными частицами», которые будут одиноки до тех пор, пока не начнут быстро соединяться по законам «виртуальной биохимии» и не создадут «виртуальную жизнь» и ее «виртуальную эволюцию»! Вот тогда можно будет доказывать, какие возможности содержатся в чисто информационных материалах, использованных в этом процессе. Вместе с тем окажется просто фактом то, о чем сейчас биолог говорит на правах ГИПОТЕЗЫ, – что «эволюционирующие гены – это пакеты информации, а не физические объекты» (Уилльямс Дж. К. в «The Third Culture», 1995). Каждая частица в геноме является лишь носителем информации, а то, что несколько миллиардов лет назад биогенез «выбрал» четыре основания нуклеиновых кислот, объясняется совпадением «химической данности» с «репликационной реактивностью» этих связей; может оказаться, что «жизнь стоит на углероде» потому, что он был субстанцией (элементом), исключительно подходящей Земле (а может, и еще какой-нибудь планете). Но нелинейные цифровые процессы, которые появятся в «метаинформационно» работающем супергиперкомпьютере третьего тысячелетия, может быть, в ускоренные сроки (которые не слишком выйдут за рамки человеческой жизни), смогут показать нам, какие именно творческие или созидательные возможности скрывает в своем лоне космическая материя; я говорю «мета», потому что в этом случае происходит освобождение от сегодняшней зависимости только от лабораторно пригодных соединений, с помощью которых предпринимаются усилия «повторить биогенез». Биореакторы, работающие, например, в институтах Макса Планка и моделирующие возникновение «искусственных вирусов» и их «фазовых переходов» (в смысле «гиперциклов» по Манфреду Эйгену ), могут сейчас не слишком много. В хорошем гигабайтовом компьютере можно моделировать «псевдоэволюционирование» виртуальных бета-фагов, насчитывающих максимум 50 генов. Это по-прежнему слишком мало: для моделирования, о котором я говорю, требуются их миллиарды. Конечно, имеются генетические алгоритмы, которые уже внедряются в практику, но этого тоже слишком мало. Наш информационный голод намного больше, и ни в этом веке, ни с началом XXI века достижения информационной инженерии его не утолят. Необходимы значительно большие – неизмеримо большие – вычислительные мощности.

7

С трудом подхожу к тривиальному, по сути, заключению: развитие информатики прежде всего приводит в движение ее коммерциализацию, то есть развитие того, что может принести непосредственную прибыль, а не познавательную. «Что быстро себя не окупает, то еще на стадии зарождения идеи погибает» – такую разновидность эволюционного якобы прогресса создал себе рынок. Отсюда шум о будущем как о всеземной сфере компьютерных игр, отсюда потоки глупости и «псевдовоплощений» в разных интернетах, отсюда свобода Сети как территории популярных педофильских игрищ, отсюда «мультимедийная интерактивная забава» – то есть мир, погруженный в развлечения. Я не ярый аскет и не противник фантоматизированных видеомахий, но только будущее – в виде хорошо сфальсифицированной программистами обслуживаемой и заказываемой «псевдожизни», переживаемой в роли Завоевателя, Казановы, Калигулы и т. д. – я считаю вполне возможной деградациейи отказом от другого, высокого полета. Ни моделирование возникновения галактик, ни имитация циклонов или проектирование супероружия вовсе не кажутся теми высокими целями, к которым должно стремиться третье тысячелетие.

Потенциальная сила, которую таит в себе информация, названная «метаинформацией», – это оторванная от итерационных, поступательных и линейных процессов самоорганизация, которая уже не настолько зависит от своего носителя, как жизнь в природе или как компьютерные модели, созданные программистами. Жизнь сама создавала свои программы, и к этой суверенной, комплексной виртуализации наши потомки должны прийти таким образом, что их «метаинформационные махины», «КОМПЬЮТЕРОВЕЙНИКИ», окажутся только зародышами, колыбелью, только «началом, направленным в бесчисленные, возможно, усилия самопроростков», – это только покажет, что биоэволюция была одной из частных, отдельных дорог, что могут возникать другие формы жизни, не основанные ни на углероде, ни на белке, ни на том или ином металле, – но здесь я уже стою над пропастью воображения, поскольку для тех явлений, что могут возникнуть, мне сейчас не хватает названий. «Метаинформационность» означает отказ от программ, устанавливаемых нашими программистами, в пользу программ-ИНИЦИАТОРОВ, программ, которые будут только СТАРТЕРАМИ развития, ограниченными в какой-то мере определенными условиями, но не обязательно жестко нацеленными на ожидаемый результат «освобожденного развития» информации, «высвобожденной» из неволи ее конкретных носителей. При этом, возможно, будет множество преждевременных ходов и выходов, и таких «переходов», которые ничего нового не создадут, но вместе с тем во всем этом множестве скрывается шанс получения ответов на некоммерческие вопросы: как возникла жизнь на Земле, почему все шло от катастрофы к катастрофе, является ли возрастание сложности «неотъемлемым показателем процессов, носящих характер скопления ИГР НА ВЫЖИВАНИЕ», и так далее. С такого высокого уровня свободной эволюции мы увидим то, к чему ни одна необходимость не приведет. Это только шанс, гарантом которого должен стать наш разум.

Искусственный разум? [226]226
  Sztuczny rozum? 1997. © Перевод. Язневич В.И., 2002


[Закрыть]

1

В одной из партий Каспарова с Deep Blueкомпьютер, вопреки ожиданиям партнера-человека, не тронул легкую для взятия фигуру и через довольно большое количество ходов одержал победу. Каспаров тогда говорил, что почувствовал в действиях машины интеллект (по крайней мере ему так показалось): затаенный замысел в стратегическом ходе.

После победы Deep Blueжурналисты не раз спрашивали меня, можно ли вообще подозревать компьютер в обладании интеллектом, на что я всегда отвечал (задававшим вопросы журналистам) отрицательно. Чтобы, строго говоря, получить некоторую «квинтэссенцию утверждения», то есть, насколько возможно, избавить проблему от несущественного по сути, следует в этом месте обсуждения ввести понятия РАЗУМА, или РАЗУМНОСТИ, потому что одного «интеллекта» недостаточно. Но почему? Ведь «интеллект» более «безличностный», чем «разум». Артефакт (каким может быть компьютер) мог бы казаться «интеллектуальным», но не обязательно одновременно и «разумным». Прежде всего потому, что и непроизвольно можно вести себя ИНТЕЛЛЕКТУАЛЬНО, но непроизвольно вести себя РАЗУМНО скорее всего нельзя, так как импликацией разумности является ее осознание. Правда, социальное поведение насекомых, особенно живущих общественно, таких, как пчелы или муравьи, управляется «врожденными инстинктами», однако можно легко признать, что они ближе к «интеллекту», особенно к коллективному, чем к разуму. И ведь не случайно множество людей бьется над «добыванием интеллекта» из нечеловеческих устройств, тогда как «разум» будто бы никем не планируется и не проектируется. Почему?

2

Это очень трудный вопрос, поскольку речь идет о понятиях, которые имеют «размытое дефиниционное поле», и более того, можно сказать, употребляя современную терминологию, что это термины из группы, называемой «FUZZY SETS». [227]227
  Нечеткие множества (англ.). Термин введен американским ученым Лотфи Заде. Идея, лежащая в основе теории нечетких множеств, заключается в том, что человек в своей повседневной жизни мыслит и принимает решения на основе нечетких понятий. Создание теории нечетких множеств – это попытка формализовать человеческий способ рассуждений.


[Закрыть] Deep Blueмог произвести на человека-противника такое впечатление, будто в нем, то есть в машине, «мерцает» искра интеллекта, потому что «он видел дальше», чем противник, то есть был способен предвидеть, какое множество ходов, возможных в рамках шахматных правил, таит в себе будущее. Это существенно: обращение к будущим возможностям ЯВЛЯЕТСЯ одной из составляющих разума, но также может быть всего лишь показателем чисто неразумного инстинкта, который присущ насекомым или другим живым существам (которым мы не можем приписывать разум). Управляемое инстинктом поведение роднит с «интеллектом» прежде всего то, что оно обращено положительным результатом в будущее и обладает чертами ТЕЛЕОЛОГИЧЕСКИМИ. С определенной целью. Понятно, что Deep Blueдолжен был иметь такого рода целенаправленность (встроенную программистами), иначе он не стремился бы поставить Каспарову мат.

3

Здесь напрашивается следующее замечание. Deep Blueнекоторым образом был модулем (субагрегатом), созданным технически, как бы вынутым из мозга выдающегося шахматиста-человека. Это, конечно, упрощение, ибо компьютер обладал вычислительной мощностью (200 млн. операций в секунду), коей ни один человек обладать не может, но людям недостающую производительность заменяетинтуиция – насколько таинственная, настолько и обманчивая. (И чрезмерно растягивая отступление, в скобках добавлю, что, по мнению 99 % самых выдающихся математиков, так называемая великая теорема Ферма не была доказана французским ученым; иначе говоря, интуиция подвела его, когда он написал на полях книги, что нашел доказательство, но не может его изложить за недостатком места.) Короче говоря, интуиция не обязательно бывает точной, и мы по-прежнему не знаем, «как она это делает», так как она действует вне сознания и ведет себя как отличник, который подсказывает правильные ответы товарищу, отвечающему экзаменатору: товарищ повторяет, но то, что он повторяет, ему не обязательно понимать… Разумный же ответ он сам, своей «разумностью», должен понимать. Хотя Deep Blueи весил около полутора тонн, функционально его можно рассматривать как ОДИН модуль – а мозг человека состоит из огромного количества модулей, большинство которых nota beneвообще функционально не занято чем-либо, что не происходит в самом организме (в теле) и за его пределами. Большинство модулей мозга служит телу, происходящим в нем процессам обмена и изменений (например, тканевых). Но только «меньшинство» может активно проявлять «экстерриториальную разумность». Тогда, например, все «экспертные программы», от геологических до медицинских, – это другие модули, а загвоздка в том, что эти вместилища выборочно сформированной информации, по существу актуальной и в этом смысле оптимальной, являются как бы дистиллятами современного состояния наших лучших знаний с одним, но чрезвычайно важным недостатком: они – модули «для себя» и для нашего использования (когда «призываются» для этого), но они «не понимают друг друга», и пока мы не знаем, что сделать, дабы соединить их более или менее аналогично тому, как это происходит в нашем мозгу. Составлять модули мы уже научились, но дать им способность самопроизвольно влиять на себя – еще не умеем, и в этом главная проблема Artificial Intelligence. Люди, увлеченные AI, как Марвин Минский, по-прежнему уверены, что можно сконструировать искусственный интеллект, – так же как и философы, например, Даниэл Деннетт, который, пожалуй, раз сто объяснил («выяснил»), на чем основывается сознание, и «окончательно сорвал маску и решил» загадку сознания. Такие люди живут с ощущением, что от работающего Artificial Intelligenceнас отделяет шаг или пара шагов. Однако я опасаюсь, что это не так просто. То, что целостную работу мозга составляет совместная деятельность отдельных модулей, мы сегодня знаем наверняка (если мы вообще что-то знаем наверняка).

4

Вопрос, который следует поставить, звучит так: ЧТО еще мы знаем, а чего не знаем? Так, например, известно, что мы видим то, что является видимым, но это в значительной мере – результат обучения и тренировки. Слепые от рождения, которым посчастливилось обрести зрение, «видят» хаос движущихся цветных пятен и ничего больше. Но и люди, которые никогда никаких изображений не видели, рассматривая самые лучшие фотографии, не в состоянии автоматически преобразовать в мозгу плоскую картинку в трехмерную. А, например, для собаки самый отчетливый и красочный образ на экране телевизора ничего не значит. То есть «обработка» данных есть информационно и функционально особый процесс: уже появляются компьютерные системы, которым можно диктовать на том языке, на который система запрограммирована, и после подготовки она даже может научиться писать или выстукивать произносимый текст как машинистка, что является очень хорошим достижением конструкторов, но и такая система «ничего не понимает». В последнее время появились (параллельно с шахматными матчами компьютеров и людей) очередные попытки разыграть «тест Тьюринга», то есть чтобы компьютер имитировал в разговоре обычного человека. Окончились они жалким поражением: компьютеры как ничего не понимали пятьдесят лет назад, так по-прежнему ничего не понимают.

5

В определенном, но только в определенном, узком смысле связано это с тем, что а) получившие зрение слепые от рождения (как было сказано выше) ничего не видят и впоследствии, то есть не способны автоматически и внесознательно совершить мозговые операции, свойственные здоровым людям и дающие возможность «видеть»; б) развивающиеся без контактов с нормальной человеческой средой дети где-то после 7–9 лет не в состоянии научиться разговору: они остаются почти немыми и не понимают того, что им говорят; и так далее. Значительная часть мозговых модулей, связанная с жизненными процессами (функциями) организма, в вышеназванных контактах с окружением не нуждается (мочеиспусканию и испражнению не надо учиться: мы учимся только обстоятельствам и способам, какими это следует делать, потому что в гостиной никто не спускает штаны, чтобы облегчиться). Однако же без обучения, без тренировки мозг не в состоянии достичь нормальной средней способности. Тогда было бы странным ожидать возникновения аналогичных или по крайней мере подобных способностей в результате соответствующего программирования компьютера, хотя бы он и весил сто тонн.

6

Повреждение мозгового модуля, отвечающего за цветовое зрение, ведет к тому, что человек сможет по-прежнему прекрасно видеть, но лишь как в черно-белом кино. Это свидетельствует о «наложении» друг на друга работы совместно действующих систем, относящихся к «оптической зоне» коры мозга. И что еще хуже – бывает слепота коры, которая является осознанно подтверждаемой неспособностью видеть, и слепота коры, сопровождаемая «подкорковым зрением»: человек говорит, что ничего не видит, но брошенный ему мяч хватает на лету, – это объясняется тем, что в мозгу существует целая восходящая иерархия, и такой человек одновременно «видит» и «не видит», так как «в нем» видит низшая система, почти где-то при corpora quadrigemina, [228]228
  четверохолмие (лат.) – область среднего мозга.


[Закрыть]о чем он сам не знает в том смысле, в каком мы не знаем о функционировании почек, несмотря на то что они 24 часа в сутки неустанно работают.

7

Повсеместно известно такое явление, как рассеянность, которое обоснованно или необоснованно приписывается не только пожилым людям, но и ученым, особенно мыслителям, погруженным в медитацию. Такой человек может совершать различные действия автоматически, то есть бессознательно. Они могут, но не должны быть целенаправленными или бессмысленными (например, я кладу грязную рубашку в морозилку вместо стиральной машины). Осознанные post factum, они часто вызывают смех. Рассеянным может быть только существо, наделенное интеллектом! Нет «рассеянных» мух или пчел. Это вытекает из высшей сложности интеллектуальных способностей, но, с другой стороны, нет глупых муравьев или тараканов, а от глупых людей в глазах рябит. Остается надежда, что, прежде чем создать искусственный интеллект, нам удастся сконструировать систему, наделенную значительной глупостью, но в этом я не совсем уверен… Nota beneкак очередное отступление от темы добавлю, что считаю себя достаточно умным человеком, не обремененным талантом шахматиста, но правила этой игры я, конечно, знаю. «Рассеянность» просто основана на том, что определенное, обычно известное и часто совершаемое действие выполняется автоматически, бессознательно, и, кроме того, его эффективное, то есть реальное исполнение НЕ заносится как свершившийся факт ни во временную, ни в постоянную память. Есть доказательства, что и такое действие может оставить след и быть зафиксировано при особом усилии памяти и/или под влиянием «помощи», например, гипнотизера, при этом человек осознает, что действие было совершено. (Гипнотизер nota beneсовсем не обязателен: может быть, достаточно свидетельства постороннего наблюдателя.)

8

С виду все вышеизложенное выглядит болтовней, потому что, по существу, указывает, насколько далеко отстоит разум от интеллекта, но сегодня их и машинное моделирование по-прежнему разделяет пропасть. Я лично считаю, что это переходное состояние. Невозможно то, что запрещают точные науки. Они, однако, искусственного разума не запрещают.

9

Мне кажется – но я не в состоянии подкрепить свои слова никаким веским аргументом или хотя бы его тенью, – что в конце концов будет возможна реализация ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, а не ИСКУССТВЕННОГО РАЗУМА. Я думаю так, потому что интеллект мне кажется более БЕЗЛИЧНЫМ, то есть лишенным признаков индивидуальности, чем РАЗУМ. Едва ли не первым математиком, который сумел результативно и соответствующим образом использовать компьютер в творческой работе, был Станислав Улам. (Не знаю, была ли издана на польском языке его книга на эту тему: я читал ее по-русски. [229]229
  Возможно, имеется в виду кн.: Улам С. Приключения математика. – М.: РХД, 2001.


[Закрыть]) Так вот, эмоциональной жизни компьютер лишен полностью, но работе математика это не мешает. Добавлю, что выдающийся немецкий психолог Дитрих Дёрнер больше года назад описывал свою компьютерную программу, которая должна была быть эмоциосозидательной, «эффективно аффективной», но его выводы не убедили меня, и что еще хуже – нигде в научной прессе я не нашел ни слова о таком достижении. Вещью известной и не исключительной является то, что самые разнообразные, то есть совершаемые в далеких друг от друга областях творческой мысли достижения были некоторым образом «подсказаны» сознанию внесознанием, которое можно было бы отождествлять с результатами действия интуиции. Не будучи ученым, в своей писательской области могу сказать только следующее: некоторые мои романы не были в их целостной фабуле написаны мной в том смысле, чтобы я что-то планировал, осмыслял, схематизировал или хотя бы предвидел, что, собственно, получится. Тогда откуда «ЭТО» взялось? Ответить напрямую, с полной уверенностью, что было так и так, я не могу, поскольку сам не знаю, и здесь я отдан исключительно домыслам (предположениям), что то, что «писалось», вытекало извне сознания и, конечно же, переходило в поле сознания, потому что я писал не в гипнотическом состоянии, но «совершенно обычно» видя, что пишу, и вместе с тем не имея понятия, «что будет», «что произойдет», то есть что я напишу еще. И таким образом (только весьма относительным), можно признать сознание главенствующим в умственном труде. Nota beneкомпьютер в ЭТОМ вопросе не отличается от работающего мозга ТАК, как prima facieмогло бы показаться, потому что и он, выполняя приказы (команды) программы, не сумел бы «заранее» напечатать, какой будет финал работы: «что из этой программы» (моделирующей, например) получится. Таким образом, между ним и нами появляются функциональные «точки соприкосновения», и то, что именно так бывает, вселяет в меня некоторый оптимизм (касательно AI) относительно будущего. Правда, может оказаться, что до «искусственного разума» дорога еще длинная. Что опять-таки связано с моим замечанием, что интеллект интеллектом, а людей глупых по статистике больше, чем интеллектуальных, а разумных – совсем немного…