Текст книги "Молох (сборник)"

Автор книги: Станислав Лем

сообщить о нарушении

Текущая страница: 8 (всего у книги 63 страниц)

Tertium comparationis [44]44
  Tertium comparationis, 1994. © Перевод. Язневич В.И., 2004


[Закрыть]

1

Вышеприведенный заголовок в обоих изданиях книги господина Ендрашко «Латынь на каждый день» означает «третья вещь, служащая мерой для сравнения двух других». Я тоже считал именно так, пока не прочитал в «Словаре иностранных выражений и иноязычных оборотов» Копалиньского, что эти же латинские слова означают: «основание для сравнения, предмет (состояние вещей), имеющий общие черты с двумя сравниваемыми друг с другом предметами (состояниями вещей)». Однако это не одно и то же. Я придерживаюсь определения Копалиньского, поскольку оно мне необходимо для эссе, в котором собираюсь высказать настолько важные идеи, насколько и неосуществимые, а именно о направлении философии, сконцентрированном на сходствах (постулируемых) и различиях (фактических) компьютера (как «конечного автомата») и человеческого мозга.

Эти автоматы, в свою очередь, затрагивают теорию рекуррентных функций и алгоритмов, и в связи с этим они вовлечены в известное доказательство Гёделя, но проследить развитие такой генеалогии компьютеров в пределах данного эссе просто не удастся. Вместе с тем отсутствие только что названной философской перспективы замыкает все развитие компьютеров и теории той информации, которая им подвластна, в своего рода – без колебания использую, может быть, слишком сильную формулировку – техническо-вычислительном гетто. Можно было бы допустить нападки на мою категоричность, ссылаясь на многочисленные работы специалистов computer science, каковым является Джозеф Вейзенбаум, и заканчивая более известным трудом братьев Дрейфусов (возможно, изданным уже и на польском языке).

Дело в том, что книги такого рода (как названные мною) в большей или меньшей степени усилены аргументами «общей теории невозможности приравнивания компьютера к мозгу» или же, наоборот (как неназванные мною книги), происходят из лагеря «компьютерных фидеистов», представляя попытки доказательств, что создание Artificial Intelligence (согласно утверждениям одного из «отцов» – Марвина Минского) осуществимо и уже скоро появится в техническом воплощении. Имеются, наконец, и такие авторы, как Дуглас Хофштадтер, которые находятся (в своих трудах) на некотором распутье; они видят огромные трудности, которые необходимо преодолеть на пути к AI, но одновременно и верят в принципиальную возможность их преодоления (только неизвестно, как и когда).

2

Однако здесь речь идет не о разрешении проблемы реализации «искусственного интеллекта» в машине и не о том, что следовало бы заняться этой проблемой в первую очередь. Речь идет о том, о чем гласит заголовок. Необходима такая «философия применения компьютеров», которая выходит за рамки спора о различиях и сходствах с человеческим мозгом, так как в этом споре мозг фигурирует как идеальное воплощение разума, как образование, наиболее сложное во всем Космосе, и тем самым как бы настолько универсальное, что должно быть просто изучено как известный и недосягаемый эталон, каковым для молодых людей довоенных лет был «эталонный метр», помещенный в виде палладиево-платинового слитка (с сечением «Х») в Севре под Парижем, и который сегодня уже не является идеальным эталоном измерения длины. И хотя никакого вне– или надчеловеческого мозга мы не знаем, те, кто пользуется услугами компьютеров и обслуживает их в качестве программистов, должны выйти за пределы конструкторских эталонов для более отвлеченного и потому имеющего характер «мета-» размышления, чтобы сквозь очевидную, хотя научно и не разгаданную, модель биологического мозга увидеть будущие или по меньшей мере возможные этапы развития компьютерных технологий. Почти все известные мне эксперты так интенсивно занялись обсуждением «быть или не быть» Artificial Intelligence, что просто ослепли и не видят более фундаментальной проблемы, а именно: заслуживает ли вообще мозг человека, чтобы его называли эталоном «разума», интеллекта и, тем самым, может ли быть «совершенно иной взгляд» на мозг.

Я, позволяя себе еще раз в этом эссе перейти на латынь, скажу, что, по моему мнению, sed tamen potest esse totaliter aliter. [45]45
  однако в целом все может быть иным (лат.).


[Закрыть]По крайней мере два типа черт можно выделить в живом и по-своему действующем мозге человека: те, которые являются следами и наследием его очень долгого эволюционно развивающегося пути (и не только в ходе антропогенеза, ведь мозг является палеонтологически значительно более старшим «созданием»), а также те черты, которые составляют его исключительность сейчас как уже типично человеческого приобретения, которое вывело нас за древо обильно разветвленных вариаций гоминидов и тем самым породило homo sapiens sapiens. Здесь же добавлю, что когда-то я написал одному немецкому философу по поводу М. Хайдеггера, что считаю самой большой ошибкой Хайдеггера не его остро критикуемую после Второй мировой войны принадлежность (а также близость его философии) к нацистской партии, а то, что он был философом, ненавидящим технологическое направление развития нашей цивилизации и представляющим себе, что возврат к дотехнологической культуре – это реально возможный путь развития. Я написал тогда моему корреспонденту, что с той минуты, когда много миллионов лет назад возникли Australopithecus, Homo robustus и вскоре – Homo habilis на юге Африки, уже тогда в ходе медленной, исторически последовательной акселерации всей своей биологией они были обречены на изобретение технологии (начиная с эолита и палеолита), поскольку вместе с освобождением верхних конечностей от применения их в качестве опоры при ходьбе, а мозга – от типичных способностей, необходимых животным для выживания, в те времена другого пути (кроме вымирания вида) уже не было.

Я считаю, что каких-то три или два с половиной миллиона лет назад технология стала такой же неотъемлемой собственностью человека, какой стало четыре миллиарда лет назад космическо-планетарное остывание огненной оболочки шара, каковым тогда была планета Земля. Таким образом, на технологию можно сердиться, технологию можно не признавать, к процессу ее развития можно иметь претензии точно так же, как ненавидеть законы термодинамики или держать зло на гравитацию. Явления, подобные законам Природы, в какой-то мере можно приручать, одомашнивать, впрягать в наши дела и работу. Зато писать против них научные труды или воспринимать их как зло – все это несет в себе столько же смысла, сколько дисциплинарное бичевание моря за то, что оно поглотило корабли какого-то тирана. Это нерационально и недостойно философии, которую произвольным способом нельзя отделить от фундамента, каковым является наше бытие.

3

Скажем, что так оно и есть, но что это может иметь общего с моей философией в вопросе обсуждения сферы споров «про-AI» и «контр-AI»? Вначале следует сказать, что нас ожидает.

Во-первых, мы уже пришли к частичному опережению человеческого мозга компьютером, но не надо это смешивать с какой-то «антропологизацией» компьютеров, словно осталось сделать еще пару шагов вперед в техническом развитии – и они начнут действовать так же, как люди. Я позволю себе процитировать то, что писал более четверти века назад в «Сумме технологии».

«Возникнут и будут разрастаться машинные центры, управляющие производством, товарным оборотом, распределением, а также исследованиями (координация усилий ученых, поддержанная на раннем этапе машинами, то есть вспомогательными компьютерами). Возможны ли между ними конфликтные ситуации? Очень возможны. Конфликты будут возникать в плоскости инвестиционных, исследовательских, энергетических решений, потому что надо ведь будет определять первенство разных действий (…). Такие конфликты надо будет разрешать. Разумеется, это будут делать люди. Очень хорошо. Следовательно, решения будут касаться проблем огромной сложности, и люди – контролеры Координатора (компьютерного. – С.Л.) должны будут, чтобы разобраться в предоставленном им математическом море, обратиться к помощи других машин, оптимализирующих решение (…). Возможно ли, что машины контролеров, дублирующие работу континентальных машин, дадут другие результаты? Это вполне возможно, поскольку машина (в ходе работы. – С.Л.) становится как бы «необъективной». Известно, что человек не может не быть пристрастным, почему же машина (компьютер) должна быть пристрастной? Необъективность не должна вытекать из предпочтения (что касается качества), она вытекает из предоставления разнообразного веса противоречащим себе звеньям альтернатив. (Поскольку такие машины, будучи правдоподобными системами, не действуют тождественно.) Ситуация становится все более ясной, если мы выразим ее на языке игр. Машина является как бы игроком, ведущим состязание против некой «коалиции», которая складывается из огромного количества разнообразных группировок: производственных, рыночных, а также транспортных, обслуживающих и т. п.».

Этот длинный вывод заканчивает следующее утверждение. Дело выглядит так: либо компьютеры не умеют учитывать большего количества переменных по сравнению с человеком, и тогда вообще не стоит их создавать, либо они это умеют, и тогда человек не может сам разобраться в результатах или принять независимое от компьютера решение… Человеку не остается ничего другого, как стать связным, который переносит информационную ленту от решающего компьютера к контрольному компьютеру. Если результаты компьютеров неодинаковы, человек не может сделать ничего другого, как выбрать, подбросив монету: из «высшего надзирателя» он становится механизмом случайного выбора!

И вот опять, и то лишь при управляющих компьютерах, мы столкнулись с ситуацией, когда они становятся «более быстрыми» по сравнению с человеком. Далее я писал, что «сегодня» (то есть в 1965 г.) мы вообще обходимся без таких компьютеров в экономике и менеджменте. Но в настоящее время (1994 г.) компьютерные сети уже протягивают свои «щупальца» в эти отрасли. И кроме того, сегодня оказалось, что в отраслях математики и математической физики, в которых на результаты работы компьютеров, распоряжающихся вычислительными мощностями, каждый математик или физик должен положиться, такую работу ни один человек даже на протяжении всей жизни проконтролировать не в состоянии. И если в этих отраслях, как бы близких логически, состав исходных аксиом не совпадает идеально с таким же составом при проведении работ в разных исследовательских центрах, то ничего, кроме проверяющих «суперкомпьютеров», придумать нельзя, и такие «суперкомпьютеры» вовсе не являются судом Божиим, а только очередным шагом развития компьютерных технологий, то есть нам открывается пропасть как regressus ad infinitum… [46]46
  движение назад до бесконечности (лат.).


[Закрыть]

4

Но все, что я сказал, касалось исключительно отношения компьютеров к людям и их деятельности. Во-вторых, отправной точкой и одновременно темой первоначально постулируемой здесь «философии tertium comparationis» должен стать человеческий мозг, который по некоторым причинам в своем строении и функциях изучен несравненно хуже, чем компьютеры, так как мы сами их создаем и применяем. В то же время мозг мы, ясное дело, используем, но создаем его не мы.

Я позволю себе кратко перечислить некоторые «внекомпьютерные» особенности нашего мозга. Мозг состоит из большого числа, еще не подсчитанного, подотделов, причем эти подотделы в основном «должны» сотрудничать, но бывает, что они являются антагонистами и мешают друг другу. Это довольно просто можно наблюдать во многих явлениях. Например, можно нарушить процесс припоминания какой-нибудь декламации, если слишком сильно сконцентрировать на нем сознательное внимание; зато если от такого центра внимания отказаться, то автоматизм декламации как (это пример) безупречного чтения наизусть пройдет гладко. (Впрочем, это представляет лейтмотив шутки, где на вопрос, заданный сороконожке, как она организует движение стольких ног, сороконожку, задумавшуюся над этим вопросом, поражает неподвижность.) Так же легко можно увидеть и другие «внутримозговые» антагонизмы: когда мы бегло считаем или начинаем сомневаться в точности расчетов, то повторения часто отягощаются значительными ошибками, то есть, казалось бы, не следует сильно концентрироваться… Это же касается и исследований (проведенных в пятидесятых годах), из которых следовало, что человек, поддающийся гипнозу, может вспомнить происшествия многолетней давности, которые при полном сознании реминисцировать он не в состоянии.

Таким образом, существует будто бы разная «глубина» функциональных пластов мозга, изучение которых путем усиленного внимания просто недоступно сознанию. Также наш язык и каждая его разновидность благодаря своему составу, лексикографии, фразеологии, а также идиоматике избегает ловушек и предательских капканов, присутствие которых в каждой арифметически замкнутой системе открыл великий Гёдель, но бывает обманчивым, когда мы ведем дискуссии, основанные на аргументах разной степени проверяемости и силы. Язык – это и наша сила, и иллюзорная слабость, поэтому науки тесным строем «отступают» в сферу математизации, где их, однако, подстерегает гёделевская западня… А локализация центров мозга, отвечающих за разумную речь, за язык, выученный с колыбели, другой язык, выученный в зрелом возрасте, письменную речь, чтение и т. п., – все эти функциональные языковые зародыши мозга новорожденного действительно являются биологическими и почти что тождественными (независимо от того, польский это ребенок или китайский) и представляют неразгаданную загадку. Ведь нельзя сказать, что язык не наследуется, и нельзя сказать, что язык наследуется: человек наследует только «функциональную готовность», способность к быстрому приспособлению к языковой среде, в которой он родился. (Это неизбежно пригодилось бы компьютерам: их бесконтекстная жесткость должна когда-нибудь подвергнуться принципиальной «переработке» в антропологическом направлении…)

5

Доказательством существования большого количества подотделов, из которых состоит мозг, могут служить как некоторые явления действительности, так и сны. Сознание человека, который видит сон, может воспринимать явления сна как удивительные неожиданности, предвосхитить которые он не в состоянии, происходящие как бы действительно вне пределов его разума. Сон «снится» часто непредвиденным и неожиданным способом, особенно кошмар; это означает, что поле сознания спящего ограничено, и события, которые разыгрываются, бывают переведены из таких подагрегатов мозга (сосредоточенные в таких подотделах мозга), о содержании которых (сюжете) спящему ничего не известно.

Это еще одно доказательство утверждения, что делимость нашего сознательного внимания ничтожна. Очень трудно удержать в поле сознания больше, чем несколько (самое большее – шесть) проблем. Если же представить самую слабую из многочисленных возможностей мозга, ею будет information retrieval – несчастье, случающееся даже с усердными людьми, а особенно с экзаменуемыми, которое заключается в том, что сопровождающие аффекты («нервные эмоции» спрашиваемого) тормозят умение быстро «получить» из хранилищ памяти то, что желает экзаменатор (я не имею в виду тех, кто является на экзамен попросту неподготовленным).

Также явления страха, паники, а шире – эмоции могут поражать интеллектуальные способности. Большой проблемой для человека является невозможность определения размера индивидуального интеллекта как такового, а также воплощенных умений (которые, без сомнения, по большей части являются генотипными, то есть наследственно запрограммированными или обусловленными). Внутривидовая вариация у человека самая большая, ибо чем ниже находится вид животных на лестнице эволюционного развития, тем меньше «интеллектуальная» разница. Все мухи имеют одинаковое количество способностей, задаваемых инстинктами, для переработки информации (мухи никогда не научатся тому, что сквозь стекло пролететь нельзя). Также «гениальные шимпанзе» (есть такие, которые способны к изучению зачатков графического языка) намного меньше отличаются от глупого шимпанзе по сравнению с тем, насколько Ньютон отличается от дурака. Сегодня мы сталкиваемся с другой загадкой: мы не знаем, почему эволюция человеческого мозга, проходившая в виде роста потенциальных возможностей разума, начавшись более миллиона лет назад и достигнув исключительного в естественной эволюции ускорения, все-таки остановилась примерно сто—двести тысяч лет до нашей эры! Таким образом, люди всех рас сегодня имеют практически одинаковый мозг, а различия могут касаться самое большее распределения генов в геномах, и именно тех, которые совместно решают вопрос о потенциально достижимом интеллекте (в частности, речь идет о старом споре nature or nurture, [47]47
  естественный или приобретенный (англ.).


[Закрыть]то есть наследственность или же окружающая среда в основном обусловливает уровень интеллекта; сегодня маятник этого спора указывает на оба фактора с некоторым преимуществом наследственности, но выявляемая только статистически разница между расами небольшая. Если бы различия оказались большими, возникло бы еще множество причин для рабства, шовинизма, национализма, расизма и т. п.).

Но почему «разогнавшийся в эволюционном развитии» мозг «остановился», мы не знаем. Трудно считать причиной этому относительную тесноту женского родового канала, хотя диаметр головы новорожденного – самый большой поперечный размер его тела. Здесь скрыта неразгаданная загадка мозга, скорее всего биологической, а не информационной природы.

6

Я не собираюсь вторгаться ни в область психопатологии с ее психозами – наследственными и приобретенными, ни в сферу фобии, психопатии. Здесь достаточно будет сказать, что функциональная стабильность человеческого мозга довольно неустойчива, и это тоже могло оказаться тормозом дальнейшего роста. Колоколообразная кривая Гаусса, показывающая нормальное распределение коэффициента интеллекта (больше всего средний – 120 IQ, слева ниже «еще не анормальный» физиологический минимум, а на опускающейся правой стороне меньше всего коэффициент выше 130–150 IQ), вообще не отражает влияния на «дистиллированный» тестами IQ таких проявлений личности, как характер, волевые моменты («добровольность» и «принудительность»), эмоциональная жизнь, главные направления способностей (если имеются) и т. д.

Эмоциональную жизнь мы наследуем от древнейших позвоночных (вероятно, развитие их продолжалось более полумиллиона лет), то есть она значительно древнее, чем жизнь разумная. Компьютерам до этого меньше всего дела, и мы не знаем, «для них» это недостаток или скорее достоинство. Это же касается и довольно загадочного явления – интуиции.

7

Однако надо нарушить границу, с одной стороны отделяющую норму от патологии: я имею в виду место, в котором находится разновидность так называемых гениальных идиотов. Это глубоко умственно неполноценные, но необычайно быстрые вычислители, способные конкурировать с электрокалькуляторами, это также необыкновенные «запоминатели» один раз просмотренного длинного текста, хотя они и не могут конкурировать с мегабайтовой памятью компьютера, это глупцы, но отличающиеся очень большими способностями к полиглотству (с необыкновенной легкостью они усваивают множество иностранных языков, но ничего разумного ни в одном из них не придумают), и т. д. Я допускаю, что у всех этих «чудаков» происходит одновременная атрофия нормальных подотделов мозга, а также освобождение одного из подотделов (языкового, счетного, зрительной памяти) от других функций (нормальных), которые, как уже говорилось, могут разрушительным образом повысить уровень возможностей.

8

Есть психологи, считающие функции мозга человека своего рода «пограничьем», движением по довольно-таки узкой тропинке обычной нормальности, причем по обе стороны зияют пропасти: с одной стороны – излишней негибкости, а с другой – чрезмерной хаотизации мыслей и намерений, так что человеку может угрожать или стагнация в стереотипах, или неразбериха почти не направляемой анархии.

Конечно же, это грубая и потому упрощенная схема. Но все эти черты стоит иметь в виду, когда разыскивается tertium comparationis, ибо тогда легче понять, как мало смысла в стремлении «повторить мозг» в машине. Что биологическое, то принадлежит эволюционной биологии, а что вычислительное – вычислительной мощности компьютеров. Но кроме того, следует вспомнить, что мозг после лоботомии (с отсеченными лобными пластинами, обусловливающими «жизненную стратегию») может действовать почти что нормально. Зато попробуйте в действии компьютер, которому отпилили большую часть hardware…

Фундаментальная разница проявляется в том, что наш мозг содержит пласты древнего прошлого: в нем есть «что-то» и от пресмыкающегося, и от гоминидов. Ведь разум мог возникнуть лишь тогда, когда стал настолько необходимым, что иным исходом альтернативы явилась бы уже видовая гибель; а видов, которые исчезли с Земли, было миллионы…

«Соревнование» мозга с компьютерами происходит сейчас как увеличение емкости «мертвой» памяти и ускорение вычислений: это создает растущие вычислительные мощности. Будут ли заимствованы инновационные подкрепления у биологического мозга (и тем самым эволюция компьютеров приблизится к естественной) или же, наоборот, ножницы разойдутся еще больше, чем сейчас, и «питательная среда» окажется «совершенно небиологического вида», нечеловеческой – сейчас трудно определить.