Текст книги "Сумма технологии"

Автор книги: Станислав Лем

сообщить о нарушении

Текущая страница: 11 (всего у книги 47 страниц) [доступный отрывок для чтения: 17 страниц]

Мифы науки

КИБЕРНЕТИКЕ от роду 18 лет. Следовательно, это еще молодая наука. Но развивается она с поразительной быстротой. У нее есть свои школы и направления, свои энтузиасты и скептики; первые верят в ее универсальность, вторые ищут границы ее применимости. Ею занимаются лингвисты и философы, физики и врачи, специалисты в области связи и социологи. Она не монолитна, потому что в ней произошло разделение на многочисленные ветви. Специализация развивается в ней, как и в других науках. И как каждая наука, кибернетика создает собственную мифологию. Мифология науки – это звучит как contradicto in adiecto [90]90
  Противоречие в определяющем выражении (лат.).


[Закрыть] .И все же любая, даже самая точная наука развивается не только благодаря новым теориям и фактам, но и благодаря домыслам и надеждам ученых. Развитие оправдывает лишь часть из них. Остальные оказываются иллюзией и потому подобны мифу. Свой миф классическая механика воплотила в демоне Лапласа – в демоне, который по мгновенным скоростям и положениям всех атомов Вселенной мог предсказать все ее будущее. Конечно, наука постепенно очищается от этих ложных верований, сопутствующих ее становлению; однако мы лишь ex post [91]91
  Потом (лат.).


[Закрыть], в исторической перспективе, начинаем понимать, что в ней было иллюзорной проблемой, а что – меткой догадкой. По мере таких перемен невозможное становится возможным и, что еще существеннее, изменяются сами преследуемые цели. Если бы вопрос о превращении ртути в золото – об этой мечте алхимиков – задали ученому XIX века, то он категорически отверг бы такую возможность. Ученый XX века знает, что атомы ртути можно превратить в атомы золота. Следует ли отсюда, что правы были алхимики, а не ученые? Конечно, нет! Ведь то, что было главной целью – пылающее в ретортах золото, – для атомной физики утратило всякое значение. Атомная энергия не только бесконечно ценнее золота, она прежде всего нечто новое, не похожее на самые смелые грезы алхимиков, и к ее открытию привел метод, которому следовали ученые, а не магические приемы их соперников алхимиков.

Почему я говорю об этом? В кибернетике и поныне блуждает средневековый миф о гомункулусе, искусственно созданном разумном существе. Спор о возможности создания искусственного мозга, проявляющего черты человеческой психики, не раз втягивал в свою орбиту философов и кибернетиков. Однако такой спор бесплоден.

Можно ли превратить ртуть в золото? – спрашиваем мы физика-ядерщика. Да, отвечает он. Но это вовсе не наше дело. Такое превращение для нас несущественно и не влияет на направление наших работ.

Можно ли будет когда-нибудь построить электронный мозг – неотличимую копию живого мозга? – Безусловно, да. Но только никто этого не будет делать.

Итак, следует отличать возможное от реальных целей. Однако возможное всегда имело в науке своих «отрицательных пророков». Меня не раз удивляло их количество, а также та запальчивость, с которой они доказывали, что невозможно построить те или иные летающие, атомные или мыслящие машины. Самое разумное, что можно сделать, – это воздержаться от споров с прорицателями. И не потому, что следует верить, будто все возможно, а потому, что люди, втянутые в бесплодные дискуссии, могут легко потерять из виду реальные проблемы. «Антигомункулисты» убеждены, что, отрицая возможность создания синтетической психики, они защищают превосходство человека над его созданиями, которым, по их мнению, никогда не удастся превзойти человеческий гений. Такая защита имела бы смысл, если бы кто-то действительно хотел заменить человека машиной, причем не в конкретных видах работ, а в масштабах всей цивилизации. Но об этом никто и не помышляет. Речь идет не о том, чтобы сконструировать синтетическое человечество, а лишь о том, чтобы открыть новую главу Технологии, главу о системах сколь угодно большой степени сложности. Поскольку сам человек, его тело и мозг, принадлежат к классу именно таких систем, новая Технология будет означать полную власть человека над самим собой, над собственным организмом, что в свою очередь сделает возможной реализацию таких извечных мечтаний человека, как жажда бессмертия, и, может быть, даже позволит обращать процессы, считающиеся ныне необратимыми (как, например, биологические процессы, в частности старение). Иное дело, что эти цели могут оказаться фиктивными, подобно золоту алхимиков. Если даже человек все может осуществить, то наверняка не любым способом. Он достигнет в конце концов любой цели, если только того пожелает, но, быть может, еще раньше поймет, что цена, которую придется за это заплатить, делает достижение данной цели абсурдным.

Ибо если конечный пункт намечаем себе мы, то путь к нему определяет Природа. Мы можем летать – но не посредством раскинутых рук. Можем ходить по воде – но не так, как это изображает Библия. Может быть, мы обретем долговечность, практически равную бессмертию, – но для этого нужно будет отказаться от той телесной формы, которую дала нам природа. Не исключено, что, используя анабиоз, мы сможем свободно путешествовать миллионы лет, – но люди, пробужденные от ледяного сна, окажутся в чуждом им мире, ибо за время их «обратимой смерти» исчезнет тот мир и та культура, которые их сформировали. Таким образом, исполняя наши желания, материальный мир вместе с тем принуждает нас поступать так, что достижение цели становится столь же похожим на победу, сколь и на поражение.

Наша власть над окружающей средой основана на сочетании естественных процессов друг с другом; и вот из шахт поднимается уголь, огромные грузы переносятся на большие расстояния, а сверкающие лимузины покидают ленту конвейера – и все это потому, что Природа повторяет себя в нескольких простых законах, познанных физикой, термодинамикой или химией.

Сложные системы, такие, как мозг или общество, нельзя описать на языке этих простых законов. В этом смысле теория относительности с ее механикой еще проста, но уже не проста «механика» мыслительных процессов. Кибернетика концентрирует свое внимание на этих процессах потому, что стремится понять сложное и овладеть им, а мозг есть наиболее сложное из известных нам материальных устройств. Вероятно, а точнее, наверняка возможны еще более сложные системы. Мы познаем эти системы, когда научимся их конструировать. Таким образом, кибернетика – это прежде всего наука о достижении целей, которых простым путем достичь невозможно.

Мы видели, говорим мы инженеру, схему устройства, состоящего из восьми миллиардов элементов. Это устройство обладает собственной энергоцентралью, приспособлениями для передвижения, иерархией регуляторов и, наконец, универсальным распределителем, который состоит из 15 миллиардов элементов и управляет всей системой. Устройство способно выполнять столько функций, что их не перечислишь за всю жизнь. И вся эта схема, которая не только дала возможность создать это устройство, но и сама его создала,умещалась в объеме, равном восьми тысячным кубического миллиметра.

Инженер отвечает, что это невозможно. Но он ошибается, потому что мы имели в виду головку человеческого сперматозоида, которая, как известно, содержит всю информацию, потребную для изготовления экземпляра вида Homo Sapiens.

Кибернетика занимается такими «схемами» не из «гомункулистического» честолюбия, а потому, что готовится к решению конструктивных задач подобного ранга. Она еще очень и очень далека от шансов создать такую конструкцию. Но она существует всего 18 лет. Эволюции потребовалось для своих решений два с лишком миллиарда лет. Допустим, что кибернетике потребуется еще 100 или 1000 лет, чтобы догнать эволюцию, все равно разница во временных масштабах и так говорит в нашу пользу.

Что же касается «гомункулистов» и «антигомункулистов», то споры их напоминают яростные дискуссии эпигенетиков и преформистов в биологии. Они знаменуют детский или даже младенческий возраст новой науки, и от них в ее дальнейшем развитии не останется и следа. Искусственных людей не будет, потому что это не нужно. Не будет и «бунта» мыслящих машин против человека. В основе этой выдумки лежит иной древний миф – миф о Сатане. Но ни один Усилитель Интеллекта не станет Электронным Антихристом. Все эти мифы имеют общий антропоморфный «знаменатель», к которому якобы должны сводиться мыслительные действия машин. Подлинные залежи недоразумений!

Конечно, быть может, автоматы, превысив определенный «порог сложности», станут проявлять признаки своеобразной «индивидуальности». Если это произойдет, индивидуальность их будет столь же мало походить на человеческую, сколь человеческое тело – на атомный реактор. Мы должны быть готовы к неожиданностям, заботам и опасностям, которых не можем сегодня представить себе, – но не к возврату демонов и химер средневековья в технической личине. Я сказал, что мы не можем представить себе эти будущие заботы. Большинство из них – наверняка. Но некоторые мы все же попробуем показать – в нескольких умозрительных экспериментах.

Усилитель интеллекта

ОБЩАЯ тенденция математизации наук (в том числе и таких, которые до сих пор по традиции не использовали математических средств), охватив биологию, психологию и медицину, постепенно проникает даже в гуманитарные области – правда, пока еще скорее в виде отдельных «партизанских налетов», это можно заметить, например, в области языкознания (теоретическая лингвистика) или теории литературы (применение теории информации к исследованию литературных, в частности поэтических, текстов). Но мы тут же сталкиваемся с первыми признаками странного и довольно неожиданного явления, обнаруживается недостаточность математических средств (любых!) для достижения некоторых целей, определившихся сравнительно недавно и относящихся к самым передовым областям современных исследований. Речь идет о задачах, которые ставятся перед самоорганизующимися гомеостатическими системами. Назовем (скорее для иллюстрации) несколько таких фундаментальных проблем, в которых специалисты впервые столкнулись с этой немощью математики. Речь идет о построении усилителя интеллекта, о создании самопрограммирующегося автомата для управления производством и, наконец, о наиболее широкой проблеме – о построении универсального гомеостата, сложность которого была бы сравнима с нашей собственной, человеческой.

Усилитель интеллекта (впервые выдвинутый как реальная конструкторская задача, по-видимому, в работах Эшби [92]92
  Р. Эшби «Введение в кибернетику». – М: ИЛ, 1959.


[Закрыть]) должен представлять собой в сфере умственной деятельности точный аналог того усилителя физической силы, каким является любая управляемая человеком машина. Усилителями силы являются автомобиль, экскаватор, подъемный кран, металлообрабатывающий станок и вообще любое устройство, в котором человек «подключен» к системе управления в качестве регулятора, а не источника энергии.

Уровень индивидуальных умственных способностей отклоняется от среднего значения не больше, чем отклоняется уровень физических способностей, хотя на первый взгляд кажется, что это не так. Средний показатель интеллектуальности (измеренный наиболее употребительными психологическими тестами) составляет около 100–110; у людей с очень сильным интеллектом он достигает 140–150, а верхняя, чрезвычайно редко достигаемая граница лежит вблизи 180–190 [93]93
  Для США средний показатель IQ лежит в районе 90–100. Общепринятой является градация 90–110 как среднего и 130 как высокого интеллекта. Показатели больше 130 на «стандартных», наиболее употребительных, тестах не определяются. (Прим. ред.)


[Закрыть]. Между тем усилитель интеллекта приблизительно с таким же коэффициентом, какой имеет усилитель физической силы рабочего на производстве (обслуживаемая им машина), дал бы показатель интеллектуальности порядка 10 000 [94]94
  В целом показатель интеллекта определяет уровень интеллектуального развития человека, по отношению к некоторому «среднему». По-видимому, автор хочет сказать, что человек с такой машиной будет способен решить столько же проблем, сколько и сотня обычных людей, не вооруженных подобным устройством. (Прим. ред.)


[Закрыть]. Возможность создания такого усилителя не менее реальна, чем возможность создания машины в сто раз более сильной, чем человек. Правда, в настоящее время шансы на создание такого усилителя не очень велики, ибо первоочередной является постройка упомянутого управляющего автомата для промышленности («гомеостатического мозга автоматического завода»). Однако я останавливаюсь на примере усилителя интеллекта потому, что на нем нагляднее видна та фундаментальная трудность, с которой сталкивается в подобных задачах конструктор. Дело в том, что он должен создать устройство, которое было бы «умнее его самого» [95]95
  Заметим, что «усилитель интеллекта» не должен быть умным. Он вообще может быть неразумным (к примеру, бумага с ручкой уже являются усилителем интеллекта – если сравнить результаты тестов одного человека с ними и без, то усиление составит от 10% до 100%). Также и усилитель мускульной силы не должен быть сам сильным, как, например, устройства, использующие принцип рычага. (Прим. ред.)


[Закрыть]. Ясно, что если бы он хотел действовать согласно методу, который стал уже традиционным в прикладной кибернетике, то есть если бы он стал разрабатывать программу работы своей машины, то поставленная задача не была бы решена: наличие программы ставит предел «интеллектуальности», достижимой для создаваемой машины [96]96
  Если мы понимаем под уровнем интеллекта величину, которая может быть измерена при помощи того или иного интеллектуального теста, то данное утверждение ошибочно. Тесты могут быть решены перебором нескольких десятков алгоритмов, которые нетрудно представить в программном коде и реализовать на компьютере (даже на тех машинах, которые существовали в 1963 году). Сотрудничая с таким «процессором алгоритмов», можно выиграть очень много времени (за счет ускорения перебора, вычислений и технических преобразований), что приведет к очень высоким результатам тестирования. Уже в начале 1980-х годов программы (даже без симбиоза с эвристически мыслящим человеком) начали показывать очень высокие результаты в классических тестах на интеллект. (Прим. ред.)


[Закрыть]. На первый взгляд – но только на первый – задача представляется неразрешимым парадоксом. Действительно, задача оказывается неразрешимой (по меньшей мере, согласно нынешним критериям), если постулировать создание теории – теории, предшествующей постройке усилителя и по необходимости математической; это похоже на предложение поднять себя за волосы (да притом со стотонным грузом, привязанным к ногам). Но существует (пока лишь гипотетическая) возможность совершенно иного подхода к проблеме. Детальные сведения о внутреннем устройстве усилителя интеллекта нам недоступны. Но, быть может, они и не нужны? Нельзя ли смотреть на этот усилитель как на «черный ящик», то есть как на устройство, о внутреннем строении и последовательных состояниях которого у нас нет ни малейшего понятия, как на устройство, в котором нас интересуют только конечные результаты его действия? Подобно всякому уважающему себя кибернетическому устройству, усилитель интеллекта обладает «входами» и «выходами»; между ними простирается область нашего неведения. Но чему это повредит, коль скоро данное устройство и в самом деле ведет себя так, как интеллект с показателем интеллектуальности, равным 10 000?!

Поскольку метод этот нов и никогда еще не применялся, он похож скорее на шуточку из комедии абсурда, чем на производственный рецепт. Но несколько примеров, быть может, оправдают этот метод. Пусть, скажем, в маленький аквариум с колонией инфузорий всыпали немного железного порошка (такой опыт производился). Инфузории вместе с пищей поглощают небольшое количество этого железа. Создадим теперь вне аквариума магнитное поле; оно будет определенным образом влиять на движение инфузорий. Сигналами на «входе» этого «гомеостата» будут служить изменения напряженности поля; состояние «выхода» определяется поведением самих инфузорий. Мы пока не представляем, для чего можно было бы приспособить этот «инфузорно-магнитный» гомеостат, и в данном виде он не имеет ничего общего с гипотетическим усилителем интеллекта. Но суть дела не в этом. Хотя сложность устройства отдельной инфузории нам совершенно неизвестна, и мы не можем даже нарисовать ее принципиальную схему (как рисуют схемы машин), все же из этих неизвестных нам в подробностях элементов нам удалось создать объемлющее их целое, подчиняющееся законам поведения кибернетических систем с их «входом» и «выходом» сигналов [97]97
  Поскольку «выход» у этой системы совершенно непредсказуем, то можно лишь удивляться, зачем было вообще устраивать эксперимент с железом? Исследователь мог сказать «ап!» и рассматривать поведение инфузорий как «выход». Для наших целей такое устройство ничуть не хуже. Оба они совершенно бесполезны. (Прим. ред.)


[Закрыть]. Вместо инфузорий можно было взять определенные типы коллоидов или пропускать электрический ток через многокомпонентные растворы. При этом определенные вещества могли бы осаждаться, меняя проводимость раствора в целом. Это в свою очередь могло бы привести к появлению эффекта «положительной обратной связи», то есть к усилению сигнала. Должно признать, что подобные эксперименты пока не привели к перелому. Многие кибернетики неодобрительно смотрят на сей еретический отход от традиционного оперирования элементами электронных схем, на эти поиски нового строительного материала, приближающегося в известном смысле к материалу, из которого построены живые системы (это сближение, кстати сказать, отнюдь не случайно!) [98]98
  Г. Паск «Модель эволюции» в сб. «Принципы самоорганизации».– М., «Мир», 1966.


[Закрыть].

Независимо от исхода подобных поисков мы теперь несколько лучше понимаем, как можно из «непонятных» элементов построить систему, которая функционировала бы так, как нам нужно. Возникает принципиальное изменение методики в самой основе конструкторской деятельности. Инженерное искусство ведет себя сегодня примерно так же, как человек, который даже и не пытается перепрыгнуть через канаву, пока предварительно теоретически не определит все существенные параметры и связи между ними: силу гравитации в данном месте, силу собственных мышц, кинематику движений своего тела, характеристики процессов управления, происходящих в его мозжечке, и т. д. Технолог-еретик из кибернетической школы, напротив, намеревается попросту перепрыгнуть через канаву и не без основания полагает, что если ему это удастся, то тем самым проблема будет решена. При этом он опирается на следующий факт. Любое физическое действие, например упомянутый прыжок, требует подготовительной и реализующей работы мозга, которая является не чем иным, как сложной, неимоверно запутанной последовательностью математических процессов (ибо к ним вообще сводится любая работа мозговой сети нейронов). Но этот же самый прыгун, хотя у него в голове и содержится вся эта «мозговая математика» прыжка, совершенно не в состоянии записать на бумаге ее теоретико-математический эквивалент, то есть соответствующее количество строгих формул и преобразований. Это происходит, по-видимому, по той причине, что «биоматематика», которую практикуют все живые организмы до инфузорий включительно, может быть вербализована, то есть переложена на язык математики в классическом (школьном или университетском) понимании этого слова, только путем неоднократного перевода системы импульсов с одного языка на другой.

Имеет место перевод с бессловесного и «автоматического» языка биохимических процессов и нейронных возбуждений на язык символов, формализацией и конструированием которого занимаются определенные участки мозга, отличные от тех, которые реализуют «врожденную математику» и отвечают за нее. И решение нашей проблемы состоит именно в том, чтобы усилитель интеллекта не занимался формализацией, конструированием, вербализацией, а действовал бы так же автоматически и «наивно» и в то же время так же искусно и безошибочно, как и нейронные структуры прыгуна, – чтобы этот усилитель не занимался ничем, кроме преобразования сигналов, приходящих на «вход» с целью получения готовых результатов на «выходе». Ни он, этот усилитель, ни его конструктор – никто вообще – совершенно не будут знать, как усилитель это делает, зато мы получим то единственное, чего добиваемся: нужные результаты.

Черный ящик

В ДРЕВНИЕ времена каждый человек знал и назначение и устройство своих орудий: молотка, лука, стрелы [99]99
  Далеко не всегда. Секрет изготовления (то есть понимания устройства) качественного оружия (и вообще качественных орудий труда) был известен лишь немногим мастерам. (Прим. ред.)


[Закрыть]. Прогрессирующее разделение труда уменьшало это индивидуальное знание, и в современном промышленном обществе существует отчетливая граница между теми, кто обслуживает устройства (рабочие, техники) или пользуется ими (человек в лифте, у телевизора, за рулем автомашины), и теми, кто знает их конструкцию. Ни один из ныне живущих не знает устройства всех орудий, которыми располагает цивилизация. Тем не менее некто, знающий все, существует – это общество. Знание, частичное у отдельных людей, становится полным, если учесть всех членов данного общества.

Однако процесс отчуждения, процесс изымания сведений об орудиях из общественного сознания развивается. Кибернетика продолжает этот процесс, поднимая его на более высокую ступень. Ибо в принципе возможно создать такие кибернетические устройства, структуру которых не будет знать уже никто. Кибернетическое устройство превращается в «черный ящик» (термин, который охотно употребляют специалисты). «Черный ящик», например, может быть регулятором, подключенным к определенному процессу (к процессу производства товаров или к процессу их экономического круговорота, к процессам управления транспортом, лечением болезни и т. п.). Необходимо лишь, чтобы определенным состояниям «входа» отвечали вполне определенные состояния «выхода» – и ничего более. Создаваемые пока что «черные ящики» настолько просты, что инженер-кибернетик знает характер связи между величинами на их «входах» и «выходах». Эта связь выражается какой-нибудь математической функцией. Возможна, однако, и такая ситуация, когда даже конструктор не будет знать математического выражения этой функции. Его задачей будет создать «черный ящик», выполняющий определенные регулирующие действия. Однако ни конструктор, ни кто-либо иной не будет знать, как «черный ящик» выполняет эти действия. Математический вид функции, выражающей зависимость состояний «выходов» от состояний «входов», не будет известен никому, причем не потому, что узнать это невозможно, а потому, что знать это не нужно [100]100
  Похоже, здесь автор допустил логическую неточность. Если мы хотим использовать «черный ящик» для какой-то цели, нам нужно иметь представление о зависимость «выхода» от «входа». А вот то, как этот «черный ящик» получит свой «выход» (то есть как алгоритм реализован на практике), нам действительно неинтересно. (Прим. ред.)


[Закрыть].

Неплохим введением в проблематику «черного ящика» может служить рассказ о сороконожке, которую спросили, как это она помнит, какую ногу ей нужно поднять после двадцать седьмой. Сороконожка, как известно, надолго задумалась над этим и, не сумев найти ответ, умерла с голоду, потому что больше уже не могла сдвинуться с места. Эта сороконожка является в действительности «черным ящиком», который выполняет определенные действия, хотя и «не имеет понятия», как он их выполняет. Принцип действия «черного ящика» является необычайно общим и, как правило, очень простым, выраженным фразами вроде «сороконожки ходят» или «кошки ловят мышей». «Черный ящик» обладает определенной «внутренней программой» действия, которая определяет все отдельные акты его поведения.

Современный технолог начинает конструкторскую работу с составления соответствующих планов и расчетов. Мост, локомотив, дом, реактивный истребитель или ракета создаются, таким образом, как бы дважды: сначала теоретически, на бумаге, а потом в действительности – когда символический язык чертежей и планов или алгоритм поведения «переводится» в последовательность материальных действий.

«Черный ящик» нельзя запрограммировать с помощью алгоритма. Алгоритм – это раз навсегда составленная программа действий, в которой все заранее предусмотрено. Выражаясь популярно, алгоритм – это точное, воспроизводимое, поддающееся исполнению предписание, определяющее – шаг за шагом, – каким путем надлежит решать данную задачу. Алгоритмом является любое формализованное доказательство математической теоремы, равно как и программа цифровой машины, переводящей с одного языка на другой. Понятие алгоритма возникло в математике, и применительно к инженерному делу я употребляю его несколько вопреки обыкновению. Алгоритм математика-теоретика никогда не может «подвести»: тот, кто однажды разработал алгоритм математического доказательства, может быть уверен, что это доказательство никогда не «подведет». Прикладной алгоритм, которым пользуется инженер, может и подвести, потому что в нем «все предусмотрено заранее» только внешне. Мосты рассчитывают на прочность по определенным алгоритмам, что, однако, не гарантирует их абсолютной сохранности. Мост может обрушиться, если на него действуют силы, превосходящие те, которые предусмотрел конструктор. Во всяком случае, имея алгоритм некоторого процесса, мы можем исследовать – в заданных границах – все последовательные фазы, все этапы этого процесса.

Так вот, применительно к очень сложным системам, таким, как общество, мозг или еще не существующие «очень большие черные ящики», подобное исследование невозможно [101]101
  С современных представлений это неверно. Автор понимает алгоритм в узком смысле, как конечный автомат, то есть устройство, которое локально (на каждом этапе) выполняет заданную команду перехода в новое состояние. Однако такое понимание ущербно, ибо на этом пути, скажем, невозможно построить алгоритм получения псевдослучайных чисел. На самом деле, из-за того что у алгоритма всегда присутствует «внешняя среда», появляется возможность строить псевдостохастические алгоритмы. (Прим. ред.)


[Закрыть]. Такого рода системы не имеют алгоритмов. Как это нужно понимать? Ведь любая система, а значит, и мозг, и общество всегда ведут себя каким-то определенным образом. Способ поведения всегда можно изобразить с помощью символов. Это так, вне всякого сомнения. Только в данном случае это ничего не дает, поскольку алгоритм должен быть воспроизводимым. Он должен позволять предвидеть будущие состояния, между тем как одно и то же общество, поставленное дважды в одну и ту же ситуацию, совсем не обязано вести себя одинаково. И именно так обстоит дело со всеми системами очень высокой сложности.

Как можно строить такие «черные ящики»? Мы знаем, что это в принципе возможно. Возможно построить систему произвольной степени сложности без всяких предварительных планов, расчетов, без поиска алгоритмов. Мы это знаем, потому что сами являемся такими «черными ящиками». Наше тело подвластно нам, мы можем отдавать ему определенные приказы, хотя и не знаем его внутреннего строения (точнее говоря, не обязаны знать; знание такого рода не является необходимым). Мы возвращаемся к ситуации прыгуна, который умеет прыгать, хотя и не знает, как он это делает, то есть не располагает сведениями о динамике нервно-мышечных импульсов, результатом которых является прыжок. Итак, великолепным примером устройства, которым можно пользоваться, не располагая его алгоритмом, является каждый человек. Одним из «самых близких нам» во всем Космосе устройств подобного рода является наш собственный мозг: он находится у нас в голове. Тем не менее по сей день неизвестно в деталях, как он работает. Изучение его механизмов с помощью самонаблюдения – метод в высшей степени ненадежный (как показывает история психологии), сбивающий на самые неправдоподобные гипотезы. Мозг построен так, что, обслуживая наши действия, сам остается «в тени». Конечно, дело тут не в коварстве нашего конструктора, Природы, это просто результат естественного отбора: именно он наделил нас способностью мыслить, потому что она была эволюционно полезна. Поэтому мы мыслим, хотя и не знаем, как это происходит, – ведь наделять нас подобными сведениями не входило в «расчеты» эволюции. Она ничего не скрывала; она лишь устранила из поля своей деятельности всякое знание – с ее «точки зрения», лишнее. Ну а если оно не лишнее с нашей точки зрения – что ж, нам придется добывать его самим.

Таким образом, предлагаемое кибернетикой необычное решение, согласно которому машина полностью исключена из сферы человеческого знания, в «популярной» форме, и притом весьма давно, было представлено Природой.

Пусть так, скажет кто-нибудь, но человеку его «черный ящик», его тело и мозг, стремящийся к оптимальному решению жизненных проблем, дала Природа, создав их в результате проб и ошибок, продолжавшихся миллиарды лет. Должны ли мы пытаться скопировать плоды ее творчества? И если да, то каким образом? Нельзя же всерьез предлагать повторение – на сей раз техническое – эволюции! Такая «кибернетическая эволюция» поглотила бы если не миллиарды, то миллионы, да пусть даже сотни тысяч лет... И как вообще начать это дело? Атаковать ли эту задачу с биологической стороны или же с небиологической?

У нас нет ответа. По-видимому, нужно будет испытывать всевозможные пути, особенно те, которые по различным причинам были для эволюции закрыты. Однако в наши планы не входит фантазировать на тему о том, какие «черные ящики» мыслимы в процессе технологической эволюции. Известно, что только очень сложный регулятор может справиться с очень сложной системой. Поэтому нужно искать именно такие регуляторы – в биохимии, в живых клетках, в молекулярной структуре твердого тела, везде, где это возможно. Мы знаем, следовательно, чего мы хотим и что ищем. Мы знаем также от нашего репетитора Природы, что задачу можно решить. Таким образом, мы знаем столько, что уже одно это означает половину успеха.