Текст книги "Молох (сборник)"

Автор книги: Станислав Лем

Жанр:

Публицистика

сообщить о нарушении

Текущая страница: 16 (всего у книги 63 страниц)

Я рассказываю о тех моих давних трудах, поскольку они действительно могли послужить поводом для того, чтобы пригласить меня для участия в названной сессии «Академии Третьего Тысячелетия», но вместе с тем я должен дать здесь дополнительные пояснения. Именно сорок лет назад, когда я писал вышеназванные книги, сама кибернетика вместе с теорией информации существовала еще только в пеленках, а такими далеко идущими в будущее судебными процессами и этическими предостережениями даже и не пахло: они представляли для читателей область фантазии, которая, подобно сну, на соответствие с признанными моральными нормами и законами права детально исследована быть не может. Ни за сны, ни за мои (кратко здесь приведенные) гипотезы никто не может подвергаться преследованиям в уголовном порядке. Однако ситуация после почти полувека очень серьезно изменилась в области биологии, особенно в биотехнологии «в фазе вступительных исследований ДЛЯ наступления» ТАКЖЕ и на человеческий организм. Дерзкие и необычные мечты начинают создавать до сих пор нетронутый человеком плацдарм для реальных ДЕЙСТВИЙ, а не только позволяют думать in abstracto. [74]74
отвлеченно, в абстракции (лат.).

[Закрыть]Из-за этого ситуацию, описанную в моих старых текстах, необходимо подвергнуть иному обсуждению и возможным корректурам. Этому я и намерен уделить немного внимания.

Вступление1

После опубликования обе вышеназванные работы были проигнорированы, хотя я и не был одиноким в том смысле, что разделял познавательный оптимизм, инвестированный в кибернетику, когда computer science [75]75
компьютерная наука (англ.).

[Закрыть]находилась в пеленках, а фундаментальное разделение между hardwareи softwareедва обозначилось. Надежды скорого открытия «прямого пути» к искусственному интеллекту не сбылись. Различия между эволюцией мозга живых существ и «электронного мозга» не только бесспорны, но их пути явно расходятся. Однако не сойдутся ли они снова – и так можно воспринимать название мюнхенской конференции.

Дело в том, что мы являемся последними реликтами Природы во все «более искусственном» окружении и создаваемые нами технические инструменты оборачиваются не только против нас как оружие, но являются и помощниками: уже существуют, например, направления математики, которые не могли бы возникнуть без компьютерной поддержки. Однако применение введенных в цивилизацию компьютеров и их сетей вместе с проектируемой «информационной автострадой» (о которой в другом месте я писал со значительным скептицизмом) и, кроме того, экспоненциальное разрастание cyberspace, о котором как о «фантомологии» и «фантоматике» я имел возможность писать в «Сумме технологии», – все это еще НЕ является настоящим предвестием вторжения мертвых информационных процессов в наш мозг.

Замечу, что я вижу два разных пути проникновения плодов технологии в область мозга. Они могут, как два однонаправленных течения, соединиться в будущем, однако пока реально возникнет тот, который первым определит следующее:

I

Путь химических, resp. [76]76
то есть (лат.).

[Закрыть]биохимических действий. Зачатки таких субстанций являются очень «широкоадресными», то есть они активируют и/или изменяют работу как тех центров мозга, управлять которыми мы ХОТИМ, так и тех, которые подвергаются воздействию благодаря возникающим побочным эффектам. На этом основана их «широкоадресность». Уже начинается «сужение» или фокусировка адресов, и эту уже развивающуюся область мне следует здесь пропустить, поскольку я должен говорить о «чипах» для мозга, а, например, не об аминах и гормонах, точно отмеряемых (некоторые из них могут иметь способность ПРЕОБРАЗОВАНИЯ личности и характера человека и тем самым напоминают элементы моей психимической «ПСИВИЛИЗАЦИИ» из фантастического «Футурологического конгресса»). Химический путь доминирует настолько, что должен быть обратим в эффектах: молекулярные связи вообще имеют не слишком долгий период активного действия и подвергаются в организме метаболическому распаду. (Однако иногда они могут, как ЛСД, вызывать психозы.)

II

Привлечь нас должен все же такой путь связи: «мозг – нехимический артефакт» в виде процессора или преобразователя информации, встроенного в нейронную оболочку мозга. (Речь может идти о биочипах, о которых уже пишут, хотя их и нет.) Химические соединения действуют, пожалуй, аналогово, а чипы должны быть скорее цифровыми ( digital). Уже фон Нейман замечал, что следует отбросить чисто комбинаторную информационную методику, логическую, рекуррентную, алгоритмически неотшлифованную, абстрактное обобщение которой есть общая теория конечных автоматов ( finite automata), ее же «первоисточником», «исходной клеткой», ее зародышем становится простейшая машина Тьюринга. Уже тогда предложенный (например, МакКеем) путь нейронных сетей – о нем я ТАКЖЕ писал в «Диалогах», – казалось, вселял серьезнейшие надежды, не упирающиеся на практике в логические глубины (итерационных операций, даже ускорения их выполнения вплоть до границ, задаваемых законами физики – квантовой – и скоростью света). К сожалению, этот путь очень «неудобен» математически и тем самым «ухабист» для будущих программистов (и конструкторов hardware).

Счастьем в несчастье – вышеупомянутом – кажется то, что мы пока не имеем каких-либо готовых к внедрению мозговых «чипов», тем самым находимся примерно в ситуации Леонардо да Винчи, который нам в своих трудах оставил рисунки «геликоптеров» с вертикально «ввинчивающимися» в атмосферу винтами, но от той идеи до реального вертолета дорога оказалась очень долгой! Правда, ЧТО-ТО из идеи Леонардо осталось еще для инструкторов и монтажников… но даже в ТАКОМ в отношении к BRAIN CHIPSмы не можем быть сегодня уверены.

И в конце вступления могу сказать, что на моем столе лежит популярный том Рона Уайта 1993 года « How Computer Works», [77]77
«Как работает компьютер» (англ.).

[Закрыть]и все дело в том, что нам хорошо известно, КАК работает компьютер, ибо мы сами его создали, поэтому при соответствующей подготовке мы сумеем его собрать и разобрать, и, кроме того, найдя другой компьютер или «посредника» совместимости, сумеем часть или даже всю информацию hardwareи softwareзаменить без ущерба – возможно, даже вместе с вирусами начального компьютера – на другой экземпляр. В этом смысле компьютеры «бессмертны», «копируемы», НЕ «индивидуальны» и НЕ «персонифицированы», и если кто-нибудь хочет, пусть заявляет, что компьютеры «все знают» (то есть содержат под рукой большие объемы используемой информации), хотя «ничего не понимают» из того, что имеют (хотя есть программы, начиная еще от «Элизы» Джозефа Вейзенбаума, неплохо изображающие собеседника-человека). Таким образом, мы уже знаем, что в принципе тест Тьюринга компьютером с достаточной производительностью может быть «преодолен», а человечек-собеседник обманут (когда посчитает, что разговаривает с человеком). При этом существует ДВУХДИАПАЗОННЫЙ релятивизм: все зависит как от производительности компьютера-программы, так и от интеллекта человека-собеседника. И как, в конце концов, в состязании шахматных программ brute force, [78]78
грубой силой (англ.).

[Закрыть]«ничего не понимая», победит и Каспарова, так и тест Тьюринга будет преодолен. Из этого НИЧЕГО ни хорошего, ни плохого для внедрения чипов в мозг – к счастью? – не следует.

Вторжение в мозг1

С одной стороны, мы уже знаем о функциональной структуре нашего мозга очень много, но с другой – очень мало. Действительно, достаточно знаний имеет тот, кто, разобрав компьютер, опираясь на знание теории информации и информационной инженерии, сможет такой же или функционально похожий компьютер построить или по крайней мере сконструировать модель, способную функционировать. Зато не может быть и нет речи о том, чтобы группа сильнейших нейроэкспертов смогла научить неких конструкторов создавать модель мозга, например, таким образом: одна подгруппа сконструирует из проводниковых элементов ствол мозга, другая – гипоталамус ( hypothalamus), следующая – thalamus(таламус), затем – лимфатическую систему, пока в конце две параллельные группы построят два способных к коммуникации (через pseudo-corpus callosum, большую спайку) на уровне высших агрегатов полушария мозга, с их многослойным серым веществом (старой и новой корой, paleo– et neocortex), а также огромной массой коротких и длинных межнейронных соединений.

Естественно, если бы такой невыполнимый сегодня проект удалось реализовать, неизбежно возникла бы необходимость подключения к этой модели тела, поскольку без постоянного притока и оттока импульсов – к мозгу от телесного sensorium, а также от тела к мозгу – мы получили бы калеку. Но сегодня это утопия: с такой точки зрения о мозге мы знаем немного. Недостаточно того, что благодаря множеству усилий мы узнали его основные функции, локализованные на разных «этажах». Это, впрочем, является результатом сборного труда эволюции, которая может приспосабливать и подгонять в данном филогенетическом течении наполовину возникающие структуры к наполовину оставшимся от минувших эпох. Однако этого знания для информационной инженерии вторжения «цереброматиков» все еще недостаточно. Локальный разброс на разных «этажах» головного мозга представляет, не только с моей точки зрения, результат той типично эволюционной работы, проделанной за миллионы лет, которая движется сначала мелкими шагами, а когда разгонится в экспоненциальном броске антропогенеза, увенчанного сознанием, то головной мозг, а скорее его различные нижние слои создают многоконфликтную систему, поддерживаемую в сложном балансе, эквивалентную такой (данной ей межцентральными антагонизмами) неустойчивости, что никакой другой вид, кроме человека, не подвергается патологическим отклонениям работы нервной системы в такой степени!

Итак, напрашивалось бы по этому поводу внедрение уравновешенных вмешательств, но даже если мы оставим возражения этического порядка, риск ожидаемых результатов должен оказаться огромным. Мы имеем большое количество взаимно противоречивых гипотез о том, как действует мозг, что такое сознание, чему служит сон, почему естественная селекция на разумность, как нам кажется, так слабо действует. (Один великий польский артист говорил, что интеллектуально крестьянин находится ближе к корове, чем к нему. Это злое преувеличение, но проблема разброса распределения интеллекта остается, как и все проблемы, с которыми сталкиваются психиатры, психологи и неврологи; и это профессиональное разделение ТАКЖЕ ОТРАЖАЕТ наше неведение в вопросах мозга.)

Я знаю, что говорю то, что каждый специалист, начиная от сельского врача, посчитает азбукой из начальной школы, но стоит осознать, чего может добиться гениальный бушмен, когда возьмется ИЛИ за ремонт поврежденного автомобиля, ИЛИ за «совершенствование» абсолютно исправного. Как я отмечал, этическими аспектами дилеммы я заниматься не хочу, оставим это для юристов. Речь идет о том, чтобы ответить на несколько простых вопросов, которые перечислю ниже:

1. Для ЧЕГО мы должны надрезать мозг (ведь должны возникнуть « Schnittstellen» [79]79
«Места разреза» (нем.).

[Закрыть]и вдобавок « unsaubere», «нечистые»), при этом я надеюсь, что вместо скальпеля и электрода не будет применен кухонный скребок для картошки?

2. КАК и ГДЕ мы должны осуществить это вторжение в сферу живого мозга? О том, КТО уполномочит к этому операторов, я не спрашиваю, никакие вопросы на рассмотрение не выношу; лоботомию практиковали уже давно, не менее жестоким было и есть выполнение эпилептикам (джексоновским, но не только) каллотомии, то есть рассечение большой спайки ( Corpus callosum), объединяющей оба полушария.

3. НА ЧТО мы можем надеяться (какую надежду мы сумеем питать) при возможном подключении неизвестно КАК сконструированных сhipsк мозгу?

4. Может ли возникать нечто наподобие ИСПРАВЛЕНИЯ, то есть замены «машиной» нарушенных функций (синдромов) в случае опухолей, ран, увечий, недомоганий, наследственных болезней Уилсона или Дауна, кретинизма и т. д.?

5. Кажется ли возможным восстановление нейронной проводимости в области спинного мозга ( post quadriplegiam, [80]80
после паралича обеих рук и обеих ног (лат.).

[Закрыть]предположим)?

6. Возможно ли – хотя ЗДЕСЬ это уже не относится к делу – было бы какое-нибудь формирование РЕГЕНЕРАЦИОННОЙ потенции? (Я думаю, скажу сразу, что если ДА, то или путем генных технологий, или – в отношении рожденного организма и даже зрелого – путем биохимического вмешательства.)

7. Может ли нанотехнология принимать ЗДЕСЬ участие СО СТОРОНЫ «машины»? (Хирургия мозга УЖЕ имеет нечто подобное в виде «роботов».)

8. Подытоживая, ЧЕГО МЫ В РАМКАХ ТЕМЫ СИМПОЗИУМА ВООБЩЕ ХОТИМ? (Только бы не оказаться в колее, углубленной доктором Менгеле.)

Поскольку отступление МОЖЕТ быть в такой запутанной теме допустимым, я считаю утверждение Гёделя (о неполноте больших формальных систем) космической постоянной, примерно такой, как заряд электрона. Поэтому всякие «богатые» передачи информации – языковые – опираются на «туманную семантическую логику» (то есть ни один язык не может быть формализован бесконтекстно так четко, как любой язык программирования компьютеров). Эта fuzzy logic [81]81
нечеткая логика (англ.).

[Закрыть]вызывает возникновение fuzzy sets [82]82
нечеткие множества (англ.).

[Закрыть]значений, обусловленных контекстно и конситуативно, а также конотационно запутанных. (Подробней об этом в книге: Nalimow W. Probabilistyczny model języka. – PWN, Warszawa, 1976.)

В самом начале своего становления язык, как я допускаю, вырабатывая семантический синтаксис многослойного диапазона значений, являлся «локомотивом» развития мозга, который в процессе эволюции дошел до уровня мозга больших антропоидов (доказательство этому могло бы возникнуть благодаря поколению ( n-му) компьютеров, способных уже моделировать эволюционное развитие вида, в котором доходит до ОНТОГЕНЕТИЧЕСКИ сформированных функциональных нейронных носителей языка). Дело в том, что этнический язык – это только «поверхностный» передатчик многообразной (в смысловом плане) информации, поскольку под его «поверхностность» подпадают направления «внутреннего языка» (мысли в молчании), еще «осознаваемого», а «глубже» происходят процессы уже внесознательные, но также служащие языку, как, например, группы вербальной готовности, мотивационные группы, группы телеологии, то есть придание речи определенного смысла, и т. п.

Одним словом, язык, который мы используем, это лишь верхушка айсберга служащих ему процессов, и поскольку он возникал последовательно благодаря таким изменениям, которые дальнейшие шаги УСЛОЖНЯЛИ или делали их возможными в эмбриональной жизни, в процессе роста и дозревания, то этой дорогой доходит вверх до вспышки сознания. Сознание не может быть только «языковым» – оно всегда богаче, чем речь, но оно вокруг нее сформировалось (по крайней мере у человека). Итак, к построению мозга это имеет такое отношение, что успехи во внутри– и внешнеязыковой точности были решающе обусловлены:

а) типичной – шаговой – эволюционной тактикой;

б) той логической глубиной эмбриональных преобразований в конечный продукт (тело с мозгом), которые эта тактика ЕЩЕ сумеет использовать (продвинуть от зачатия до рождения), весь потенциал генного плана строительства организма.

Этот путь антропогенеза НЕ был оптимально прямым, а скорее «слаломным», и потому мозг является местонахождением недостаточно скоординированных приводов и тормозов, и только нам, невеждам, мозг кажется превосходным устройством! Застой (и даже регресс мозговой массы в последнем периоде голоцена) проявляется в том, что дошло до загрязнения последовательностей очередных преобразований – от одной яйцеклетки до 10 биллионов клеток организма – при постоянно нарастающем количестве ошибок. Количество очередных, руководящих эмбриональной структурой преобразований НЕ может быть произвольно большим, ибо определение фон Неймана («надежная система из ненадежных элементов») является исключительно идеализирующей аппроксимацией реального состояния. Система не является до конца надежной, количество шагов не может быть произвольно большим также из-за того, что наш мозг возникал путем разрастания новейших нейроструктур на основе нейроструктур прадавних видов. ТЕМ САМЫМ УЖЕ он не является ни конструктивным ОПТИМУМОМ, ни конструктивным МИНИМУМОМ, а является избыточным до уровня самоугрозы!

Мозг приспособлен так, чтобы мы могли выживать в экологических нишах в течение миллионов лет, поэтому не надо сердиться на то, что построенная таким мозгом цивилизация УЖЕ УГРОЖАЕТ его носителям. Скорее удивительно, что он мог так долго выдерживать конкуренцию с собственными техносозданиями и фантазматами – мифами, верами, суевериями и т. д., – и удивительно, что мы пришли в мир именно тогда, когда этот марафон направляется к неведомому финишу.

В антропологической эволюции неплохо просматривается также статистическая составляющая. Части организма чаще всего плохо заменяются (например, проблемы при трансплантации органов), а о проблемах при возможной трансплантации фрагментов мозга пока (если не говорить о лечении паркинсонизма) можно не думать. Зато в технологиях, созданных человеком, господствует почти совершенная заменяемость частей всех техноагрегатов. Эволюция оперирует попросту более расточительной стратегией, тормозимой из-за неизбежной медлительности адаптационных изменений, И ЭТО ДОЛЖНО стать одной из проблем при внедрении BRAIN CHIPS, а именно: что «подходит» для одного мозга, может не подходить другому (медицине с фармакологией уже хорошо известно об индивидуальных реакциях на воздействие одних и тех же лекарств и процедур).

Таким образом, мозг и построен из нетождественных у разных людей структур (функциональная схема «мерседеса» такая же, что и схема «фиата», но это «не то же самое»), и такие структуры, частично сотрудничая, в то же время частично противоречат друг другу, последствия чего могут быть от патологических до «гениализирующих» (кстати, так называемые гении часто демонстрируют «побочные» признаки патологии, например дислексию).

Изменения в деятельности мозга человек может видеть САМ, а может также их и не заметить (не только в психиатрии и в процессе старения). Значит, инструментальные вмешательства в мозг могут происходить вне осознаваемого познания как оперируемых, так и оперирующих. Области дискоординации разума разные и многочисленные, например (кроме травм и наследственных пороков), питательными веществами и наркотиками.

Потери мозговой массы благодаря «пластичности мозга» частично подвержены восстановлению и/или реабилитации. Но есть потери не очевидные, результаты которых трудно распознать. (Отсечение лобных пластин, уже не применяемое, считалось, однако, чем-то вроде «терапии».) Бывает и так, что выпадение одних мозговых отделов «освобождает», повышая способности, другие (сравните гениальных вычислителей-дебилов, патологические проявления феноменальной памяти эйдетиков, симптомы раздвоения, принимаемые некогда за «доказательства в пользу спиритизма» и демонологии). Мозг ЯВЛЯЕТСЯ территорией противоречивой работы, излишек концентрации на задаче может затруднять ее решение так же, как и недостаток. Все это показывает, что универсальной технологии для BRAIN CHIPSскорее всего НЕ будет.

А ведь главным лозунгом в клятве Гиппократа по-прежнему должно быть primum non nocere… [83]83
прежде всего не вредить (лат.).

[Закрыть]

Таким образом, полем деятельности должен быть мозг. Стало быть, следует рассмотреть сначала это поле не только под углом его собственных (автономных, данных эволюцией) функций, но и с перспективы вторжений в мозг неорганических средств. Предварительно необходимы некоторые уточнения. А именно: до тех пор, пока не возникнут bio-chips, которые функционально смогут сравняться с группами живых нейронов, а следовательно, способные заменять поврежденные или уничтоженные нейроны (вместе с их связующим окружением), будут существовать такие области мозга, нарушать которые нельзя и не следует. Например, зрительная кора (в шпорной щели, fissura calcarina). Правда, уже здесь мы сталкиваемся с проблемой, с которой вынуждены встречаться почти на каждом участке мозга. Например, человек с уничтоженной зрительной корой в одном, важнейшем, смысле полностью слеп, то есть ничего не видит, а в другом, однако, «как-то» видит, поскольку умеет обходить препятствия или может поймать брошенный в его сторону мяч. Происходит это благодаря многослойному строению мозга: импульсы, не доходящие до высших проекционных центров, доходят до низших, участвующих в осознанном видении, но самостоятельно «видящего сознания» не создающих. Из этой проблемы мы сразу же попадаем в следующую: поскольку нормальное зрение не является на высшем уровне коры функцией самой шпорной щели, в нем должны участвовать поверхности обоих полушарий мозга, в противном случае человек «видит» только хаос цветных пятен и неразличимых форм. И потому единство обеих сфер никаким техногенным протезом («чипом») не может быть заменено. Даже при совершеннейшей попытке могла бы возникнуть парадоксальная ситуация: искусственные нейроны сумеют действительно подражать электрическим разрядам натуральных (после их подключения к нейронным проводникам, «аксонам», после – заложенного в эксперименте – воссоздания всей необходимой локальной нервной системы), но тот, кого подобным образом экипировали, ничего не будет видеть. (Таково по крайней мере мое мнение.)

Назад к карточке книги "Молох (сборник)"