Текст книги "Молох (сборник)"

Автор книги: Станислав Лем

сообщить о нарушении

Текущая страница: 47 (всего у книги 63 страниц)

5

Характерным признаком общего ускорения в медицине может служить то, что изданные всего несколько лет назад фармакологические руководства постоянно дополняются потоками новых лекарств, выводимых на рынок крупными фармацевтическими фирмами, и в то же время ежегодно из новейших справочников удаляется ряд препаратов – то из-за вредных побочных действий, то как уже вышедшие из моды, потому что и медицина подвержена веяниям моды. Американцы подсчитали своими излюбленными статистическими методами, что за последний год два миллиона человек, принимавших лекарства по рецепту врача, серьезно заболели вследствие побочных эффектов этих препаратов, а сто шесть тысяч больных даже умерли! Глобализация сетей связи, а также рост числа специальных баз данных не могут противостоять мрачным явлениям такого рода. Говоря метафорично, лозунг Ленина «кто кого» можно было бы перенести в область здравоохранения, поставив при этом вопрос, будет ли расширяющийся в медицинском отношении Интернет только помогать врачам или одновременно будет вытеснять их из профессии, которая всегда была прерогативой человека. Интернет является вырастающим до гиганта ребенком технологии, в данном случае биотехнологии, но тем не менее двойственность каждой технологии, приносящей вместе с новым добром новое зло, в данном случае ставится под сомнение. Специалисты допускают, что мы являемся носителями генов, вредное воздействие которых может обнаружиться только в зрелом возрасте, и поэтому эти гены, будучи отчасти результатом мутаций, вынесенные за границы репродуктивного возраста и, следовательно, за границы естественного отбора, проявляются в течение жизни индивида как виновники еще неизвестных нам и потому неизлечимых недугов. Интернет, который управляется нами и, возможно, когда-нибудь обретет способность самопрограммироваться, наверняка будет вынужден заняться новыми проблемами и недомоганиями человека.

II

Подводя итог и дополняя все вышесказанное и вместе с тем опираясь не на какое-то определенное знание, а на субъективное предположение, я думаю, что Интернет как система связи с базами данных ценен прежде всего с точки зрения статистики, его можно эффективно использовать для диагностики всевозможных систем, которые поддаются точному описанию (особенно механические устройства вроде подверженных авариям самолетов, машин, компьютеров), а не в той области, которой многие века занимается медицина, то есть недомоганиями человека. Мне кажется маловероятным, чтобы эти знания по диагностике, которые по силам вооруженному результатами дополнительных исследований врачу, могли бы быть заменены чем-то механическим или алгоритмическими процедурами из ресурсов Сети, особенно в редких и крайних случаях, потому что легче всего распознается то, что наиболее характерно с точки зрения частоты появления, а вот уникальный случай будет только издевательством над диагностикой. Одним словом, безошибочности, как диагностической, так и терапевтической, от Интернета ожидать не стоит. Вершиной развития было бы состояние, о котором я уже когда-то писал, то есть ситуация, в которой созданные нами средства и технологические труды создадут почти что самостоятельную среду, способную помочь в лечении наших заболеваний лучше, чем человеческий ум. Пока нет никаких указаний на то, что глобальная интернетизация победит людей, дававших клятву Гиппократа, так как в конечном счете немалую роль в лечебном деле играют факторы эмоциональные, а также этические, заменить которые скорее всего не смогут даже самые совершенные технологии связи.

Информационные встряски [272]272
  Trzęsienia informatyczne, 1998. © Перевод. Язневич В.И., 2002


[Закрыть]

1

Читателям газет уже известно, что федеральное правительство США вместе с толпой прокуроров, представляющих отдельные штаты, обвинило Microsoft, и тем самым Билла Гейтса, в попытках монополизации сетевого рынка, а точнее, в вытеснении с этого рынка интернетовских просмотровых программ (браузеров) других фирм. Так оба противоборствующих лагеря задействовали значительные силы: с одной стороны – мощный государственный аппарат, с другой – финансовый. Наблюдатели считают, что борьба в судебных заседаниях может длиться годами и что в случае проигрыша Гейтс потеряет около двух миллиардов долларов – это для него примерно то же, что для среднего польского гражданина потеря десяти грошей. И власти, и корпорация неминуемо будут бросать в бой доводы юристов и экспертов. Конечно, я не собираюсь становиться военным корреспондентом, следящим за ходом борьбы. Этот пример я в большой мере привожу потому, что обнаружил в своей электронной почте сожаления по поводу того, что в противовес моим былым лучезарным технологическим образам я сейчас рисую картины, «веющие страхом». Так складывается, однако, что то, что в Польше воспринято как посыпание пепла страха на мои давнишние прометеевские образы, в Соединенных Штатах получило положительную оценку благодаря посредничеству Сети. Американский корреспондент похвалил меня за «холодный душ», который я направил на интернетовские перипетии. Дело в том, что, как я и предполагал, при всей своей «бездонности» Интернет неизбежно засоряется информационными отходами, так как людей, желающих заявить о себе в мировом масштабе, несравненно больше, чем людей, имеющих хоть что-то разумное для сообщения. Информационные завалы затрудняют передачу существенной и важной информации, и в результате сейчас научно-исследовательские центры (например, университетские) разрабатывают систему соединений в Интернете, которая бы позволила осуществлять быструю и качественную связь вне океанов глупостей. Я полагаю, что под таким натиском начнет функционировать настоящий инкубатор сетей, предназначенных только для банковско-коммерческих отправителей и адресатов. Вместе с тем подобным сетям высшего уровня будет угрожать вторжение хакеров, всегда стремящихся туда, куда нельзя. Таким образом, начнется построение лабиринтоподобного информационного молоха, который будет все более и более усложняться и умножаться, ибо, как известно, надежных способов защиты информационных сетей и соединений от нежелательного вторжения нет. Но так как целостность всех этих объектов будет зависеть от изобретательности многочисленных шифровальщиков и дешифровальщиков и будет представлять собой типичный, перемещенный в сферу коммуникаций, образ атак, контратак и защиты, то есть деятельности, к которой испокон веков люди питают пристрастие, я на эту территорию вступать не собираюсь.

2

Как утверждают многие ученые, большинство открытий, на которых держится цивилизация, не являются результатом сознательных исследовательских работ; такие открытия чаще всего происходят случайно, когда, стремясь создать (синтезировать) некое А, не желая того, создают какое-то Б. Последним, очень поучительным примером этой случайности открытий является прогремевшая в средствах массовой информации мира как лучшее лекарство от мужской импотенции некая субстанция, на которой компания Pfizerзарабатывает огромные суммы: viagra. Но, конечно, компьютерное издание – не место для описания средств, превращающих импотентов в темпераментных самцов. Более подходящим примером будет, по-моему, короткий рассказ, подтверждающий принцип невольного достижения технологического прогресса без первоначального участия экспертов. Я имею в виду реализованные сначала в качестве развлечения конфликтные игры с участием так называемых норнов. Это псевдосоздания, которые пока могут существовать только в виртуальном компьютерном пространстве, оснащенном информационными программами, позволяющими совершать элементарные действия типа восприятия, так что норн может замечать что-либо и, следовательно, отличать виртуальную морковку от виртуального камня; съедая морковку, норн обогащается энергией, так как в том фантоматическом мире, в котором он существует, фантом морковки может преобразовываться в питательную для норна глюкозу или гликоген. Кроме того, у норнов есть симуляторы эмоциональных состояний, устанавливающихся просто цифрами от 1 до 256. С самого начала было так, что если норн замечал другого норна, то он мог вступить с ним в поединок – настолько акробатический, что создатели игры вскоре захотели превратить норнов в пилотов реактивных самолетов-перехватчиков, так как эти существующие в цифровом мире создания реагируют быстрее, чем человек. Мы же пока находимся только в стадии не очень благих пожеланий размещения искусственных пилотов в реальных самолетах, и такие работы уже ведутся. Мне все это представляется лишь первыми метрами бесконечной дороги в том направлении, которое желательно для создателей искусственного интеллекта – до этого бессильных, потому что над элементарным сенсориумом норнов можно надстроить последующие операционные программы, очень сложные, но более результативные и более похожие на инстинктивные движения. Я не уверен, что случится именно так, но если мои предположения все же сбудутся, то XXI век окажется населен виртуально-фантоматическими тварями, которые сначала будут выполнять простые действия и напоминать, допустим, осу Sphex, которая безошибочно нападает на гусениц и впрыскивает им, живым, свои яйцеклетки, то есть сначала мы будем иметь дело с реализацией инстинктивного насекомоподобного поведения, которое сможет сделать людей-летчиков лишними. Таким образом, без участия человека началась бы эволюция тварей виртуального происхождения, облеченных в материю, но позже результаты этой начальной фазы, в которой то, что виртуально, преобразуется в то, что реально, могли бы иметь дальнейшие последствия, о которых даже страшно подумать.

3

В то время, когда я пишу эти строки, во Франции продолжается забастовка летчиков компании Air France, парализовавшая почти все воздушное движение над страной и сделавшая десятки тысяч людей жертвами спора между профсоюзом пилотов и работодателями. Ясно, что будущие поколения норнов могли бы заменить людей с такими трагическими последствиями для последних, что мы вошли бы в истинный ад безработицы. То, что я написал, звучит, возможно, несколько апокалиптически и вместе с тем фантасмагорично, но следует отметить, что полвека тому назад Норберт Винер в книге «Human Use of Human Beings»предвидел возможность наступления эпохи безработицы, вызванной теми или иными последствиями автоматизации, которые все вместе будут внуками или правнуками кибернетики, чья концепция была заложена самим же Винером.

Душа в машине [273]273
  Duch w maszynie, 1998. © Перевод. Язневич В.И., 2002


[Закрыть]

Понятием «душа в машине» – the ghost in the machine– некоторые психологи подкрепляют утверждение, что якобы человек является существом «двойственным», то есть состоящим из «материи» и «души».

Сознание является не технологической проблемой, так как конструктора не интересует, чувствует ли машина, а только интересует, действует ли она. Таким образом, «технология сознания» может появиться только «мимоходом»: вдруг окажется, что определенный класс кибернетических машин обладает субъективным миром психических переживаний.

Но каким образом можно узнать о наличии сознания в машине? Эта проблема имеет не только абстрактно-философское значение, ибо предположение, что некая машина, отправляемая на лом из-за того, что ее ремонт не окупится, обладает сознанием, превращает наше решение – уничтожить материальный предмет вроде граммофона – в акт уничтожения индивидуальности, осознанного убийства. Граммофон можно оснастить пластинкой и выключателем таким образом, что при попытке сдвинуть его с места он издавал бы крики: «Ах, умоляю, подари мне жизнь!» Как можно отличить такой, без сомнения, бездушный аппарат от мыслящей машины? Только вступая с ней в разговор. Английский математик Алан Тьюринг в своей работе «Может ли машина мыслить?» предложил в качестве решающего критерия, который бы позволил уверенно отличить человека от машины, «игру в имитацию», заключающуюся в том, что мы задаем Кому-то произвольные вопросы и на основании ответов должны сделать вывод, является ли этот Кто-то человеком или машиной. Если мы не сможем отличить машину от человека, следует признать, что машина ведет себя как человек, то есть обладает сознанием.

Со своей стороны, отмечу, что игру можно усложнить. Можно рассмотреть два вида машин. Первый является «обычной» цифровой машиной, которая устроена как человеческий мозг; с ней можно играть в шахматы, разговаривать о книгах, о мире и вообще на любую тему. Если бы мы ее вскрыли, то увидели бы огромное количество соединений, подобно соединениям нейронов в мозгу, кроме этого – блоки памяти и т. д. и т. п.

Второй вид машин совсем другой. Это увеличенный до размеров планеты (или космоса) граммофон. В такой машине хранится огромное количество, например сто триллионов, ответов на всевозможные вопросы. Таким образом, когда мы спрашиваем, машина ничего «не понимает», но форма вопроса, то есть очередность вибраций нашего голоса, приводит в движение передатчик, который запускает пластинку или ленту с записанным ответом. Не будем задумываться о технической стороне дела. Понятно, что такая машина неэкономична, что ее никто не создаст, потому что это невозможно, а главное – неизвестно, зачем ее создавать. Но нас интересует теоретическая сторона. Потому что если заключение о том, имеет ли машина сознание, делается на основе поведения, а не внутреннего строения, не придем ли мы неосмотрительно к выводу, что «космический граммофон» им обладает – и тем самым выскажем нонсенс? (А скорее неправду.)

Но можно ли запрограммировать все возможные вопросы? В обычной жизни средний человек не отвечает даже на один биллион их. Мы же на всякий случай записали их во много раз больше. Что же делать? Мы должны вести нашу игру, используя достаточно развитую стратегию. Мы задаем машине (то есть Кому-то, потому что не знаем, с кем имеем дело: разговор ведется, например, по телефону) вопрос, любит ли она анекдоты. Машина отвечает: да, она любит хорошие анекдоты. Рассказываем ей анекдот. Машина смеется (то есть смеется голос в трубке). Или этот анекдот был в ней записан и это позволило ей правильно отреагировать, то есть засмеяться, или это в самом деле мыслящая машина (либо человек, этого мы не знаем). Мы какое-то время разговариваем с машиной, а затем неожиданно спрашиваем, помнит ли она рассказанный анекдот. Она должна его помнить, если действительно мыслит. Она ответит «да». Мы попросим, чтобы она повторила его своими словами. Вот это уже очень трудно запрограммировать, потому что таким образом мы вынуждаем конструктора «космограммофона» записать не только отдельные ответы на все возможные вопросы, но и целые последовательности разговоров, которые могут вестись. Это потребует, конечно, памяти, то есть дисков или лент, которые и вся Солнечная система не вместит. Предположим, машина не сможет повторить наш анекдот – и тем самым будет разоблачена. Задетый за живое конструктор берется усовершенствовать машину: пристраивает ей такую память, благодаря которой она сможет вкратце повторить сказанное. Но тем самым он сделает первый шаг от машины-граммофона к машине мыслящей. Так как бездушная машина не может распознать идентичность вопросов аналогичного содержания, но сформулированных с незначительными формальными отклонениями, например: «Вчера было хорошо на улице?», «Вчера была прекрасная погода?», «Погожим ли был предыдущий день?» и т. п., то для машины бездушной они будут вопросами разными, а для машины мыслящей – одинаковыми. Конструктор вновь разоблаченной машины вынужден опять ее перерабатывать. В конце концов, после долгой серии переделок он введет в машину возможности индукции и дедукции, способность ассоциировать, схватывать тождественную «форму» по-разному сформулированных, но одинаковых по содержанию высказываний, пока в результате не получит машину, которая будет просто «обычной» мыслящей машиной.

Таким образом возникает интересная проблема: когда именно в машине появилось сознание? Предположим, что конструктор не переделывал эти машины, а относил каждую в музей, следующую же модель создавал заново. В музее стоит 10 тысяч машин – столько было очередных моделей. Результатом стал плавный переход от «бездушного автомата» вроде играющего шкафа к «мыслящей машине». Должны ли мы признать машиной, имеющей сознание, машину номер 7852 или только номер 9973? Они отличаются друг от друга тем, что первая не умела объяснить, почему она смеется над рассказанным анекдотом, а только говорила, что анекдот очень смешон, а вторая умела. Но некоторые люди смеются над шутками, хотя и не могут объяснить, что именно в них смешно: как известно, теория юмора – твердый орешек. Разве эти люди лишены сознания? Нет, они, наверное, просто не очень быстро реагируют или малообразованны, их ум не обладает навыками аналитического подхода к проблемам; но мы спрашиваем не о том, умная ли машина или скорее туповатая, мы только спрашиваем, имеет ли она сознание или нет.

Казалось бы, следует признать, что у модели номер 1 – ноль сознания, модель номер 10 000 имеет полное сознание, а у всех промежуточных сознания «все больше». Это утверждение показывает, насколько безнадежна мысль о возможности точно локализовать сознание. Отсоединение отдельных элементов («нейронов») машины спровоцирует только слабые, количественные изменения («ослабления») сознания так же, как это делает в живом мозге прогрессирующая болезнь или нож хирурга. Проблема не имеет ничего общего ни с использованным для конструкции материалом, ни с размерами «мыслящего» устройства. Электрическую мыслящую машину можно построить из отдельных блоков, соответствующих, положим, мозговым извилинам. Теперь разделим эти блоки и разместим по всей Земле таким образом, чтобы один находился в Москве, второй в Париже, третий в Мельбурне, четвертый в Йокогаме и т. д. Отделенные друг от друга, эти блоки «психически мертвы», а соединенные (например, телефонными кабелями), они стали бы одной интегральной «индивидуальностью», единым «мыслящим гомеостатом». Сознание такой машины не находится ни в Москве, ни в Париже, ни в Йокогаме, но, в определенном смысле, находится в каждом из этих городов и в то же время ни в одном из них. О таком сознании трудно сказать, что оно, как Висла, протянулось от Татр до Балтийского моря. Впрочем, подобный пример демонстрирует, хотя и не так ярко, работу человеческого мозга, потому что кровеносные сосуды, белковые молекулы и ткани находятся внутри мозга, но не внутри сознания, и опять-таки нельзя сказать, что сознание находится под самым сводом черепа или скорее всего ниже, над ушами, по обеим сторонам головы. Оно «рассеяно» по всему гомеостату, по его функциональной сети. Ничего больше заявить на эту тему не получится, если мы хотим соединить сознание с возможностью рассуждать.

Вышеприведенный отрывок скопирован из моей «Суммы технологии», он был написан в середине 1963 года. С точки зрения сегодняшней ситуации это слишком сильное упрощение дороги, которую необходимо пройти до имитации описанной мною цели. Мы уже предполагаем, что «сознание» и «интеллект» – это, в определенном смысле, разные сути бытия. Мы знаем, что существуют разные состояния сознания, даже если их шкала находится между сном и реальностью. Но и сновидения могут быть насыщены разнообразными событиями, имитирующими реальность, сознательно переживаемую наяву. В свою очередь, каждый человек, даже если он не является ни психологом, ни психиатром, по собственному опыту знает, что сознание наяву тоже может иметь различные состояния. Человек в состоянии болезненного жара может осознавать, что его сознание нарушено. Различные химические вещества могут самым разным образом формировать человеческое сознание. Кроме того, есть множество действий, которые человек делает машинально: например, сознание шофера «не успевает» за его реакциями в ситуациях с неожиданной последовательностью событий. Вместе с тем машинально можно делать и глупости – чаще всего мы их называем «поступками по рассеянности».

Все это сказано в отношении моего текста тридцатипятилетней давности, в котором я задумался над «ростками» сознания в машине, и делал я это потому, что мне казалось, будто люди сильно отличаются друг от друга умственными способностями, а сознание всем дано примерно одинаковое.

Дороги напрямик, по прямой и восходящей линии, от полного автомата, каковым является компьютер, к машине, которой можно было бы приписать сознание, нет. Вместе с тем о работе нашего мозга мы уже знаем столько, чтобы понимать, что так называемая каллотомия, или рассечение большой белой спайки, соединяющей полушария мозга, не ликвидирует сознание, но создает в разделенных полушариях две его разновидности. Кроме того, мы знаем, что мозг является системой, построенной из огромного количества функциональных модулей, которые в отдельных областях мозга создали среду, формирующую сознание. Поясню сказанное примером. В коре мозга есть зона, отвечающая за цветовое зрение. Ее повреждение приводит к тому, что человек видит всё без цвета, как в черно-белом кино. Чем лучше мы разбираемся в функциональной ориентации модулей мозга, тем больше удивляемся тому, как, с точки зрения инженерной экономии, хаотично устроен мозг, хотя при осознании самих себя мы не отдаем себе в этом отчета. Сегодня нам кажется, что мы уже можем конструировать отдельные модули, функционально похожие на модули мозга. Обычно это псевдонейронные сети различной сложности. Вместе с тем мы еще не умеем ни создать их в достаточном количестве, ни соединить таким образом, чтобы созданное произведение могло имитировать сознание. Следовательно, прямой дороги от бездумного автомата к сознательно мыслящей машине нет. Есть, однако, много сложных дорог, которые в будущем приведут нас к цели и, возможно, эту цель превзойдут. О такой возможности я написал книгу «Голем XIV».