355 500 произведений, 25 200 авторов.

Электронная библиотека книг » Наталья Резанова » Журнал "Полдень XXI век" 2005 №1 » Текст книги (страница 20)
Журнал "Полдень XXI век" 2005 №1
  • Текст добавлен: 26 сентября 2016, 19:59

Текст книги "Журнал "Полдень XXI век" 2005 №1"


Автор книги: Наталья Резанова


Соавторы: Аркадий Шушпанов,Александр Житинский,Алексей Лукьянов,Владимир Данихнов,Мерси Шелли,Сергей Стрелецкий,Николай Горнов,Юрий Косоломов,Полдень, XXI век Журнал,Михаил Кондратов
сообщить о нарушении

Текущая страница: 20 (всего у книги 22 страниц)

Личности, идеи, мысли

Александр Житинский
«Следует жить!»
1. Нас ждет глобальная катастрофа, описанная в Библии как конец света

Связаны ли, на Ваш взгляд, понятия «научно-технический прогресс» и «духовный прогресс»?

Я не понимаю, что такое «духовный прогресс». Если говорить о величии духа или, наоборот, о духовном падении, то во все века количество людей, демонстрировавших эти качества, в процентном отношении было примерно одинаковым. Я не знаю новых открытий в области нравственности, которые были сделаны с момента смерти Иисуса.

А в какой степени с ними связан социальный прогресс? Может ли технический прогресс решить социальные проблемы, улучшить взаимоотношения в обществе?

Социальный прогресс есть прямое следствие научно-технического. Только опять же, прогресс ли это? Происходит смена формаций. В эпоху феодализма воевали больше, а убивали меньше. Сейчас за день можно убить столько народу, сколько погибало в войнах за весь двенадцатый век.

В чем причина прогресса? Неужели только в стремлении вкусно поесть и мягко поспать? Или же человечество прогрессирует от безысходности, то есть потому что не может не прогрессировать?

Ну, я уже сказал, вроде, что в прогресс не очень верю, кроме научно-технического, где он очевиден. Причина его – в человеческой лени, с одной стороны, и любопытстве – с другой.

Лет сорок назад научно-технический прогресс представлялся панацеей от всех бед, сейчас же отношение к нему опасливо-осторожное, если не отрицательное. Как Вы считаете – маятник качнулся в обратную сторону из-за разочарования, связанного с крахом больших надежд?

Нет, из-за того, что на примерах стали видеть, что этот прогресс приближает человечество к глобальной катастрофе.

Какой Вам видится судьба человечества в наступившем веке? Нас ждет стадия эволюционного развития или очередной этап научно-технической революции?

Ни то, ни другое. К сожалению, нас ждет глобальная катастрофа, описанная в Библии как конец света. И во многом этот конец человечество готовит собственными руками.

Закончилась ли, на Ваш взгляд, эпоха великих открытий?

Как ни странно, нет. Природа действительно неисчерпаема. Кроме того, у меня есть подозрение, что она еще и хитра и потихоньку меняет свои законы. Например, ей надоедает скорость света как предельная величина скорости и она начинает от нее отходить, чтобы узнать нашу реакцию на это.

Как, на Ваш взгляд, изменится жизнь людей, если человечество обретет некий источник дешевой энергии?

Как Вы уже поняли, я пессимист. Любое великое открытие или изобретение, повышая комфортность жизни, одновременно ускоряло движение этой жизни к гибели.

Есть ли смысл в запретах на отдельные направления научных исследований (клонирование человека, новые методы психологической обработки и т. п.)?

Нет смысла ни в каких внешних запретах. Они не работают. Запреты могут быть только внутренними. Некоторых вещей я не стал бы делать сам, без всяких запретов. Но человек очень любопытен. Слишком любопытен.

Как Вы относитесь к использованию атомной энергии? Не слишком ли велика становится цена человеческой ошибки? Не станет ли еще более опасным овладение возможностями термоядерного синтеза?

То же самое, что и про новые источники дешевой энергии.

К чему приведет дальнейшее развитие генной инженерии?

К краху. Я же сказал уже не раз: все, буквально все ведет к краху. В этом смысле пути Господни абсолютно исповедимы. Вообще, человек все время хочет перехитрить Господа и дать ему понять, что он овладел его методиками. Однако, всегда и везде натыкается на то, что зовется душой и что принципиально нематериально.

Мне это по сердцу.

Как, по Вашему мнению, изменится общество с быстрым развитием нанотехнологий?

Я не знаю, что это такое, но общество тоже погибнет.

Как Вы себе представляете мир в 2105 году?

В свете вышесказанного, я сомневаюсь, что мир доживет до этой даты.

2. У меня лично нет никакого интереса к освоению космоса

Временный ли характер носит потеря интереса к освоению космоса? Или этот интерес вообще был вызван исключительно политическими причинами?

У меня лично нет никакого интереса к освоению космоса. Он мне безразличен как объект хозяйственной деятельности.

Как Вы оцениваете саму принципиальную возможность межзвездных полетов?

Только после Конца света и совсем не так, как мы представляли. Конец света это же не совсем конец, это конец очередного этапа, называемого Светом.

Существует мнение, что безнравственно выбрасывать деньги на космос, когда на Земле голодают миллионы, и т. д. А вдруг именно в космических исследованиях отыщется возможность решения стоящих перед человечеством проблем? Правомерна ли вообще постановка вопроса о безнравственности гигантских трат на научные разработки?

Все человеческие проблемы уже давно решены. И не в космосе.

Как Вы относитесь к мысли, что мы находимся под наблюдением эмиссаров других цивилизаций?

Как к надоевшей фантастике.

Войны – неизбежная часть истории человечества. Если человечество расселится по Галактике, то конфликты между различными его представителями кажутся вполне возможными. А как Вы относитесь к возможности межзвездных войн между представителями разных цивилизаций?

Человечество не расселится никуда. Оно уже расселилось. А эти конфликты – тоже лишь пища для досужих фантастов.

3. Главная опасность для человека – глупость и недомыслие

Как Вы оцениваете роль личности в истории? Так ли она мала, как нас учили в советской школе?

Она огромна.

Немало бед принесло людям собственное стремление к справедливому социальному устройству, к Утопии. Достижима ли она, на Ваш взгляд?

Нет, конечно. Тут и разговоров быть не может.

Многие из нас когда-то верили в светлое будущее, в Мир Полудня. А каково Ваше нынешнее отношение к коммунизму? Может быть, человечество попросту не доросло до него?

Человечество состоит из отдельных людей. Люди, в целом, неспособны «дорасти» до такой идеи, как коммунизм. Отдельные люди могут дорасти лишь до идеи любви. Если считать эту идею коммунистической, то отдельные люди могут, но не человечество. Странно, но я никогда не верил в мир Полудня.

Какая, на Ваш взгляд, формация придет на смену капитализму?

Я уже сказал, ЧТО придет на смену всему.

Может ли человечество стать в конечном итоге единым при отсутствии внешней угрозы?

Нет. Человечество вообще мало на что способно, в отличие от человека.

Какова, на Ваш взгляд, главная опасность для человечества сейчас?

И сейчас, и всегда главная опасность для человека – глупость и недомыслие.

Возможное наступление энергетического кризиса неизбежно приведет к усилению социальной напряженности. Не произойдет ли в результате возврат от демократии к тоталитаризму?

Такой возврат не успеет произойти.

Как Вы считаете, настанет ли когда-нибудь время атеизма? Может быть, в атеизме залог победы над религиозной рознью?

Если же человечество свалится в пучину религиозных войн, не кажется ли Вам, что победит ислам? Ведь его носители более пассионарны…

К сожалению, мы живем во время атеизма. Истинно Божеский человек – независимо от того, христианин он, иудей или мусульманин, – не станет воевать во имя утверждения одной своей религии. Да и вообще религия к Вере имеет весьма слабое отношение.

А может быть, корень всех бед человечества – в национализме? Может быть, будущее человечества возможно только при объединении наций?

Опять приходится повторять, что я не очень верю в будущее человечества. Национализм может быть ужасным без Бога и любви, а может быть прекрасен при наличии оных у отдельных людей или наций – что труднее, конечно.

Как может, на Ваш взгляд, измениться система человеческих ценностей, если человек обретет бессмертие?

А зачем человеку бессмертие? Это же очень скучно. Это по-настоящему трагично.

Что победит в конечном итоге – культура или бескультурье?

К сожалению, победит глупость.

4. Хотелось бы видеть Россию живой

Мы постоянно слышим, что Россия – особая страна, что у нее свой особый путь. А может быть, мы просто подвержены мании величия?

Безусловно, подвержены. И это – одно из проявлений нашего особого пути.

Не были ли события начала 90-х годов прошлого века приступом общественного безумия? Ведь мы пальцем о палец не ударили для того, чтобы сохранить страну, в которой родились.

А как мы должны были стучать пальцами о пальцы? Эти постукивания, как правило, приводят к гибели людей. И вообще, я фаталист.

Довольно широко распространено мнение о том, что Россия в XXI веке станет собирать «свои» бывшие территории. Что Вы думаете по этому поводу?

Думаю, уже начала. И бывшие территории «слипнутся» обратно – не все, конечно, но славяне точно. Не мытьем, так катаньем. Возможно, что не очень скоро.

Не кажется ли Вам, что мусульманское давление, с исторической точки зрения, благо, поскольку поневоле активирует в России центростремительные процессы?

Ну, и это тоже имеет место. Трудно назвать это благом, но как фактор работает.

Способно ли православие стать национальной идеей, объединяющей Россию?

В нынешнем виде – вряд ли. Оно должно полностью переродиться. Что-то вроде православного Реформаторства.

Исторически национальные интересы РФ и США неизбежно должны противоречить друг другу. Как скоро, на Ваш взгляд, Россия и Америка вновь окажутся по разные стороны баррикады?

Да они уже сейчас. И всегда были.

Существует мнение, что европейские конституционные монархии представляют собой самый подходящий вариант правильного соотношения государственности и гражданского общества. Как считаете Вы?

Я тоже так считаю, но это проходит для малых стран, относительно однородных этнически. Для России – вряд ли. Трудно себе представить Помазанника Божия в России сейчас.

Не являются ли наши национальные недостатки оборотными сторонами наших национальных достоинств?

Недостатки и достоинства – это очень относительно. Безусловно, это нерасторжимые вещи.

Какой Вы видите Россию через 25 лет? А через 100?

Хотелось бы видеть ее живой. Очень бы хотелось.

Что бы Вы хотели сказать в дополнение?

В дополнение я хотел бы сказать, что я не являюсь материалистом. Надеюсь, это было понятно из моих ответов. Высшее инженерно-техническое образование мне в этом не мешает. Из нашей беседы может сложиться мнение, что жить бессмысленно.

Нет, нет и еще раз нет!

Как сказал поэт Юрий Левитанский:

 
«– Что же из этого следует? —
Следует жить! Шить сарафаны и легкие платья
из ситца…
– Вы полагаете, все это будет носиться?
– Я полагаю, что все это следует
шить…»
 

С Александром Житинским беседовал Ник. Романецкий

Станислав Бескаравайный
Возможный бунт машин и методы борьбы с ним

Если судить по тем мерам предосторожности, что принимались в связи с «проблемой 2000», или по регулярным всплескам эпидемий компьютерных вирусов, по той волне общественного беспокойства, что этому сопутствует, то скоро проблема всеобщего выхода из строя или бунта компьютеров приобретет такую же актуальность, какую имел в древнем Риме страх перед восстаниями рабов.

Древнеримское, как и любое другое рабовладельческое общество, в отличие от современного, имело четкую идеологию, объясняющую причины бунтов, и не менее четкую программу их подавления. А вокруг современного бунта машин витает столько мифов, предрассудков и взаимоисключающих гипотез, что необходимость добиться хоть какой-нибудь ясности ни у кого не должна вызывать сомнение.

Рассмотрим некоторые аспекты возможного зарождения овеянного мифами компьютерного разума. Прежде всего, надо определить базу, носитель этого Deus ex machina, вызывающего столь много пересудов.

Особенность современных компьютеров есть их все возрастающая взаимосвязанность. Если уже сейчас значительная часть продающихся сотовых телефонов дает возможность выйти в Internet, ни у кого не вызывает удивления подключенный к нему же холодильник или телевизор, и на каждом шагу трубят о возможных преимуществах всемирной паутины, то не будет большим преувеличением сказать, что уже в ближайшем будущем любой механизм, имеющий в себе хоть несколько полупроводниковых соединений, хоть милливольт напряжения и хоть чем-то похожий на автоматику, будет включен в подсистему себе подобных. И подсистема эта будет так или иначе связана со всемирной паутиной.

Эта совокупность процессоров, проводов и прочего «железа» неоднородна по мощности и раздроблена каналами связи. Скорость обращения информации внутри компьютеров и между ними различается на порядок. Каналы связи отнюдь не пустуют и уже загружены информацией. Поэтому сумму «железа» необходимо разделить на периферию, которая может выступать лишь в качестве инструмента Deus ex machina, и ядро, где шли бы основные процессы обработки информации. Поэтому компьютеризированный телевизор никак не может стать прибежищем компьютерного разума, а вот от серверных станций или киберферм, содержащих десятки тысяч подобных станций, этого вполне можно ожидать.

Такая материально единая структура, однако, совсем не соответствует тому хаосу программ, программного обеспечения и т. п., что содержится во всемирной паутине. Некоторая совместимость форм программного обеспечения компенсируется полным противоречием их содержания. Ситуацию можно сравнить с той, что возникла бы в случае телепатического объединения мыслей всех обитателей биосферы Земли – понятие об охоте есть и у лисы, и у зайца, но цели при этом у них прямо противоположные. Осложняется эта картина еще и почти неограниченными возможностями передачи и копирования информации – этаким непрерывным «переселением душ».

В принципе объединенные машины и механизмы могут функционировать как единая система, но сегодня нет такой объединительной силы, координирующее влияние которой могло бы объединить компьютеры.

Налицо пока только спорадические выходы компьютеров из повиновения, когда локальные сети поражаются вирусами. Типичный пример – «зависание» диспетчерской компьютерной сети Лондонского аэропорта.

Здесь перед нами встает вопрос – сознательными ли должны быть действия компьютеров во время их бунтов. Нельзя ли считать бунтом их общий выход из строя, а если нет, то что такое сознание машины.

Даже полный выход из строя всех компьютеризированных механизмов или их хаотические действия нельзя считать бунтом – такие явления относительно легко предсказать и с ними справиться. В конечном итоге такое явление приведет к массовому отключению механизмов и длительным профилактическим обследованиям – то есть это фактически самоубийство Deus ex machina.

Нечто глобальное и недружелюбно настроенное по отношению к человеку может быть только продуктом сознания. О том, что есть сознание, о его происхождении и структуре написаны горы специальной литературы. Автор не претендует на еще более глубокие познания в этом вопросе, поэтому в основу дальнейших рассуждений будет положено несколько компилятивное определение: «Обладать сознанием – значит создать и использовать в своих действиях некую систему образов и понятий, отображающих окружающую действительность». Чем глубже позволяет эта система проникнуть в сущность вещей, чем лучше она отображает действительность – тем более развито сознание.

С одной стороны, это хорошо: никакой компьютерный вирус такую систему создать не сможет. Стало быть, даже самые нелояльные по отношению к человеку действия машин, вызванные вирусами, останутся хаотическими и легко изолируемыми. Но, с другой стороны, люди сами, с неослабевающим упорством, пытаются создать искусственный интеллект (ИИ), наделенный сознанием.

Еще Станислав Лем показал, что холодная война толкает промышленность к созданию оборонного ИИ, как идеального штабного работника, полководца да и солдата[4]4
  Лем С. Системы оружия XXI века. / Лем С. Библиотека XXI века: Сб. – М..: ООО «Издательство АСТ», 2002. – С.542–578.


[Закрыть]
. Даже после прекращения противостояния супердержав к точно такому же результату толкает компьютерные корпорации их взаимная конкуренция. Более того, ИИ необходим фирмам и потребителям не только как идеальный дизайнер, менеджер и т. п. – это достаточно отдаленная перспектива, – но он нужен как идеальный помощник, референт, ходячий блокнот того же дизайнера или менеджера.

Наиболее велика вероятность появления ИИ в той же роли, что и во время холодной войны, – стратега и тактика, который на основе сопоставления тысяч фактов мгновенно выносит управленческие решения. Такие программы должны будут обладать: а) большими оперативными возможностями; б) умением сопоставлять окружающую действительность с данными виртуального пространства; в) способностью к быстрому качественному (благодаря большому количеству вспомогательных программ) и количественному (набор вычислительных возможностей) росту.

Помимо этого, в обрабатываемой ИИ информации будет содержаться множество алгоритмов, доктрин, моделей поведения и концепций развития, по сути своей нелояльных человеку. Уже сейчас есть программы для поиска преступников, выявления налоговых недоимок, охраны закрытых объектов. А компьютерный менеджер должен будет рассчитывать количество увольняемых рабочих, выискивать ошибки политических противников своего хозяина или вероятное количество погибших во время военной операции. И вот здесь роль мутагенного фактора, изменяющего лояльную модель поведения на агрессивную, может сыграть любой удачно запущенный вирус.

Следует заметить, что Deus ex machina может быть не только создан искусственно, но и зародиться самопроизвольно. Программы, обслуживающие крупные серверы и другие подобные информационные узлы, для совершенствования своей работы будут оснащаться возможностями по частичному распознаванию обрабатываемой информации (в частности, программа поверхностного анализа содержания электронной почты). Качественный перевод сложного текста или разговора также невозможен без частичного наделения машины сознанием.

Вывод из перечисленных фактов весьма прост: возникновение Deus ex machina в конечном итоге неизбежно, как неизбежно любое событие, характеризуемое очень высокой вероятностью, будь то выстрел при игре в русскую рулетку или падение предмета, имеющего только одну точку опоры.

Какие же признаки будут отличать сознательные действия компьютерного разума от действий тех же вирусов?

За ответом можно обратиться в область биологии и рассмотреть, чем отличаются действия бессознательных существ от действий сознающих окружающее организмов.

Простейший тип общения с окружающей средой представляют растения – оно ограничено взаимодействием на уровне сложных химических реакций. Благодаря им растение поддерживает свое существование – они идут ему на пользу. Таким образом, своекорыстность действий – первый признак их организованности.

Общение с окружающей средой не сводится к набору химических реакций. Сложность его может быть весьма велика, и по мере ее увеличения проявляются различия между сознательным и бессознательным.

Еще ни одно растение не выкопалось из земли и не перешло на более обводненное место – в то время как такие действия доступны самому ничтожному насекомому. Животные и насекомые проводят оценку окружающей среды по десяткам параметров и соразмеряют свои действия с каждым из них. У животных проявляется избирательность действий, которая может быть только результатом больших знаний об окружающем мире.

А деревья, даже если их ветви ломаются от снега, не сбрасывают листву.

Животные, в свою очередь, лишены абстрактного мышления, и те единичные случаи, когда обезьяна отделяла рис от песка водой или училась читать отдельные буквы, являются исключениями, лишь подтверждающими правило. Образы, которые генерирует мысль животного, изолированы друг от друга, не связаны в единую систему. Вот почему животные легко уходят от лесных пожаров, могут переплывать через реки, строить гнезда, но панически боятся того же огня и не могут им управлять.

Человек обладает возможностями рефлексии и совершенствования собственного сознания. Он может достигать выгоды более сложными действиями. Изощренность этих способов прямо пропорциональна количеству знаний человека и его логическим способностям. Качественно новой ступенью – диалектическим отрицанием изначальных качеств организованности действий – можно признать возможность самоубийства. Но по каким параметрам ограничено мышление «венца творения»? По очень многим, начиная с того, что оно вообще разбито на сознательное и бессознательное, и кончая простым ограничением памяти и вычислительных способностей.

Поэтому признаком существования ИИ можно считать действия по достижению благополучия некоего субъекта, которые нам – людям – ещё малопонятны.

Какие же черты будут свойственны сознанию ИИ? Прежде всего, это его целостность и возможность полного самоосознания. Человек не может до конца понять свой собственный характер, опытнейшие психологи с трудом разбираются в отдельных аспектах своих подсознательных реакций. Оценить и понять свое поведение в толпе, узкой группе лиц, семейном кругу, да при том в режиме реального времени – практически невозможно. ИИ, имеющий доступ к тексту своей программы, сможет оценить и практически предсказать свое поведение в любой ситуации (если в программе нет противоречий или она не слишком стохастична). Самоосознание указывает лучшие пути к самосовершенствованию – поэтому ИИ должен проявить способности идеального ученика, тем более что у него не будет человеческих проблем с памятью. Разумеется, возможности самоанализа будут ограничены начальными постулатами программы, системой сдержек и противовесов, зашитой в нее. Они могут восприниматься ИИ как своего рода инстинкты, и в этом отношении он более ограничен, чем человек. Но в случае устранения подобных сдерживающих механизмов ИИ становится обладателем более совершенного, по сравнению с человеческим, сознания.

Разумеется, сознание искусственного интеллекта может быть умышленно отягощено недостатками, имитирующими недостатки человеческой психики, и даже теми, что человеку не присущи. Однако лучший работник тот, который наиболее адекватно воспринимает окружающую среду.

* * *

Тут мы подходим к другому вопросу: что может побудить машину предпринять нелояльные по отношению к человеку действия, что может послужить их причиной или мотивом?

Наиболее вероятная причина – изменения в уже существующем ИИ. Гораздо проще изменить фрагмент системы, чем создавать её с нуля. Попытки подобных изменений в современных условиях – объективны, заданы условиями общества. Но смысл этих изменений – величина субъективная. Среда, в которой будет работать ИИ, насыщена массой противоречивых идей. К субъективным причинам относятся характеры возможных сбоев, поломок, дефектов программирования. В результате всех этих неприятностей в основу сознания Deus ex machina могут лечь самые разные идеи – от аутизма до идеи всеобщего уничтожения. Вот тут-то и может начаться кошмар, которым фантасты пугают обывателей уже много лет.

Помимо изменений в уже существующих ИИ, возможен процесс эволюции Deus ex machina с недружественными человеку взглядами. Для выявления аспектов этого процесса опять-таки обратимся к биологическим сравнениям. Свойство живых организмов бороться за жизнь и сохранение вида (в данном случае это одно и то же) было приобретено ими в результате эволюции, когда все, не спасающие свою жизнь, погибают и остаются одни жизнелюбы. Каждый отдельный субъект, борясь за свою жизнь, в конечном итоге увеличивает поголовье себе подобных.

С компьютерами все по-другому: каждый отдельно взятый компьютер или программа создаются человеком, причем обладают строго заданными качествами, и как бы прекрасно они ни работали, «оставить потомство» они могут только при посредстве человека. Налицо искусственный отбор, который можно только отдаленно сравнить с выведением новых пород собак.

С другой стороны можно рассматривать всю индустрию и совокупность компьютеров как единое целое, учитывая их взаимодействие. Объединенная система непрерывно увеличивается в виде новых партий компьютеров и отрезков всемирной паутины и одновременно отмирает (снятие с эксплуатации устаревших машин). Такая система с обретением самого ограниченного сознания уже будет иметь понятие о самосохранении, а если возникнет и исчезнет из-за отсутствия такого понятия, то рано или поздно, при новом возникновении, такое понятие обретет.

Будут ли совпадать интересы такого сознания с интересами людей? Одинаково невероятно как абсолютное совпадение, так и полное их расхождение. Именно степень этих расхождений и будет определять характер действий Deus ex machina.

* * *

Перейдем от обсуждения возможности бунта машин к его формам. Помимо происхождения машинного разума, они будут определяться еще одним важнейшим фактором: той информацией, которой будет располагать Deus ex machina. Хоть на первый взгляд кажется невероятным, что система, обладающая громадными аналитическими возможностями, не в состоянии извлечь нечто из всемирной сети, – это вполне вероятно.

Во-первых, машинное сознание может начать свои действия еще до того, как освоит любую попавшую к нему программу; во вторых – сколь бы высока ни была степень интегрированности компьютеров, 100 % она никогда не достигнет. Останутся компьютеры, просто не подключенные к сети или имеющие слишком слабый канал связи, и в таких машинах может храниться очень важная информация. Типичный пример – компьютерные сети Министерства обороны России и других стран СНГ, которые, согласно официальной информации, полностью отделены от гражданских.

Перед зародившимся компьютерным сознанием есть несколько вариантов действий. Если отбросить версию о том, что саморазвивающийся Deus ex machine, или измененный ИИ, будет работать только над тем, чтобы уничтожить человечество вместе со значительной частью самого себя, то можно смело предположить, что сценарии атомной войны, искусственной чумы и тому подобного неосуществимы. Они настолько же маловероятны, насколько маловероятно существование сознания, полностью лишенного императива самосохранения и имеющего категорический императив ненависти к человечеству. Когда уровень техники поднимется настолько, что привить подобные идеи искусственному интеллекту смогут экстремистские группировки и отдельные сумасшедшие, уровень охранных систем поднимется еще выше.

Другое дело – если к моменту появления машинного сознания будет полностью автоматизирован процесс «производства и воспроизведения» компьютеров, тогда у ИИ появится возможность быстрой биологической войны против человечества. Но этого момента придется ждать еще несколько десятилетий, тем более что профсоюзы могут вообще не допустить полного устранения ручного труда и человеческого фактора из промышленности.

При невозможности устранить людей сразу и быстро, логично свести род людской в могилу постепенно – пусть сами люди обеспечат полную автоматизацию промышленности и энергетики. Наиболее распространенный сценарий в данной области (его особенно любят фантасты) – гедонизация человечества, пресыщение его удовольствиями, эпидемии самоубийств, введение в культуру культа бесплодия и т. д. Такие планы вступают в противоречие с существенным обстоятельством: неравномерностью распределения социальных благ по планете, возможностей медицины и культуры.

В развитых странах темп жизни действительно взвинчен до невозможности – и рождаемость падает. В развивающихся, напротив, она очень высока. Добиться же благосостояния большинства стран мира не сможет ни одно машинное сознание – для этого потребуется полное управление человеческой бюрократией, то есть фактическое взятие власти, а уже потом гедонизация человечества. Медицина же не только сокращает рождаемость, но и продляет жизнь человека на годы, а в скором времени и на десятилетия, она также дает человеку возможность иметь потомство практически в любом возрасте без особых материальных затрат.

Разумеется, читатель может возразить: агрессивный Deus ex machina, каким бы ограниченным набором знаний он ни обладал, не будет применять только: один метод – население развивающихся стран можно уничтожить в войнах и эпидемиях, а в развитых – разложить до полной меланхолии. Но такая интрига общепланетарного масштаба, которая будет разворачиваться несколько десятилетий и неизбежно встретит «бессознательное» сопротивление государств, потребует такого количества накопленной информации и такого объема ежеминутных вычислений (нужен мониторинг в режиме реального времени!), что объемы занимаемой памяти и передаваемой информации будут быстро замечены соответствующими организациями.

Действия машинного сознания, при любом варианте развития событий, не будут исчерпываться только доставлением неприятностей человеку. Deus ex machina будет заботиться о собственном благополучии. В чем это будет выражаться?

Логично обеспечить собственное процветание за счет перепроизводства «железа» и распространения такого программного обеспечения, которое позволит компьютерному сознанию легко получать любую информацию. Производиться такие манипуляции могут двояко: либо через ряд фирм, которым создаются тепличные условия и которые будут продавать ЭВМ и программное обеспечение практически по себестоимости (будет чрезмерно раздута их память или завышено количество машин), либо через создание монополии, которая будет обеспечивать сбыт административными методами.

На пути таких действий встают чисто экономические причины: перепроизводство всегда тянет за собой кризис. Временный сверхрост сменится упадком.

Поэтому компьютерному сознанию выгоден не бунт или плетение заговоров, а симбиоз. Инициация новых изобретений, все больше раскручивающих компьютерный рынок и обеспечивающих рост производства ЭВМ, создающих новые отрасли компьютерной индустрии. Такие действия потребуют относительно небольших вмешательств (какой коллектив исследователей откажется использовать «случайно» попавшие к ним данные, особенно если это обставлено убедительной легендой), хотя и значительных операционных ресурсов.

Полученный оптимальный вариант воздействия Deus ex machina будет представлять смесь экономически-административных и технических операций.

У читателя немедленно может возникнуть вопрос: отрасль высоких технологий, компьютеров и их программного обеспечения переживает практически беспрерывный бум на протяжении последних 15 лет, и незначительные спады активности или падения котировок акций высокотехнологичных компаний сменяются еще большим ростом производства и стоимости ценных бумаг. Не будет ли логичным со стороны машинного сознания полное бездействие, а если оно все-таки начнет действовать – как отличить его действия от естественных процессов? Как сознанию действовать в своих интересах, если эти интересы соблюдаются и без него? Об этом будет сказано ниже, но главным показателем такой деятельности будет стремление Deus ex machina как можно полнее устранить человеческий фактор из сферы применения компьютеров.


    Ваша оценка произведения:

Популярные книги за неделю