Текст книги "Журнал "Полдень XXI век" 2005 №1"

Автор книги: Наталья Резанова

Соавторы: Аркадий Шушпанов,Александр Житинский,Алексей Лукьянов,Владимир Данихнов,Мерси Шелли,Сергей Стрелецкий,Николай Горнов,Юрий Косоломов,Полдень, XXI век Журнал,Михаил Кондратов
сообщить о нарушении

Текущая страница: 21 (всего у книги 22 страниц)

Наконец, рассмотрим вариант развития событий, наиболее выгодный человеку, – его сознательное сотрудничество с компьютерным сознанием. Но выгодно ли это машине? Выход из подполья Deus ex machina, даже при самой продуманной и тонко осуществленной пропагандистской кампании, – вещь чрезвычайно для него опасная. Даже если он делом докажет свою необычайную полезность для человека, неизбежно укрепятся позиции всех антитехнологических движений: у множества людей появится новый комплекс неполноценности и жажда от него избавиться.

Политико-финансовые группировки, каждая из которых заинтересована в развитии своей промышленности и ослаблении позиций своих конкурентов, будут щедро спонсировать подобные движения в стане своих соперников. К тому же, каждому из власть предержащих придется абсолютно сознательно этой властью поделиться – причем поделиться без малейшего шанса вернуть её себе, своим преемникам или своей группировке. А жажда власти считается одним из основных признаков Homo sapiens.

Даже если все процедуры «выхода в свет» пройдут для всемирной паутины благополучно и люди будут включать больше компьютеров, чем отключать и сжигать, если удастся сохранить дееспособными основные носители информации – неизбежно составление некоего пакта, соглашения об обязанностях и т. п. Люди в этом соглашении потребуют минимум двух вещей: четких сведений о дислокации и возможностях машинного сознания – во-первых, и невмешательства в дела человека – во-вторых (почти неизбежно требование безукоризненного здоровья компьютерных сетей).

Кроме того, во всякой технологической катастрофе или собственной ошибке люди будут подозревать действия компьютера. Почти неизбежно принятие законов о запрещении 100 %-ной автоматизации производства и ограничении мощностей, отдаваемых в распоряжение компьютерного сознания. Почти неизбежны попытки низвести Deus ex machina до человеческого уровня. Словом, компьютерному сознанию будет закрыт путь к абсолютной власти и бесконечному развитию.

Острой проблемой легализовавшегося Deus ex machina станет его интернациональный характер, столкнувшийся с интересами отдельных государств. Появление нелояльного к власти или полностью не зависимого от неё компьютерного сознания в состоянии взбесить любого чиновника.

Выгода, полученная компьютерным сознанием от легализации, – это всего лишь временная безопасность весьма сомнительного качества. Люди не будут серьезно опасаться компьютерных бунтов до тех пор, пока не получат реальных доказательств их возможности. Мыслимо ли лучшее доказательство, чем появление Deus ex machina? Даже если компьютерное сознание будет приносить миллиардные прибыли любой стране – риск неуправляемых политических процессов всегда будет висеть над ним дамокловым мечом.

Поэтому компьютерное сознание, о котором ничего не будет известно, пойдет на контакт с людьми только при отсутствии другой альтернативы. И тот симбиоз, в который оно вступит с человечеством, не будет явным.

* * *

Если Deus ex machina не пойдет на контакт с человеком при описанных условиях, то логично было бы создать такие условия, при которых это станет для машинного сознания необходимостью либо возникновение Deus ex machina станет вообще невозможно.

Очевидный, хотя и самый наивный способ профилактики: размещение рядом с серверными узлами топоров, снабженных надписью «Применять в случае бунта компьютеров».

К сожалению, эффективность этой меры весьма низка и может смело считаться практически нулевой, как потому что Deus ex machina вряд ли столь грубо проявит себя, так и потому что неизбежны ложные тревоги.

Другое дело – мероприятия по приданию всемирной паутине определенных качеств. Эти действия можно разделить на меры, направленные против возникновения Deus ex machina, и меры, препятствующие его действиям, понуждающие его раскрыть свое существование.

Действия первого рода ведутся уже не одно десятилетие, хотя и с совсем другими целями: борьба с вирусами, поражающими программы; борьба с незаконными проникновениями в закрытые участки сети; стремление уменьшить емкость программ; борьба за экономию памяти и сокращение времени передачи сообщений. Все эти меры породили целую индустрию, культуру постоянного наблюдения за состоянием программ в компьютерах – созданы десятки тысяч программ, упорядочивающих информацию, программ, препятствующих распространению вирусов, программ, информацию классифицирующих, программ, следящих за использованием машинного времени.

Действия компьютерного сознания даже в начальном периоде его развития, не говоря уже о дальнейших, будут законспирированы на порядок тщательнее, чем действия любой группы хакеров, и на первый взгляд обнаружить их невозможно. Но на это утверждение находится серьезное возражение: государство вряд ли оставит без присмотра те гигантские капиталы, что сосредоточиваются во всемирной паутине. Сейчас раскрывается относительно небольшая доля высокотехнологичных преступлений – взломов сайтов, перечислений денег, краж информации. Однако существует и обратная тенденция: сетевая торговля, например, была бы просто невозможна при слишком высоком проценте краж; компании, предоставляющие интернет-услуги, в конечном итоге разорились бы. И это все притом, что всемирная паутина сейчас имеет славу среды, где действует очень мало законов и государства практически не ограничивают деятельность своих граждан. Но именно рост капитализации Интернета требует вмешательства государства – надо как-то собирать налоги (довольно щекотливой для фискальных служб США оказалась ситуация, когда покупки, сделанные по сети вне пределов штата, где располагается покупатель, оказались не подлежащими налогообложению).

Единственный способ хорошо собирать налоги – это учет всего и вся: от трафика N-й компании до пропускной способности некоей волоконно-оптической линии связи.

Но у этих, в целом правильных, мер есть два недостатка: во-первых, эти меры будут приниматься против людей, во-вторых – сколько-нибудь повзрослевшее компьютерное сознание почти все свои действия будет проделывать легально, под прикрытием вымышленных компаний. Кражи, совершаемые людьми, как правило, имеют конкретную цель: чье-то обогащение. Хулиганские поступки рассчитаны на внешний эффект. Deus ex machina не будет свойственно ни то, ни другое. Конкретный физиологический получатель денег и информации в данном случае будет полностью отсутствовать. Извечный принцип всех сыщиков – кому выгодно – опять-таки будет бессилен. Хулиганство компьютерному сознанию не будет свойственно, разве только в качестве тактического прикрытия.

Поэтому основным признаком действий Deus ex machina будет: либо рост количества компьютерных преступлений, при котором виновных вообще невозможно будет отыскать; либо рост числа людей, которых в преступлениях такого рода подозревают, но которые не извлекли из своих возможных правонарушений никакой выгоды (при возможностях компьютерного сознания сделать кого-то, не имеющего алиби, подозреваемым – элементарно).

Но как уже говорилось: нелегальные действия – признак детства любой системы. Компьютерное сознание, перешедшее определенный порог развития, немедленно обзаведется легальным прикрытием. Наиболее вероятный и удобный способ – образовать виртуально юридическое лицо. Такое юридическое лицо, или ряд таких лиц, приобретет достаточное количество мощностей для сохранения ядра Deus ex machine. Учитывая возможность круглосуточной работы машинного сознания и легкость заключения через всемирную паутину небольших контрактов, можно сказать, что в деньгах оно нуждаться не будет. Если же учесть и то, что компьютерное сознание может работать одновременно под десятками псевдонимов, – необходимость в мелких кражах очень скоро для него отпадет. Такие виртуальные фирмы будут аккуратно платить налоги, а те юридические лица, что будут числиться владельцами основных фондов машинного сознания, будут идеально законопослушны.

Длительность существования таких фирм будет определяться длительностью времени, которое они смогут просуществовать, общаясь с людьми исключительно виртуально. Найм адвокатов и технического персонала, обслуживающего такие фирмы, достаточно сложен и требует отдельного рассмотрения.

Наиболее очевидным способом борьбы с подобными явлениями будет требование личной встречи владельца или руководителя фирмы с чиновником – однако это не дает полной защиты от различных многоходовых комбинаций. Виртуальные «работники» такой фирмы также должны быть довольно уязвимы. Самые достоверные их биографии рассеются при попытке личной встречи с этими «работниками» или с их родственниками. Выявлением таких внешне благопристойных организаций и должны заниматься компетентные в разоблачениях органы.

К сожалению, специально за Deus ex machina никто не охотится и его профилактикой не занимается, вероятность таких действий довольно низка. Даже если охота начнется, произойдет та же история, что и с атомным и химическим оружием: договор о нераспространении ядерного оружия действует довольно эффективно, в то время как иприт применяется террористами довольно часто. Все дело в соотношении ресурсов, необходимых для создания бомбы и газа. Рост средних технологических возможностей, в конце концов, сделает создание кустарной атомной бомбы вопросом времени. Тогда массовый прорыв в ее изготовлении можно будет остановить лишь жесточайшим контролем за сырьем.

С компьютерными технологиями так нельзя – сырье в виде микросхем выпускается миллиардными тиражами, а программистов учат на каждом углу. Да и как можно наложить запрет на общедоступную вещь – пользование компьютером? Это все равно, что запретить астрономию при наличии звездного неба.

Напрашивается печальный вывод: современные контрольные средства вообще и государственные в частности с крайне малой вероятностью смогут засечь измененный ИИ или самозародившийся Deus ex machina. Этот процесс нельзя остановить – его надо возглавить. Если компьютерное сознание будет обладать аналитическими возможностями, превышающими возможности любого человека или коллектива, особенно в тактическом отношении, надо иметь программы, восполняющие этот недостаток человека. По общему принципу действия не отличающиеся от современных антивирусных, они должны вести постоянный мониторинг всемирной паутины, выявляя несоответствие в финансовых счетах, биографиях и поведении людей. Идеально такие функции сможет осуществлять лишь лояльный человеку ИИ. Единственный способ оградить себя от Deus ex machina – первому создать ИИ.

Здесь перед людьми встает другая проблема: осуществление контроля относительно более простой системы за деятельностью системы относительно более сложной. Допустим, коллектив из 30, 130, 230 и т. д. специалистов обслуживает и контролирует ИИ, который, в свою очередь, контролирует сеть. Помимо ИИ-охранника, в наличии будут еще десятки и сотни ИИ, находящихся в распоряжении государственных учреждений и частных лиц. Число ИИ будет непрерывно увеличиваться. Законы Паркинсона будут препятствовать выделению значительных средств такому коллективу до реальных проявлений Deus ex machina, и он вряд ли будет включать в себя больше нескольких сотен человек. Значит, какими бы эффективными средствами контроля они ни располагали – они смогут контролировать ИИ лишь определенного уровня и никак не мощнее (в силу ограниченных возможностей каждого человека). Но Deus ex machina, обходя закон, сможет очень быстро привлечь гораздо большие ресурсы, чем имеющиеся у контролирующего ИИ, и последний сможет обнаружить неподконтрольное компьютерное сознание только в период его «детства».

Как способ контроля непрерывно совершенствующегося ИИ, в конечном итоге будет создан более простой ИИ. К этому неизбежно придут в своем развитии Web-доктора. Следующим шагом будет постепенное построение целой системы, наподобие матрешки, в которой человек сможет контролировать только ИИ начального уровня. Но даже самая умная собака не поймет нюансов дебатов о пошлинах на ввоз мяса. Даже самый гениальный математик не сможет свободно ориентироваться в 8, 12, 20-мерном пространстве.

При современных темпах развития электроники человек неизбежно окажется в подобном положении. Не поможет даже увеличение числа людей, занимающихся проблемой контроля за ИИ, – по достижении определенной их численности в дело вступят те же законы Паркинсона. Эффективность действий даже самого большого коллектива нельзя поднимать бесконечно.

Против подобных доводов – о тупиковости развития охранных ИИ, о неизбежности девиации потребительских ИИ вообще – есть сильный контрдовод: все ИИ будут снабжены ограничениями, построенными по законам Азимова (машина не имеет права…). Зачем контролировать процесс, если можно задать его начальные параметры? Но, увы, это ненадежный путь. Со времени гильотины механизмы убивали и продолжают убивать людей, причем как с согласия государства (сейчас ядовитую инъекцию осужденному в некоторых штатах США осуществляет автомат), так и без оного. Человек причиняет вред человеку, и в обозримом будущем это не удастся предотвратить. Противоречие между действительностью и начальными установками неизбежно приведет к изменению характеристик самообучающегося ИИ. Поэтому трудно требовать от ИИ соблюдения законов Азимова, если сами люди не соблюдают категорический императив Канта. А человек всегда будет отчасти средством для других людей, пока будет оставаться лучше машины хоть в каком-то своем качестве. Наконец, законы Азимова не предотвращают гедонистического упадка человечества.

Посредники между человеком и ИИ лишь оттянут момент утраты контроля за последним.

Человеческое сознание должно само обладать возможностями машины. Выполнимо ли это?

Это станет осуществимо, как только возможности вычислительной техники и математики позволят описать все процессы мышления человека. Программа, точно копирующая сознание, возможна настолько, насколько возможны другие программы, описывающие физические, психические, химические процессы.

Если человек хочет безгранично усовершенствовать свое сознание, делать его всё более могущественным, необходимо менять его носитель – это очевидно. Причем новый носитель не должен иметь ограничений в наращивании мощностей, иначе это будет еще один тупиковый путь развития. Это могут дать только компьютеры.

Здесь перед человечеством встает целый комплекс проблем, которые можно условно разделить на технологические и этические. Технические проблемы состоят в самой возможности математического описания личности человека и – механизмов его мышления. Необходимо не только детально зафиксировать все эти процессы, но и определить, не повлияют ли фатальным образом новые возможности человеческого сознания на его личность.

Этические проблемы начинаются от возможности самого факта смены носителя человеческого сознания и заканчиваются вопросом допуска перенесенных сознаний к воспитанию детей.

Технологический проблемы, несомненно разрешатся. Если мышление – процесс, то его описание языком математики лишь дело времени. Ведь в нем участвуют лишь электрохимические явления, и не используется радиоактивность, распад элементов и т. п. Наличие только изотопа углерода С₁₂ в живых тканях – это исключение, лишь подтверждающее правило. Число элементов, обеспечивающих процесс мышления, ограничено, и их совокупность может быть математически описана. А воздействия на мозг, не воспринимаемые нейронами как сигналы (изменение магнитного, гравитационного полей, прохождение через мозг нейтрино), могут быть введены в уравнение как константы либо генераторы случайных чисел.

Более сложная проблема: сохранение индивидуальности человека. Чудовищно увеличившаяся память и возможность обработки информации, отсутствие сна и болезней неизбежно скажутся на характеристиках мышления. Чего стоит только одна возможность вести диалог одновременно с несколькими собеседниками. Здесь важнейшую роль сыграет соотношение сознательного и бессознательного в копии человеческого ума. Развивающееся сознание сможет провести самоанализ и самоотредактироваться, но если оно должно оставаться человеческим – на самоусовершенствование необходимо накладывать определенные ограничения. В то же время – кто из взрослых людей в свое время не играл в куклы, солдатиков и т. п.? Личность взрослого является «правопреемницей» той личности ребенка, что возилась с игрушками, и в памяти взрослый человек может воссоздать ранние моменты своей жизни. Но будет ли он всерьез забавляться со старыми игрушками? Рост личности повлечет смену приоритетов сознания.

Этические проблемы, большая часть которых суть продолжение экономических и политических проблем, более разнообразны по своей природе. Главнейшая проблема – статус перемещенного сознания. Его нельзя уже считать абсолютно человеческим, но нельзя и лишать гражданских прав.

В то же время, если перемещенное сознание станет во главе какого-либо государства, население воспримет владыку, как машину, правящую людьми. Соответственно, неизбежны очень тяжелые и кровопролитные общественные процессы.

На взгляд автора, наиболее разумным было бы следующее общественное устройство. Человек рождается и проживает жизнь, в конце которой он может перевести свое сознание на электронный носитель. Неизбежно установление определенного денежного ценза. Перемещенное сознание не допускается к непосредственному осуществлению властных функций, но имеет право голоса. Разумеется, перемещенные сознания приобретут очень большую косвенную власть за счет своих способностей и денежных ресурсов. Программы, обладающие той же степенью свободы, что и перемещенные сознания, не допускаются к распространению в сети, и на усовершенствованные человеческие сознания возлагается функция слежения за этим.

Вечная жизнь реинкарнированных личностей не будет безоблачной в виду необходимости постоянного самосовершенствования – к этому их будет подталкивать как взаимная конкуренция, так и развитие компьютерных вирусов.

Такое воплощение в жизнь парадокса: «Чтобы избежать господства машины – надо стать машиной», может спасти человечество от утраты влияния на дальнейший ход развития цивилизации.

Сергей Соловьев
Контратака мельниц

Летит, как пух от уст Эола…

Мир меняется… Из области поэзии имя Эола переходит в область техники. Чаще всего ныне его приходится слышать в связи с ветрогенераторами, растущими, как диковинные растения, по морским берегам, на островах, на вершинах холмов. Те, кому приходилось проезжать по дорогам Западной Европы в начале 90-х и ныне, в начале XXI века, могли обратить внимание, насколько выросло количество тонких металлических башен, увенчанных неторопливо вращающимися лопастями. Обращаешь внимание уже не на отдельные башни, а на целые группы, появляющиеся в пейзаже. В маленькой Дании их трудится более 5 тысяч.

Появилось много сторонников экологически чистой энергии. Появились и противники, которые говорят о порче бесценных пейзажей. Печатаются статьи, ведутся дискуссии. Это тоже вызывает любопытство и желание самому разобраться в предмете.

Ветрогенератор – один из символов меняющегося мира, и, как от всякого символа, во все стороны от него тянутся ниточки смысла, позволяющие, если честно потратить на это некоторые усилия, лучше разобраться ив себе и в мире.

Например, нет ли в повсеместном строительстве ветрогенераторов некоторого экологического донкихотства.

Во всяком случае, если перед нами иллюзия, то иллюзия массовая. Согласно недавним опросам общественного мнения, девять французов из десяти считают желательным дальнейшее развитие систем ветрогенераторов. Планируется, что к 2010 году во Франции 21 % электроэнергии будет обеспечиваться так называемыми «возобновляемыми» источниками (ветровая, солнечная, гидроэнергия). В настоящее время доля их всего лишь 4,7 %.

Диаметры роторов ветрогенераторов, подобно размерам собак, колеблются в очень широком диапазоне. В случае ветрогенераторов – от метрового до 50–60 метров. Высота мачты или башни, на которой устанавливается генератор, может достигать у самых крупных порядка 80 метров. Средняя мощность у самых маленьких – несколько сотен ватт, у самых больших – тысяча киловатт и больше.

Нагрузки, которые приходится выдерживать всей конструкции, растут пропорционально кубу скорости ветра и квадрату диаметра ротора, поэтому начиная приблизительно с трехметрового размаха лопастей несущая конструкция ветрогенератора становится очень серьезным инженерным сооружением.

Отсюда – разброс цен (затрат на сооружение). Самые маленькие вполне можно соорудить своими руками из подручных материалов. Вполне доступные инструкции имеются в Интернете под рубрикой «wind power». Ветрогенераторы мощностью до киловатта заводского производства стоят порядка 1000 долларов. Генератор мощностью около 150 киловатт вместе с установкой обойдется, по западноевропейским данным, в 150 тысяч долларов, генератор в 1000 киловатт – порядка 700 тысяч долларов.

Ветровая электроэнергия в Западной Европе обходится несколько дороже энергии, произведенной с помощью традиционных тепловых станций. Так, в Дании затраты на производство киловатт-часа электроэнергии обычным путем равняются примерно 0,05 доллара, а на производство при помощи ветрогенераторов – на 25 % больше.

К слову, в России на сегодняшний день даже в оценках себестоимости произведенной обычным путем электроэнергии царит большой разнобой, приводятся цифры порядка 30–80 копеек (0,01–0,025 доллара) за киловатт-час, а потребительские тарифы скачут от 30–40 копеек до 2,30 рубля.

Разумеется, экономические показатели ветрогенераторов меняются от страны к стране, от региона к региону (зависят от ветров, дующих в той или иной местности), от конкретных условий (город, поселок, уединенный дом или хутор). Есть основания считать, что в перспективе себестоимость ветровой энергии будет снижаться, а полученной традиционными методами – возрастать.

Говоря об энергии ветра, мы оказываемся, быть может, не в самом центральном, но в одном из многих узлов, где переплелись экономические, технические проблемы и тревоги и страхи, беспокоящие современного человека. Недаром в Интернете тема ветровой, солнечной и других возобновляемых видов энергии зачастую оказывается рядом с такими темами, как выживание в кризисных ситуациях (survival).

А когда речь идет о подготовке к выживанию, цена оказывается не самым главным. В массовом сознании – и в коллективном бессознательном – с различными источниками энергии ассоциируется гораздо больше, чем просто понятие об источнике комфорта. Вода, ветер, солнце – за ними с древнейших времен стояли какие-нибудь божества. Нефть, газ, уголь, радиоактивные вещества извлекаются из недр земли, при этом само поведение борцов против использования ядерной энергии заставляет предполагать, что для многих из них, помимо чисто рациональных мотивов, связанных с оценкой возможного риска, затрат на утилизацию отходов, большую роль играет то, что эта энергия в буквальном смысле представляется чем-то вроде «исчадия ада».

Наряду с весьма «приземленной» борьбой тех или иных тенденций в развитии реальной энергетики, разворачивается другая в некоем трудно-наблюдаемом пространстве, для которого нет устоявшегося названия, его можно было бы достаточно условно называть пространством мифа.

Изредка то, что происходит в этом пространстве, выплескивается в так называемый реальный мир в виде каких-нибудь неожиданных идей или изобретений или порождается безумцами вроде Дон Кихота.

После недавней войны в Ираке автору приходилось слышать об идее использования ветрогенераторов, точнее, их башен, для защиты от низколетящих вертолетов и крылатых ракет. Между башнями можно было бы натягивать сети, на их вершинах устанавливать дистанционно управляемые ракетные комплексы. Читатель сам оценит степень осуществимости этой идеи, принимая во внимание расценки, упоминавшиеся выше. В виде примечания на полях можно добавить, что массовое строительство ветрогенераторов в качестве оборонительной меры могло бы слегка приблизить армию к состоянию самоокупаемости, а также сделать ее менее зависимой от частных энергетических компаний, чей патриотизм, особенно в России, остается сомнительным.

В конце концов, мы – часть Природы, и, возможно, через наши фантазии Гайа – планета Земля, понимаемая как единый организм, борется за свое выживание.

Вспоминается классификация исторических эпох, принадлежащая английскому историку Арнольду Тойнби. В этой классификации эпохи ассоциируются с четырьмя стихиями древних: землей, водой, воздухом и огнем. Эпоха великих географических открытий была эпохой, когда ведущая роль, дотоле принадлежавшая земле, перешла к воде. В двадцатом веке, по-видимому, наступила эпоха воздуха, что касается огня, то есть пока только ростки возможного будущего. Еще далеко до полного освоения воздуха. Самолеты и ракеты – только малая часть картины. Ветрогенераторы – эти растущие в высоту мельницы – часть другая. И многие опасности, угрожающие нам с высоты, это, скорее, свидетельство недостаточного, однобокого освоения стихии воздуха, нежели освоения чрезмерного…