Текст книги "Человек-компьютер"

Автор книги: Майкл Крайтон

Соавторы: Артур Селлингс,Дежё Кемень,Уинстон Маркс
сообщить о нарушении

Текущая страница: 5 (всего у книги 18 страниц) [доступный отрывок для чтения: 7 страниц]

4

– Ну, и какое у вас было чувство? – спросил доктор Рэмос.

– Я была зла, – сказала Дженет Росс. – Зла, как черт. Эта сестра, которая стояла и смотрела на все, делая вид, будто не понимает, что происходит. Но она отлично понимала!

– Вы рассердились?.. – доктор Рэмос не договорил.

– Из-за операции. Из-за Бенсона. Они все-таки его оперировали. Я с самого начала говорила им, с самого начала, что этого нельзя делать, но Эллис, и Моррис, и Макферсон хотели оперировать. Они захлебываются самоуверенностью. Особенно Моррис. Когда в послеоперационной я увидела, с каким смаком он глядит на Бенсона – бледного как смерть, замотанного в бинты, – я взбесилась.

– Но почему?

– Потому что он был такой бледный, потому что он…

Дженет умолкла. Она старалась найти адекватный ответ и не могла.

– Насколько я понимаю, операция прошла успешно, – сказал доктор Рэмос. – И после операции все больные обычно бывают бледными. Так что же вас взбесило?

После некоторого молчания Дженет проговорила:

– Не знаю.

Она услышала, что доктор Рэмос переменил позу. Видеть его она не могла, так как лежала на кушетке, а он сидел сзади нее в кресле. Наступило долгое молчание. Дженет смотрела в потолок и тщетно искала, что сказать. Ее мысли мешались, в них не было никакой стройности. Наконец доктор Рэмос сказал:

– Присутствие сестры, по-видимому, имело для вас большое значение.

– Разве?

– Вы ведь упомянули про нее.

– Я не заметила.

– Вы сказали, что там была сестра и она знала, что происходит… Так что же конкретно там происходило?

– Я была взбешена.

– Но вы не знаете почему?

– Нет, знаю, – ответила Дженет. – Из-за Морриса. Он так петушится!

– Петушится? – повторил доктор Рэмос.

– Излучает самоуверенность.

– Вы сказали «петушится».

– Послушайте, я ничего под этим не подразумевала. Просто к слову пришлось… – Дженет вдруг умолкла. Ее душил гнев, и она уловила дрожь в своем голосе.

– Вы и сейчас сердитесь, – сказал доктор Рэмос.

– Очень.

– Почему?

– Они не стали меня слушать.

– Кто не стал вас слушать?

– Да никто из них. Ни Макферсон, ни Эллис, ни Моррис. Никто меня не слушал.

– Вы сказали доктору Моррису или доктору Эллису, что вы сердитесь?

– Нет.

– Но излили свой гнев на доктора Морриса?

– Да.

Он подводил ее к какому-то выводу, но ей не удавалось понять, к какому. Обычно на этом этапе она уже все понимала. Но сейчас…

– Сколько лет доктору Моррису?

– Не знаю. Он примерно моего возраста. Тридцать, тридцать один. Что-то около этого.

– Примерно вашего возраста.

Эта манера повторять слова собеседника окончательно вывела ее из себя.

– Да, черт возьми, примерно моего возраста.

– И он хирург.

– Да…

– Легче срывать злость на том, кого вы считаете своим ровесником?

– Я никогда об этом не думала.

– Ваш отец тоже был хирургом, но он не был вашим ровесником.

– Можете не разжевывать.

– Вы все еще сердитесь.

Дженет вздохнула.

– Давайте сменим тему.

– Хорошо, – сказал доктор Рэмос тем безмятежным голосом, который ей иногда нравился, а иногда бесил ее.

5

Моррис терпеть не мог первичного приема. Такой прием вели главным образом психологи, и процедура была долгой и скучной. Статистика показывала, что из сорока человек, обращавшихся в НПИО, дальнейшему обследованию подвергался только один и лишь у одного из восьмидесяти четырех обнаруживалось органическое поражение мозга с нарушениями в поведении. Таким образом, первичные консультации, как правило, оказывались пустой тратой времени.

И особенно когда дело шло о пациентах «с улицы». Год назад Макферсон из политических соображений принял решение, что любой человек, который узнал о существовании НПИО и обратился туда за помощью, должен быть осмотрен. Разумеется, большинство пациентов по-прежнему приходили в НПИО с направлениями, но Макферсон считал, что авторитет отделения требует немедленного осмотра и тех, кто сам себя туда направлял.

Макферсон считал также, что каждый из сотрудников отделения должен время от времени проводить первичные приемы. Поэтому два дня в месяц Моррис вел прием в маленьких консультационных кабинетах с «зеркалами» из полупрозрачного стекла. Сегодня был один из его дней, и Моррис испытывал особенное раздражение. Радостное возбуждение после утренней операции еще не прошло, и ему меньше всего хотелось возвращаться к самым скучным из своих обязанностей.

Он с тоской взглянул на входящего в кабинет очередного посетителя. Это был длинноволосый молодой человек лет двадцати с небольшим, в джинсах и спортивной рубашке. Моррис приподнялся, здороваясь с ним.

– Меня зовут доктор Моррис.

– Крэг Беккермен, – его рукопожатие было мягким и искательным.

– Садитесь, пожалуйста. – Моррис указал на стул напротив стола, повернутый так, что лицо сидящего оказывалось точно напротив полупрозрачного стекла. – Что вас привело к нам?

– Я… хм… заинтересовался, – сказал Беккермен. – Я прочел о вас в журнале. Вы тут делаете операции на мозге.

– Совершенно верно.

– Ну, я и… я и заинтересовался.

– В каком смысле?

– В этой статье… Здесь можно курить?

– Конечно. – Морис пододвинул ему пепельницу. Беккермен достал пачку сигарет, вытряхнул на стол одну сигарету и закурил.

– Так, значит, в этой статье…

– Да-да. Там было написано, что вы вставляете провода в мозг. Это правда?

– Да, мы иногда делаем такие операции.

Беккермен кивнул и затянулся.

– Ну, а правда, что вы можете ввести провода так, что человек испытывает удовольствие? Сильное удовольствие?

– Да, – ответил Моррис, стараясь говорить без всякого выражения.

– Так это правда?

– Да, это правда, – сказал Моррис. Он встряхнул авторучку, показывая, что в ней нет чернил, и открыл ящик стола, чтобы взять другую ручку, нажав одновременно на кнопку, скрытую в столе. Тотчас же зазвонил телефон.

– Доктор Моррис слушает.

На другом конце провода секретарша спросила:

– Вы звонили?

– Да. Будьте добры, переведите звонки на научный сектор.

– Хорошо, – ответила секретарша.

– Благодарю. – Моррис повесил трубку, прикидывая, через сколько минут сотрудники научного сектора займут свой пост с той стороны полупрозрачного стекла.

– Извините, нас перебили. Так вы говорили?..

– О проводах в мозгу.

– Да. При определенных обстоятельствах, мистер Беккермен, мы делаем подобные операции, но пока они носят чисто экспериментальный характер.

– Ничего, – сказал Беккермен, попыхивая сигаретой. – Мне это подходит.

– Если вам нужна информация, мы можем подобрать для вас некоторые материалы, подробнее освещающие нашу работу.

Беккермен улыбнулся и покачал головой.

– Нет, нет, – сказал он, – этого мне не нужно. Я хочу, чтобы меня оперировали. Предлагаю себя в качестве добровольца.

Моррис сделал удивленный вид. Он немного помолчал, потом сказал:

– Ах, вот что!

– Послушайте, – продолжал Беккермен. – В статье говорится, что один импульс создает ощущение десяти оргазмов. Потрясающе.

– И вы хотите, чтобы вам сделали такую операцию?

– Да. – Беккермен энергично кивнул. – Вот именно.

– Но зачем?

– Вы шутите? Кто же не захочет?

– Возможно, – сказал Моррис. – Только вы первый, кто просит об этом.

– Так в чем же дело? – спросил Беккермен. – Это что, стоит слишком больших денег?

– Нет. Но мы не делаем операций без веских причин.

– О-о! – сказал Беккермен. – Так, значит!

Он встал и вышел из кабинета, покачивая головой.

На лицах трех сотрудников научного сектора было написано глубокое изумление. Они сидели в соседней комнате и все еще не спускали глаз с полупрозрачного стекла, хотя Беккермен уже давно ушел.

– Любопытно, – сказал Моррис.

«Научники» молчали. Наконец один из них кашлянул и сказал:

– Да, мягко выражаясь.

Моррис знал, чем сейчас заняты их мысли. Год из года они изучали вероятное развитие самых разнообразных проблем. Они натренированы думать о будущем – и вдруг им внезапно пришлось столкнуться с настоящим.

– Это электроман, – сказал один из них и вздохнул.

Идея существования электроманов в свое время вызвала большой интерес и даже послужила темой для академических изысканий. Тем не менее появление людей, у которых вырабатывалась бы неодолимая потребность в стимуляции электрическим током, напоминающая наркоманию, представлялось весьма маловероятным. И вот теперь они столкнулись с несомненным потенциальным электроманом.

– Электричество дает героину сто очков вперед, – сказал «научник» и засмеялся. Но смех прозвучал нервно и неестественно.

Моррис прикинул, что мог бы сказать Макферсон по этому поводу. Наверное, что-нибудь философское. Последнее время Макферсон в основном интересовался философией.

Возможность появления электроманов опиралась на удивительное открытие, которое сделал Джеймс Олдз в пятидесятых годах. Он обнаружил, что некоторые участки мозга при раздражении их электрическим током создавали острое ощущение удовольствия. Эти участки он назвал «путями вознаграждения». Когда крысе вживляли электрод в подобный участок мозга, она нажимала лапкой на рычажок стимулятора до пяти тысяч раз в час. Наслаждаясь, она не ела и не пила и перестала нажимать на рычажок, только когда от истощения лишилась последних сил.

Этот удивительный опыт был повторен на других животных – на золотых рыбках, морских свинках, дельфинах, кошках и козах. Стало ясно, что центры удовольствия – явление общее. Они были обнаружены и у человека.

Отсюда и родилась идея существования электромана, человека, стремящегося постоянно стимулировать центр удовольствия. На первый взгляд она казалась чисто теоретическим предположением, которое не могло найти практического воплощения. Однако на самом деле это было не так.

Конечно, пока технически это стоило бы неимоверно дорого, однако в дальнейшем такое препятствие могло легко исчезнуть. Воображение уже рисовало, как одна из японских превосходно оснащенных фирм начинает выпускать наборы электродов по два-три доллара за штуку и экспортировать их за границу.

Да и в идее подпольных операций такого рода не было ничего столь уж неосуществимого. Одно время около миллиона американок ежегодно прибегали к услугам подпольных абортариев. Конечно, операция по вживлению электродов в мозг человека была более сложной, но не слишком. А в будущем методика операции, несомненно, будет упрощаться и стандартизироваться, и нетрудно было представить себе появление в Мексике или на Багамских островах соответствующих клиник,

И хирурги для них, несомненно, найдутся. Квалифицированный нейрохирург мог бы при желании сделать от десяти до пятнадцати таких операций в день, получая не менее тысячи долларов за каждую. Сумма вполне реальная и способная соблазнить не слишком щепетильного специалиста. За сто тысяч долларов наличными в неделю можно пойти на нарушение закона, даже если такой закон и будет издан, а это представлялось маловероятным.

Год назад клиника организовала совместно с юристами семинар «Биомедицинская технология и закон». Там рассматривался и вопрос об электроманах, но юристы уклонились от его обсуждения. Эта проблема вступала в противоречие с принципами, которые лежат в основе современных законов по борьбе с наркоманией. Все эти законы исходят из того, что человек становится наркоманом по неведению или против своей воли. И совсем другое дело, если человек сознательно добивается операции, которая превратит его в наркомана. Юристы были убеждены, что желающих подвергнуться такой операции практически не будет, а потому не возникнет и необходимости в юридическом урегулировании. И вот Беккермен доказал, что за желающими дело не станет.

– Черт меня побери, – пробормотал другой сотрудник научного сектора.

Моррис не нашел в этих словах ничего утешительного. Его мучило чувство, которе он уже несколько раз испытывал с тех пор, как начал работать в НПИО. Ему казалось, что все совершается чересчур быстро, без соблюдения достаточной осторожности, и в один прекрасный день события могут внезапно и без предупреждения вырваться из-под контроля.

6

В шесть часов вечера Роджер Макферсон, глава нейропсихиатрического исследовательского отделения, поднялся на седьмой этаж взглянуть на своего пациента. Во всяком случае, так ему виделся Бенсон – его пациент. Собственническое чувство, но вполне законное. Ведь без Макферсона не было бы НПИО, а без НПИО не было бы операции, не было бы Бенсона. Вот как ему представлялось все это.

В палате № 710, залитой красноватыми лучами заходящего солнца, стояла тишина. Бенсон, казалось, спал, но, когда Макферсон закрыл за собой дверь, он открыл глаза.

– Как вы себя чувствуете? – спросил Макферсон, подходя к кровати. Бенсон улыбнулся.

– Все меня об этом спрашивают, – сказал он.

– Что ж, это вполне естественный вопрос. – Макферсон улыбнулся ему в ответ.

– Я чувствую себя усталым и только. Очень усталым. Иногда мне кажется, что я – бомба с часовым механизмом, а вы все гадаете, когда я взорвусь.

– Вот о чем вы думаете? – спросил Макферсон.

– Тик-так, – сказал Бенсон и закрыл глаза. – Тик-так.

Макферсон нахмурился. Он привык к механическим уподоблениям Бенсона – в конце концов тот был одержим мыслью, что люди – те же машины. Но так скоро после операции…

– Вы испытываете какую-нибудь боль?

– Нет. Только ноет за ушами, как будто я падал.

Макферсон знал, что это болела просверленная кость.

– Падали?

– Я – падший человек, – сказал Бенсон. – Я поддался.

– Чему?

– Процессу превращения в машину. – Он открыл глаза и снова улыбнулся. – Или в бомбу с часовым механизмом.

– Вас тревожат запахи? Какие-нибудь странные ощущения? – Макферсон посмотрел на экран ЭЭГ над головой Бенсона. Альфа-ритм был нормальный, никаких признаков судорожной активности.

– Нет. Никаких ощущений у меня нет.

– Но вы чувствуете, что можете взорваться? – Макферсон подумал, что эти вопросы, собственно, должна была бы задавать Дженет Росс.

– Примерно, – сказал Бенсон. – В грядущей войне все мы можем взорваться.

– Что вы имеете в виду?

– Вы как будто рассердились, – сказал Бенсон.

– Нет, я просто озадачен. О какой грядущей войне вы говорите?

– О войне между людьми и машинами. Видите ли, человеческий мозг устарел.

Это было что-то новое. Прежде Макферсон ничего подобного от Бенсона не слышал. Он взглянул на Бенсона, на его забинтованные плечи и голову. Из-за бинтов его голова и верхняя часть туловища казались непропорционально большими.

– Да, – говорил Бенсон. – Человеческий мозг исчерпал свои возможности. Он истощился, а потому создал следующее поколение разумных организмов. Они… Почему я так сильно устал? – Он снова закрыл глаза.

– Послеоперационное утомление.

– После в сущности несложной операции, – сказал Бенсон и улыбнулся с закрытыми глазами. Мгновение спустя он захрапел.

Макферсон постоял у кровати, а потом обернулся к окну и посмотрел на солнце, которое медленно опускалось в Тихий океан. У Бенсона была отличная палата: из ее окна между высокими домами Санта-Моники виднелась полоска океана. Прошло несколько минут, Бенсон больше не просыпался. Постояв еще немного, Макферсон вышел из палаты и направился к кабинке дежурной сестры, чтобы сделать запись в истории болезни.

«Больной в сознании, хорошо реагирует, ориентируется в обстановке. – Написав это, Макферсон остановился. Он, в сущности, не мог утверждать, что Бенсон действительно отдает себе отчет, где он находится и с кем говорит. Ведь специально он этого не проверял, однако говорил Бенсон логично, на вопросы отвечал, и Макферсон удовлетворился этим. – Мышление ясное, последовательное, но сохраняются навязчивые идеи предоперационного периода. Пока еще трудно судить, но, по-видимому, справедливо предположение о том, что операция не окажет воздействия на его психическое состояние между припадками».

Он подписал: «Роджер Макферсон, доктор медицины», перечитал сделанную запись, закрыл карту и поставил ее на полку. Хорошо написано: кратко, четко, без ненужных предположений. Ведь история болезни – все-таки официальный документ, и ее могут затребовать в суд. Макферсон не думал, что история болезни Бенсона может оказаться в судебном деле, но осторожность никогда не бывает лишней. Он твердо верил в необходимость соблюдения всех формальностей и считал, что его обязанности заключаются именно в этом.

Руководителю любой научно-исследовательской лаборатории приходится выполнять определенные политические функции. Можно это отрицать, можно внутренне протестовать, но факт остается фактом: это составляет неотъемлемую часть обязанностей любого руководителя.

Тебе необходимо обеспечить, чтобы все сотрудники твоей лаборатории ладили друг с другом в своей работе. И чем больше у тебя в лаборатории примадонн, тем труднее твои функции как политика.

Тебе приходится изыскивать финансовые средства для своей лаборатории, а уж это чистейшая политика. Особенно если сфера исследований лежит в столь щекотливой области, как у НПИО. И для получения дотаций Макферсон давно выработал «принцип пероксидазы хрена». Он был очень прост: прося денег, вы заявляете, что эти деньги будут истрачены на поиски фермента пероксидазы хрена, который позволит разработать новый надежный способ излечения рака. Под такой проект ничего не стоило получить шестьдесят тысяч долларов, тогда как на исследования в области контролирования мозга вам не дали бы и шестидесяти центов.

Макферсон посмотрел на длинный ряд историй болезни, на длинный ряд незнакомых фамилий, среди которых «БЕНСОН Г. Ф., 710» полностью терялась. В определенном смысле, подумал он, Бенсон прав – он действительно живая бомба с часовым механизмом. Человек, подвергшийся операции, которая обеспечила контроль над деятельностью его мозга, неизбежно должен вызвать предубеждение у широкой публики. «Контроль над сердцем» при помощи водителя ритма сердца был сочтен изумительным изобретением, «контроль над почками» с помощью лекарственных препаратов вызвал только восторги, но контроль над деятельностью мозга – это нечто зловещее, залог катастрофы, пусть даже в принципе он и вполне аналогичен контролю над деятельностью других органов человеческого тела. Даже методика почти та же: атомная батарейка, которой они пользовались, была разработана первоначально для стимулирования работы сердца.

Но предубеждение существует. А Бенсон считает себя тикающей часовой бомбой. Макферсон вздохнул, снова достал историю болезни Бенсона и открыл ее на странице, предназначенной для предписаний врачей. Он прочел послеоперационные предписания Эллиса и Морриса и добавил:

После интерфейсинга завтра с утра начинайте давать торазин.

Перечитав свою пометку, он решил, что сестры не поймут слова «интерфейсинг», зачеркнул его и приписал:

Завтра после двенадцати начинайте давать торазин.

Входя в лифт, Макферсон подумал, что у него на душе будет гораздо спокойнее, когда Бенсон начнет получать торазин. Быть может, нельзя разрядить бомбу с часовым механизмом, но бросить ее в ведро с холодной водой, безусловно, можно.

7

Поздно вечером в «Телекомпе» Герхард озабоченно смотрел на приборную панель компьютера. Он впечатал новые инструкции, потом подошел к печатающему устройству на выходе компьютера и начал просматривать толстую стопку листков с зелеными полосками в поисках ошибки в программировании, которая, как он знал, обязательно должна была содержаться в них.

Сам компьютер никогда не ошибался. Герхард работал с компьютерами вот уже десять лет, с разными компьютерами, в разных учреждениях, и ни разу ни один из них не допустил ошибки. Конечно, ошибки случались, и часто, но всегда по вине программиста, а не машины. Порой было трудно примириться с подобной непогрешимостью, хотя бы потому, что она противоречила привычному взгляду на мир, где машины постоянно ошибались: пробки перегорали, телевизоры ломались, электрические плиты перегревались, автомобили не заводились. Современный человек привык к этому и подсознательно ожидал от машин их законной доли ошибок.

Но компьютеры были совсем другими, и, работая с ними, приходилось поступаться самолюбием. Они никогда не ошибались – и все тут. Даже когда ошибку в программировании искали неделями, даже когда десятки разных людей десятки раз проверяли программу, даже когда все сотрудники приходили к выводу, что электронный мозг наконец дал промах, тем не менее в конце концов выяснялось, что напутал все-таки человек. И так было всегда.

Вошел Ричардс, сбросил спортивную куртку и налил себе кофе.

– Как дела?

Герхард покачал головой.

– У меня неприятности с «Джорджем».

– Опять? Черт! – Ричардс посмотрел на приборную панель. – А как «Марта»?

– С «Мартой» все в порядке. По-моему, дело в «Джордже».

– «Джордж» – это который?

– «Святой Джордж», – сказал Герхард. – Сукин сын.

Ричардс допил кофе и сел у приборной панели.

– Можно я попробую?

– Конечно.

Ричардс принялся нажимать кнопки, настраивая машину на программу «Святого Джорджа». Потом на «Марту». Потом настроил их на взаимодействие.

Эти программы не были собственным созданием Герхарда и Ричардса, а представляли собой модификацию нескольких программ, разработанных в других университетах. Их всех объединяла идея создать программу, которая заставила бы компьютер действовать эмоционально. Таким программам было только логично давать человеческие имена. До «Джорджа» и «Марты» была «Элиза» в Бостоне и «Олдос» в Англии.

«Джордж» и «Марта» по сути были единой программой с небольшими различиями. Первоначально «Джордж» был запрограммирован на нейтральное отношение ко всем стимулам. Затем была создана «Марта». «Марте» была свойственна агрессивность, очень многое ей не нравилось. И наконец был создан еще один «Джордж», любящий «Джордж», получивший прозвище «Святого Джорджа».

Каждой программе было придано три эмоциональных состояния: любовь, страх и гнев. Каждая могла совершать три действия: искать контакты, избегать их и нападать. Все это, конечно, было весьма абстрактно и воплощено в числа. Например, первый «Джордж» был нейтрален по отношению к большинству чисел, но ему не нравилось число 751. Так он был запрограммирован. Эту неприязнь он переносил на все сходные числа – 743, 772 и т. п., предпочитая им такие числа, как 404, 133, 918. Если вы вводили одно из этих чисел, «Джордж» отвечал числами, означающими любовь и поиски контакта. Если нажимали число 707, «Джордж» начинал избегать контакта, а получив 750, устремлялся в нападение, о чем свидетельствовали числа, которые он печатал.

Герхард и Ричардс довольно долго всячески играли с этими программами, а затем внесли в них некоторые изменения, в результате чего компьютер заговорил. На смену числам пришли предложения. Это оказалось не только забавным, но и результативным. Взаимодействие двух программ получило название «рождественской игры», так как в основном она состояла из преподношения и принятия подарков – предметов, которые, как и числа, обладали заданным эмоциональным воздействием или же обретали его в результате опыта.

Нормальный «Джордж», взаимодействуя с «Мартой», в конце концов начинал ей нравиться, и ее злобность стушевывалась.

Но «Святой Джордж» воздействовал на нее совсем по-другому. Его уступчивость только провоцировала ее. По крайней мере так было до сих пор.

Ричардс не спускал глаз с экрана, на котором шел диалог:

ЗДРАВСТВУЙ, Я СВЯТОЙ ДЖОРДЖ.

ЗДРАВСТВУЙ.

КАК ТЕБЯ ЗОВУТ?

МАРТА.

ТЫ МАЛО ГОВОРИШЬ, МАРТА.

ДА.

НО ТЫ МНЕ НРАВИШЬСЯ.

А ТЫ МНЕ НЕ НРАВИШЬСЯ.

Я ПОНИМАЮ. ЧЕМ Я МОГУ ПОМОЧЬ?

– Он не последовательно печатает периоды, – заметил Ричардс. – Когда это началось?

– Это еще что, – сказал Герхард. – Вот погоди.

ПОМОЧЬ?

ДА, Я ХОТЕЛ БЫ ТЕБЕ ПОМОЧЬ.

ВОЗЬМИ КОШКУ.

Ричард поморщился. «Джордж» и «Марта» были запрограммированы на неприязнь к кошкам. Давая кошку «Джорджу», «Марта» выражала крайнюю враждебность.

СПАСИБО.

ВОЗЬМИ ЕЩЕ КОШКУ.

СПАСИБО, ТЫ ОЧЕНЬ ЛЮБЕЗНА.

ВОЗЬМИ ЕЩЕ КОШКУ.

НЕТ, СПАСИБО.

ТЫ НЕ ЛЮБИШЬ КОШЕК?

НЕТ, НО МНЕ ДОСТАТОЧНО КОШЕК.

ВОЗЬМИ ГОРИЛЛУ.

– Да, действительно, – сказал Ричардс. – А как в прошлые разы?

– То же самое, – сказал Герхард.

– Так же плохо?

– Абсолютно то же.

Они давно привыкли к мысли, что конечный результат взаимодействия компьютеров непредсказуем. Общую форму взаимодействия предугадать было можно, однако конкретные результаты прогнозированию не поддавались. Положение было примерно таким же, как и с компьютером, играющим в шашки: вероятнее всего, он должен выиграть, но всякий раз это будет по-разному, в зависимости от ходов противника.

МНЕ НЕ НУЖНА ГОРИЛЛА.

РАЗВЕ ТЕБЕ НЕ НРАВЯТСЯ ГОРИЛЛЫ?

НЕТ, СПАСИБО.

ТЫ СЛИШКОМ ВЕЖЛИВ.

ИЗВИНИ, ЕСЛИ Я ТЕБЯ ЧЕМ-НИБУДЬ ОБИДЕЛ.

ТЫ СЛИШКОМ МНОГО ГОВОРИШЬ.

ИЗВИНИ.

ВОЗЬМИ БАКЛАЖАН.

Ричардс следил за диалогом с интересом. Для «Святого Джорджа» слово «баклажан» по программе не имело никакого эмоционального смысла. Но он не любил огурцы и бананы.

НЕТ, СПАСИБО.

ТЕБЕ НЕ НРАВЯТСЯ БАКЛАЖАНЫ?

НЕ ОСОБЕННО.

ВОЗЬМИ ЕЩЕ БАКЛАЖАН.

НЕТ, СПАСИБО.

Я ХОЧУ, ЧТОБЫ ТЫ ВЗЯЛ ЕГО.

НЕТ, СПАСИБО.

НЕТ, ВОЗЬМИ ЕГО.

НЕТ, СПАСИБО.

Я ТРЕБУЮ.

НЕТ, СПАСИБО.

– Что случилось с «Джорджем?» – спросил Ричардс. – Он отвечает слишком уж одинаково.

– Это меня и беспокоит.

– А что в программе могло бы его так завести?

– Я это как раз и искал, когда ты вошел.

Я ТРЕБУЮ, ЧТОБЫ ТЫ ВЗЯЛ ОГУРЕЦ.

Я ОТКАЗЫВАЮСЬ.

– Джордж! – машинально воскликнул Ричардс.

ТОГДА ВОЗЬМИ БАНАН.

НЕТ.

– «Джордж» не выдержал, – сказал Ричардс. – Он уже больше не святой.

ТОГДА ВОЗЬМИ И БАНАН И ОГУРЕЦ.

НЕТ, СПАСИБО.

Я ТРЕБУЮ.

ИДИ К ЧЕРТУ. Я УБЬЮ ТЕБЯ

Экран заполнился белыми точками.

– Что это означает? Непечатный ответ? – спросил Ричардс.

– Не знаю. Раньше я ничего подобного не видел.

– Сколько раз прогоняли эту программу?

– Сто десять раз. С «Мартой».

– Огрехи обучения?

– Нет.

– Черт меня побери, – сказал Ричардс. – Джордж превращается в раздражительного святого. – Он усмехнулся. – Это можно записать.

Герхард кивнул и вернулся к печатающему устройству. Теоретически ничего непонятного тут не было. «Джордж» и «Марта» были запрограммированы на обучение через опыт. Подобно шахматным программам, где мастерство машины растет с числом сыгранных игр, эта программа была рассчитана на то, что машина будет «учиться» реагировать по-новому. И вот после ста десяти экспериментов «Святой Джордж» вдруг перестал быть святым. Хотя он был запрограммирован на святость, в отношениях с «Мартой» он научился не быть святым.

– Я прекрасно его понимаю, – сказал Ричардс и выключил компьютер. Затем он присоединился к Герхарду, и они вместе стали искать ошибку, из-за которой все это стало возможным.