Текст книги "Мир Лема: словарь и путеводитель (СИ)"

Автор книги: Леонид Ашкинази

сообщить о нарушении

Текущая страница: 32 (всего у книги 33 страниц)

5. Пиджак как наручники, или Этикосфера вокруг нас

Как было бы хорошо, если бы можно было исключить зло из человеческого обихода. На этом простая часть вопроса до обидного быстро кончается и начинаются более сложные – что есть зло, возможно ли его исключить, какой ценой и каковы будут последствия. Первую сложную часть вопроса можно сильно упростить, ограничив себя рассмотрением простого насилия. Казалось бы, в этом случае можно построить надлежащую систему.

«Кроме того, уже в пеленки им вкладывали напоминайки, внедрявшие в умы уважение к ближним. Если бы и нашелся кто-нибудь, кто захотел бы обидеть ближнего хотя бы по переписке, укорялка тут же принялась бы его отговаривать, а подушечка-думка – нашептывать сквозь сон, чтобы он это дело бросил. Если же он, допустим, упорно стоял на своем… Напишет он, например, анонимку, а чернила разольются, почтовый ящик порвет письмо, в крайнем же случае предохранитель последней линии добросердечия заботливо разобьет адресату очки».» – Воспитание Цифруши

«– Я прошу вас оказать мне любезность, ударив меня по щеке. Вы убедитесь, как действует этикосфера, а после мы обсудим этот эксперимент… Я, пожалуй, встану и вас попрошу о том же, так будет удобнее… Я решил ударить его, раз уж ему так хотелось, и мы встали друг против друга. Я замахнулся – в меру, потому что не хотел свалить его с ног, – и застыл с отведенной в сторону рукой. Что-то меня держало. Это был рукав пиджака. Он стал жестким, словно жестяная труба. Я попытался согнуть руку хотя бы в локте и с величайшим трудом наполовину сумел это сделать». – Осмотр на месте

Но и в этом случае возникает несколько проблем. Первая – как отличить «просто насилие» от «закономерного насилия»? Казалось бы, можно воспользоваться тем, что палач, исполняющий законный приговор, не испытывает тех эмоций, которые испытывает бандит, и различие эмоционального фона должно повлечь различие физиологической реакции организма. Но положить это различие в основу дифференцирующей системы не удастся, потому что многие злодеи причем, как кажется, наиболее страшные злодеи – уверены в благости своего злодеяния.

«– Я бы не поручился! – возразил я. – Особенно, когда уже известна нужная формула: запечатленные в структуре материи заповеди теряют силу, если убийца верит в благость своего поступка. К тому же вера и неверие – не то же самое, что взаимоисключающие логические категории. Можно верить отчасти, временами, сильнее, слабее… и где-нибудь на этом пути в конце концов перепрыгнуть шустринный барьер… Люзанец мрачно посмотрел на меня. Действительно, такой порог есть. Не буду обманывать. Только он выше, чем вы полагаете. Гораздо выше. Поэтому штурмуют его напрасно…» – Осмотр на месте

Можно, конечно, запретить любое насилие вообще, но тогда придется передать «силовые функции» какой-то автоматической системе, роботам.

«– Там еще много всего было: например, нельзя применять ни к кому ни силы, ни грубого тона, а уж ударить человека – это позор, даже преступление, потому что это вызовет страшный шок. Драться нельзя независимо от обстоятельств, потому что только звери дерутся… – Постой-ка, – сказал я, а если из заповедника убежит дикий зверь… Да, я забыл… диких зверей уже нет. – Диких зверей уже нет, – повторил Олаф, – но есть роботы. – Ну и что? Ты хочешь сказать, что им можно дать приказ убить?… Но должны же они быть готовы к крайностям; ведь даже бетризованный пес может взбеситься. Скажешь, нет? – Но… но ведь это… Погоди! Значит, они все-таки могут убивать? Отдавая приказы! Разве это не все равно: я сам убью или отдам приказ? – Для них нет… – Да, например, мы двое, если бы мы что-то, ну, понимаешь… то, конечно, нами займутся роботы, не люди. Они не могут. Они добрые». Возвращение со звезд

Однако такая автоматическая система может перейти к злоупотреблениям, во всяком случае человеческие системы силового регулирования к злоупотреблениям склонны. Ситуация перехода автоматической системы к злоупотреблениям многократно рассматривалось в литературе (хрестоматийный пример – «Страж-птица» Шекли), но Лем не рассматривает подробностей, а просто указывает на представляющуюся опасной потерю возможности контроля за ситуацией, когда человека окружают устройства, выполняющие этико-контрольные функции (этикосфера).

«Мы еще примирились бы со своего рода двоевластием, будь мы уверены, что в основном – допустим, на две трети – контроль в наших руках, а остальное – в ведении наших шустринных уполномоченных… но мы знать не знаем, какова их настоящая роль в принятии решений, определяющих нашу судьбу». – Осмотр на месте

Третья проблема, которую Лем не рассматривает (возможно, ввиду ее тривиальности), состоит в том, что постоянное управляющее воздействие снимает с элементов системы необходимость иметь «автономную мораль», что делает систему менее надежной при изменении условий. Однако последнее верно только в том случае, если автоматическая система менее лабильна, чем человеческое общество.

6. Управление звездами

К проблемам, связанным с астроинженерной деятельностью, Лем обращается многократно – и в шутливом ключе, и в серьезном. Что касается первого подхода, соответствующие цитаты см. в статье «Астроинженерная деятельность» в Словаре. Что же касается серьезного подхода, то отсутствие сигналов и отсутствие признаков астроинженерии в прошлом веке какое-то время вызывало удивление, связанное с неоправданным оптимизмом, как тогда говорили, «начала космической эры». Разрешение этого психологического противоречия искали на четырех путях – утверждая, 1) что цивилизаций мало, 2) что у них есть и другие проблемы, кроме общения с нами, 3) что в силу наших с ними различий мы не видим этих сигналов и 4) что мы их видим, но не можем отличить от естественных процессов в Космосе. Лем суммирует первые две линии и вводит понятие «окна контакта» (первые две цитаты), третья линия используется для построения оригинальной теории космогенеза (следующие две цитаты), четвертая линия только упоминается (последняя цитата).

«Мы возникли, прошли – история нашей звезды, затем планеты, биогенез и эволюция – через многочисленные «игольные ушки», и, тем самым, девять миллиардов лет, отделяющих возникновение газового протосолярного облака от возникновения Homo Sapiens, можно прировнять к гигантскому слалому, в котором не остались обойденными ни одни ворота. Уже известно, что таких «ворот» было довольно много, что любое выпадение со слаломной трассы сделало бы невозможным возникновение Человека, но неизвестно, как «широк» был этот путь со своими поворотами и рамками, иначе говоря, какова была вероятность «правильного хода», финишем которого является антропогенез». – Созидательный принцип уничтожения (Мир как Холокост)

«Ортега, Нейссель и Амикар ввели понятие «окна контакта». Это период, когда Разумные Существа уже в высокой степени используют науку, но еще не принялись за преобразование данной им Природой Разумности – эквивалента человеческого мозга. «Окно контакта» – это космический миг. От лучины до керосиновой лампы прошло 16.000 лет, от лампы до лазера – сто лет… Период контакта – возможности взаимопонимания – в худшем случае длится 1000 земных лет, в лучшем – от 1800 до 2500 лет. Вне окна для всех цивилизаций, недозревших и перезревших, характерно молчание. Первые не располагают достаточной для связи мощностью, вторые либо инкапсулируются, либо создают устройства для сообщений со сверхсветовой скоростью». – Фиаско

«Но чтобы революция в астрофизике могла совершиться без таких контактов, более того – чтобы именно отсутствие таких контактов, а также полное отсутствие сигналов и признаков так называемой «астроинженерии» могло бы вызвать величайшую революцию в физике и в корне изменить наши представления о Космосе – такое наверняка не могло прийти в голову ни одному из тогдашних авторитетов». – «Новая космогония»

«С той самой минуты, когда вы впервые осознаете грандиозность авторского замысла, когда в вашем воображении во всей полноте возникает идея палимпсестового Космоса – Игры с его невидимыми и неведомыми друг другу Игроками, вас уже не покидает ощущение, что вы столкнулись с чем-то необычайно, потрясающе новым и одновременно – что это плагиат, перевод на язык естественных наук древнейших мифов, в которых отразился непроницаемый донный слой человеческой истории». – «Новая космогония»

«Не только пульсары, не только гравитационные линзы, не только мазеры газовых звездных туманностей, не только огромные массы центра галактики вводили в заблуждение наблюдателей регулярностью, повторяемостью, своеобразным порядком многократных импульсов». – Фиаско

7. Естественное или искусственное

В тривиальном смысле деление на естественное и искусственное – это деление на существующее не в результате деятельности человека и в результате таковой деятельности. Деление это имело строгий смысл только до возникновения человека – именно потому, что искусственного тогда не существовало вовсе. На следующий день после возникновения человека речь могла идти только о степени влияния; применение вышеуказанных терминов как исчерпывающих ситуацию – обычная попытка заменить рассмотрение сложной непрерывной ситуации рассмотрением простой дискретной. Иногда, несколько сужая область смыслов, под искусственным понимают нечто, созданное человеком сознательно и с каким-то намерением. С другой стороны, в расширенном смысле естественно все, так как человек – тоже часть природы.

Для человека наличие способа дифференциации важно потому, что идентификация феномена как искусственного радикально меняет модель мира вместо законов природы человек начинает анализировать мотивы и эмоции «того, кто сделал». Мотивы и эмоции тоже подчиняются каким-то законам, просто они меньше познаны людьми, и человек охотно переключается с анализа ситуации на рассуждения типа «чего они хотят» (на неэффективность такого подхода указали Стругацкие, «За миллиард лет до конца света»). Наличие способа определения искусственного происхождения феноменов существенно для поисков внеземного разума, причем известны прецеденты, когда феномен какое-то время считался искусственным, а позже было показано, что явление могло быть вызвано естественными причинами. Как искусственное может восприниматься и то, что возникло в результате деятельности систем, созданных человеком, причем такие объекты и ситуации вызывают когнитивный диссонанс (сделал, а не понимаю что) и негативную реакцию, особенно если «оно» начинает влиять на жизнь людей.

«– Дорогой мой, культура уже полвека не развивается стихийно. В двадцатом веке какой-нибудь там Диор диктовал моду в одежде, а теперь все области жизни развиваются под диктовку». – Футурологический конгресс

«… задание, поставленное им перед штабом фирмы – срежиссировать полное отсутствие режиссуры, – оказывается самым трудным из всех, какие только приходилось решать. Исследования обнаруживают, что ничего похожего на стихийность и подлинность жизни давно уже нет. Устранение приготовлений режиссуры любого эпизода лишь открывает более глубокий слой – следы другой режиссуры, еще более ранней…» – «Корпорация «Бытие»

«Различие между естественными и искусственными приключениями, успехами, неудачами перестает существовать, если нельзя дознаться, что происходит по чистой, а что – по заранее оплаченной случайности». – «Корпорация «Бытие»

«Ты же сам знаешь, что все эти процессы совершаются лишь потому, что я их запрограммировал, – а значит, не взаправду…» – Путешествие седьмое, или Как Трурля собственное совершенство к беде привело

«Благосклонная и смышленая среда обитания должна, следовательно, стать закройщиком материи бытия, сшивая ее таким образом, чтобы каждый получил условия существования, наиболее для него подходящие. Но когда все технические средства будут уже готовы, когда уже будет создана среда, безошибочно приспосабливающаяся к натуре любого человека, останется преодолеть одну лишь, зато чудовищную трудность, а именно: каждый должен при этом иметь ощущение абсолютной подлинности бытия». – Осмотр на месте

«Перед нами метафизический гротеск, фантастичность которого, однако, имеет корни в реальном мире. Если отбросить комические перехлесты и крайности авторской фантазии, останется проблема манипулирования умами такого, при котором сохраняется субъективное ощущение полной естественности и свободы». – «Корпорация «Бытие»

8. Изолированные островки и ключевой эксперимент

Исходное предположение: в мозгу, как биологическом, так и электронном, могут возникать изолированные друг от друга (полностью или частично), участки, способные к самостоятельному функционированию.

«Можно уподобить его червивому яблоку; это банальное сравнение все же передает существо дела: в пределах мыслящей субстанции, подвластной его индивидуальности (о которой речь впереди), было обнаружено несколько миллиардов «вселенных», то есть изолированных островков автономных процессов, каждый из которых есть не что иное как математическая модель сотворенного лунным Мозгом «универсума»». – Записки всемогущего

«Два или несколько разумов можно сливать в один, и не только у машин и растворов, но даже у людей; благодаря персонетике появилась возможность изготовлять миры, замкнутые в машинах, в которых возникало разумное бытие, а оно, в свою очередь, в этом узилище могло конструировать следующее поколение разумных субъектов; разум можно было усиливать, делить, умножать, редуцировать, обращать вспять и так далее». – Звездные дневники Ийона Тихого. Путешествие двадцать первое

Особого протеста эта идея не вызывает, потому что подобные участки и так существуют в мозгу.

«Ведь не только при болезни, но и в самом обычном сне случается, что мы разговариваем с неизвестными нам наяву людьми, задаем этим снящимся образам вопросы и слышим их ответы; причем, хотя эти люди являются в действительности лишь плодом нашей собственной психики, как-то выделенные временно ее псевдосамостоятельными частями, мы не знаем, какие слова они произнесут, до тех пор, пока они (в этом сне) не обратятся к нам». – Солярис

«Если мне кто-то снится и я задаю ему вопрос, то, пока мне не ответят, я не знаю ответа. А ведь приснившийся человек не существует за пределами моего мозга, он лишь временно обособленная его часть. Каждый раздваивается почти ежедневно, вернее, еженощно, давая мимолетно возникающим в мозгу псевдоиндивидуальностям жизнь… Это какое-то физическое явление, более сложное, чем обычная запись: автомат – не прибор для фиксирования звуков. В нем возникла запись, наделенная некоторой самостоятельностью, способностью изменяться. Запись, которой – как это ни странно звучит – можно задать вопросы и узнать… Но ведь они не станут по порядку рассказывать свою историю, они начнут звать его, просить кислорода, молить о спасении! Что ответить? Что они не существуют? Что они «пceвдоиндивидуальности», изолированные островки электронного мозга, его бред? Что их страх – только имитация страха, а их агония, повторяющаяся каждую ночь, стоит не больше заигранной пластинки?… Они не существуют? А кто же его звал, кто молил о помощи? И что изменится, если специалисты скажут, что за этими криками нет ничего, кроме циркуляции зарядов и колебаний, возбужденных резонансом пластин?» – Терминус

Если мы с возможностью существования таких изолированных участков согласились, немедленно возникают следующие вопросы. Первый – нельзя ли с ними связаться? Пиркс предполагал, что можно, но есть и другое мнение.

«… желая – вконец обезумев – вторгнуться в мир, упрятанный в Ящик. Но старец тотчас вырубил ток, стащил короля на землю и молвил: – Трижды безумный! Ты желаешь невозможного, ибо не дано существу, созданному из реальной материи, проникнуть в глубь мира, что являет собой лишь кружение и вращение элементов двоичных в процессе цифрового, нелинейного и дискретного моделирования!.. придется снять с тебя мерку и, согласно твоим коэффициентам, атом за атомом смоделировать, а после запрограммировать тебя самого, и станешь ты частью этого мира, средневекового и цифрового, что в Ящике пребывает и будет пребывать, доколе хватит электричества в проводах и накала в анодах и катодах. Но сам ты, здесь предо мною стоящий, исчезнешь и пребудешь лишь в образе неких токов, что кружат прекрасно, вероятностно, дискретно и нелинейно!» – Сказка о трех машинах-рассказчицах короля Гениалона

Второй вопрос – как мы можем и как мы должны к этим изолированным мирам относиться?

«А он как раз со вниманием и любовью новые созвездья развешивал в вечном мраке сознания своего, что служило ему целым Гозмозом, и, как умел, бескорыстно старался все созданное его помышлением в памяти удержать; и хотя болела от этого голова, он не сдавался, ибо чувствовал, что нужен своему Гозмозу и всерьез за него отвечает». – Сказка о трех машинах-рассказчицах короля Гениалона

«– А наяву ты могла бы проделать такой опыт? – Боюсь, что нет, ответила, помолчав немного, Калларла. – Почему?… – Может быть, это кажется тебе каким-то гротескным подражанием деяниям Бога, того творца, в которого верили встарь? – подзадорил ее Тер-Хаар. Калларла промолчала. Улыбка постепенно сошла с ее лица». – Магелланово облако

«Безлюдисты проповедуют Евангелие компьютерам. Безлюдный разум существует уже столетие, а Ватикан все еще отказывает ему в равенстве перед Богом… Никого не заботят душевные муки компьютеров, терзающие их вопросы, смысл их бытия». – Футурологический конгресс

Третий вопрос – о «внешнем мире» этих изолированных миров.

«Ибо наши мозги – обратите внимание! – подключены, так сказать, к внешнему миру через посредство органов чувств: глаз, ушей, носа, чувствительных окончаний кожи и так далее. У этих же, здесь, – вытянутым пальцем он показывал на ящики, – внешний мир там, внутри них…» – Странные ящики профессора Конкорана

«– О том, что находится вне меня, если там вообще что-нибудь есть, я ничего не знаю. Но о том, что внутри, я узнаю, стоит лишь мне это помыслить; да и кому же, черт подери, лучше знать мои мысли, если не мне?! И выдумал Гозмоз еще раз, но теперь уже разместил его внутри собственного сознания; это показалось ему не в пример скромнее, приличнее и основательней, а к этому он и стремился. И стал он заполнять этот свой Гозмоз всякой помышленной всячиной». – Сказка о трех машинах-рассказчицах короля Гениалона

«– Тихий, – немного спокойней продолжал профессор, – я сказал, что среди прочих есть у меня тут и ученый; вот этот ящик, прямо перед вами. Он изучает свой мир, однако никогда, понимаете, никогда он даже не догадается, что его мир не реален, что он тратит время и силы на изучение того, что является серией катушек с кинопленкой, а его руки, ноги, глаза, его собственные слепнущие глаза – это лишь иллюзия, вызванная в его электронном мозге разрядами соответственно подобранным импульсам. Чтобы разгадать эту тайну, он должен был бы покинуть свой железный ящик, то есть самого себя, и перестать мыслить при помощи своего мозга, что так же невозможно, как невозможно для вас убедиться в существовании этого холодного ящика иначе, нежели с помощью зрения и осязания». – Странные ящики профессора Конкорана

И этот третий вопрос плавно переходит в самый важный – четвертый, причем относящийся вовсе не к «изолированным участкам» – вопрос о возможности проверки мыслящим существом, существует ли вообще внешний, по отношению к этому существу, мир.

«… Разум, будучи всенаправленным, является тем самым и самонаправленным». – Голем XIV

«А возможно ли придумать этот ключевой эксперимент? Сначала мне казалось, что нет, ибо мой больной мозг (если, конечно, он больной) будет создавать любые иллюзии, какие я от него потребую… Мне уже казалось, что, попав в это сумасшедшее кольцо, я не сумею из него выбраться – ведь нельзя мыслить иначе, чем мозгом, нельзя выбраться из самого себя, чтобы проверить нормальность происходящих а организме процессов, – когда вдруг меня осенила мысль, столь же простая, сколь удачная». – Солярис

«Нащупав маску, натянул ее на лицо, но все же вдыхал кислород с тревогой: откуда мне знать, настоящая это маска или только фантом?» Футурологический конгресс

«– Возможно, ваш препарат так и действует, – хмыкнул я, – но вряд ли так действует фантом вашего препарата». – Футурологический конгресс

«А если все вокруг подставное? Вымышленное? Странные мысли… Допустим, он не сидел и не летел, но я-то по-прежнему сижу летя, то есть лечу сидя. Это полностью достоверно. Так ли? Всего достовернее то, что я читаю о ком-то, кто сидит и летит. А вот насчет моего собственного сидения и полета – как в этом удостовериться? Комнатка обставлена довольно убого, не комнатка, а каморка. Должно быть, на средней палубе; но на чердаке у нас была точно такая же. Впрочем, достаточно выйти за порог, чтобы убедиться, иллюзия это или нет. А если все же иллюзия? И там – ее продолжение? Значит, решающего доказательства нет?» Звездные дневники Ийона Тихого. Путешествие двадцать восьмое

«Стал он тогда просыпаться, нелегко ему это давалось, наконец очнулся он совершенно, и тогда-то ужасное зародилось в нем подозрение. В самом ли деле вернулся он к яви или же пребывает в другом сне, переживая только видимость бодрствования?» – Сказка о короле Мурдасе

Гипотетический эксперимент, позволяющий определить, существует наблюдаемый мир вне наблюдателя («в реальности») или внутри него (то есть является феноменом, созданным мозгом), если и возможен, то лишь на основе анализа сложности наблюдаемых феноменов – феномены, созданные мозгом, не будут превосходить определенного уровня сложности, в частности, они этим мозгом могут быть поняты; феномены окружающего мира могут иметь большую сложность, поэтому наличие нерешенных научных задач является доводом за наличие внешнего мира, но не доказательством его наличия.

Итак, живое существо, а также искусственная система (электронный мозг или иная, достаточно мощная и способная к обучению структура) при определенном уровне сложности создает внутри себя субструктуры, не являющиеся вполне детерминированными и не являющиеся легко доступными (или являющиеся недоступными) для внешнего наблюдателя. Создание таких субструктур может трактоваться как возникновение «внутренней жизни», внешне это может выглядеть как непредсказуемость поведения, свобода воли, разум и т. п. Понимание возможности такой ситуации немедленно влечет возникновение и в естественном существе, и в электронном мозге – попытки понять, как он устроен, в частности, гипотезы о том, что он сам является изолированным от мира электронным мозгом, питающимся «импульсами», и его творец тоже может быть таковым.

«И потом стало распространяться. Это я еще могу вообразить. Допустим. Но чтобы из этого возник КТО-ТО – извините. Это уж сказки! Никакой дух из частиц не мог там появиться на свет. Разум на Луне из электронного лома? Нет. Это чистая фантазия». – Мир на Земле

«Но тогда возможно и то, что хозяин запыленной лаборатории, в которой МЫ стоим на полках, – сам тоже ящик, построенный другим, еще более высокого ранга ученым, обладателем оригинальных и фантастических концепций… И так до бесконечности. Каждый из этих экспериментаторов – творец своего мира, этих ящиков и их судеб, властен над своими Адамами и своими Евами, и сам находится во власти следующего бога, стоящего на более высокой иерархической ступени». – Странные ящики профессора Конкорана

Вопрос о моральности таких экспериментов сложен, поскольку мораль формируется как следствие опыта выживания, а данная ситуация является существенно новой; наличие свободы воли является важным аргументом для человека, решающего, должен ли он вести себя по отношению к объекту, как к человеку (например, не убивать его).

«Но как нам, так и им это не мешает любить, желать, ненавидеть, они могут прикасаться к другим людям, чтобы целовать их или убивать… И так эти мои творения в своей вечной железной неподвижности предаются страстям и желаниям, изменяют, тоскуют, мечтают… Вы поставляете им только сырье, сказал я, – в виде этих импульсов. Так же, как нам поставляет их мир. Когда я стою и смотрю на звезды, то, что я чувствую при этом, что думаю, это лишь мне принадлежит, не всему миру». – Странные ящики профессора Конкорана

«– Ну, что мне не нужен сон и что я все время должна быть около тебя… А чтобы орудие могло желать добра и любить, такого я не могла себе представить… – Да. Но из этого ничего не вышло. Потому что я искала в себе… – их – чего-то другого, была совершенно сумасшедшей. Некоторое время мне казалось, что у меня под кожей нет тела, что во мне что-то другое, что я только… только снаружи… Чтобы тебя обмануть. Понимаешь?» – Солярис

«Нельзя, заявляет он, не прийти к заключению об аморальности персонетических экспериментов; речь, однако, идет об исследованиях, которые, хотя и вступают в противоречие с этикой, жизненно необходимы для нас». – «Не буду прислуживать»

«Каждый «гость», когда появляется, действительно только фантом и вне хаотической мешанины воспоминаний и образов, почерпнутых из своего… Адама… совершенно пуст. Чем дольше он с тобой, тем больше очеловечивается. Приобретает самостоятельность, до определенных границ, конечно. Поэтому чем дольше это продолжается, тем труднее…» – Солярис

«Ты впутался в дела сил, над которыми мы не властны, в кольцевой процесс, в котором она частица. Фаза. Повторяющийся ритм. Если бы она была… если бы тебя преследовало готовое сделать для тебя все чудовище, ты бы ни секунды не колебался, чтобы устранить его. Правда?» – Солярис

«– Я ничего не знаю об устройствах, подобных тебе, но я вижу тебя и слышу, и ты по твоим речам представляешься мне разумной, хотя и подчиненной какому-то принуждению, и – коль скоро ты, машина, борешься, как сама мне поведала, с этим принуждением и говоришь, что чувствовала бы себя свободной, если бы у тебя отняли стремление убить, – то скажи мне, как ты чувствуешь себя сейчас, когда оно в тебе?» – Маска