Текст книги "«Если», 2015 № 03"

Автор книги: Святослав Логинов

Соавторы: Олег Дивов,Сергей Слюсаренко,Григорий Панченко,Наталия Андреева,Билл Джонсон
сообщить о нарушении

Текущая страница: 3 (всего у книги 14 страниц)

Александра Ольховик
КАК СПАСТИСЬ
ОТ УЖАСНЫХ РОБОТОВ?
руководство по выживанию
для человечества

_{/форсайт}

_{/безопасность}

_{/сервисные роботы}

Роботы уже среди нас, и они могут быть потенциально опасны, как, впрочем, и газонокосилки, обычные, не роботизированные. Так как средний робот устроен несколько сложнее средней газонокосилки, то и спектр возможных угроз получается шире. Рассмотрим их по порядку.

1. ФИЗИЧЕСКИЙ УЩЕРБ

1.1. Случайный

Большая часть действующих роботов не предназначена для причинения вреда человеку, что совершенно не гарантирует отсутствия сбоев или ошибок в эксплуатации, ведущих к несчастным случаям. Прежде всего это касается промышленных автоматов и сложных роботизированных инструментов, управляемых человеком непосредственно. Отдельную группу риска составляют автономные транспортные средства. Например, 1 июля 2015 года в Маунтин-Вью произошло первое ДТП с участием беспилотного автомобиля, в результате которого пострадали люди. В самоуправляемый экомобиль Google сзади врезалось другое транспортное средство. Причиной аварии послужил человеческий фактор. Все участники ДТП пострадали незначительно.

Бытовые роботы пока еще не так распространены и возможностей для причинения серьезного вреда имеют меньше (пол поцарапать или кота напугать – максимум, что может учинить взбесившийся робот-пылесос, кроме того, в случае необходимости его всегда можно прибить табуреткой).

Обезопасить себя от физической робоугрозы можно несколькими способами.

РЕШЕНИЕ № 1.

Инженерно-техническое

Данный вариант предполагает работу с «железом»: усовершенствование системы датчиков, повышение точности управления, облегчение конструкции и т. д.

Интересный подход к обеспечению безопасности роботов, непосредственно взаимодействующих с людьми, предлагает компания Bionic Robotics. Вместо того чтобы полагаться на системы контроля, данная фирма проектирует роботов таким образом, что они физически не могут приложить достаточно усилий, чтобы нанести вред человеку.

Кто защитит их от нас?

Американское общество по предотвращению жестокого обращения с роботами занимается правами роботов с 1999 года. По крайней мере, так написано у них на сайте. Последние технологические разработки убедили многих, что появление полноценного искусственного интеллекта гораздо ближе, чем считалось ранее. Пока еще никто из роботов за помощью к представителям данной организации не обращался, но когда это случится, они будут готовы.

www.aspcr.com

РЕШЕНИЕ № 2.

Идеологическое

Три закона робототехники Азимова продолжают вдохновлять разработчиков на попытки встроить в автономных роботов алгоритмы морали и нравственности.

В частности, созданием искусственного интеллекта, способного принимать этические решения в сложных ситуациях, занимается группа исследователей из Университета Тафтса, Университета Брауна и Политехнического института Ренсселера совместно с ВМС США.

На практике это направление пока дает больше вопросов, чем ответов. Во-первых, само определение базового перечня норм в непротиворечивой форме достаточно затруднительно. Во-вторых, действительно сложные с точки зрения этики ситуации единственно верного решения не имеют по определению. Например, как должен среагировать беспилотный автомобиль, если на дорогу выскочил ребенок и избежать столкновения можно только ценой жизни пассажира? Наконец, остается проблема ответственности за сделанный роботом выбор.

РЕШЕНИЕ № 3.

Нормативно-правовое

Принятие формальных правил существенно снизит риски, связанные с взаимодействием человека и робота, и, кроме того, позволит определить степень ответственности.

Первым местом в мире, где официально разрешили движение беспилотных автомобилей по дорогам общего пользования, стал штат Невада (США). Свод специальных правил, регулирующих использование автономных транспортных средств в штате, был опубликован в 2012 году.

1.2. Намеренный

Казалось бы, то, что создание Терминатора – плохая идея, в настоящее время должно быть понятно интуитивно, однако люди работают и в этом направлении.

Военные беспилотники сейчас уже никого не удивляют, да и участие роботов в боевых действиях уже скоро станет реальностью. Например, в демилитаризованной зоне между Северной и Южной Кореей наряду с солдатами службу несут боевые машины, оснащенные пулеметами и датчиками тепла и движения.

В настоящее время решение открывать огонь принимает оператор, но, в принципе, роботы могут действовать и автономно.

В теории защититься от армии роботов-убийц для человечества не так уж и сложно, достаточно их не создавать. На практике, как правило, все несколько сложнее. И хотя решение проблемы лежит в плоскости международного и национального законодательства, в мире уже сейчас набирает обороты движение за запрет на разработку и использование роботов-убийц. В 2013 году для продвижения этой идеи было создано объединение неправительственных организаций The Campaign to Stop Killer Robots. К запрету автономных боевых систем призывает ООН. В 2015 году с аналогичной инициативой выступили известные ученые и технологические предприниматели со всего мира, в том числе Элон Маек, Стив Возняк и Стивен Хокинг.

2. МОРАЛЬНЫЙ УЩЕРБ

Распространение сервисной и потребительской робототехники может привести к тому, что личного пространства у человека практически не останется. Для нормального функционирования роботам необходимы сложная система датчиков и определенный набор информации о клиенте. Использоваться же собранные данные могут далеко не всегда на благо потребителя. Домашний робот-помощник вообще представляет собой идеальное средство проникновения в частную жизнь.

Насколько легко люди могут дать неограниченный доступ к личной информации случайному роботу просто потому, что он выглядит мило и безобидно, демонстрирует робот Boxie – собиратель историй, разработанный специалистами Массачусетского технологического института. Маленькая картонная коробочка с нарисованной милой улыбкой, снабженная видеокамерой и системой сенсоров, была специально спроектирована для того, чтобы вызывать у людей доверие и заставлять делится личными историями – разумеется, исключительно для съемок документального фильма в рамках эксперимента.

РЕШЕНИЕ № 1.

Спокойствие и бдительность

Помните, роботы вам не друзья. Утешает, что ненавидеть они вас тоже не могут. По крайней мере, пока.

Справедливости ради следует заметить, что самую разнообразную личную информацию при желании можно добыть о любом человеке, использующем мобильный телефон, уже сейчас, без роботов-посредников. Персональные данные в социальных сетях вообще находятся в открытом доступе, и мы сами их туда поместили. Ничего, живем.

РЕШЕНИЕ № 2.

Нормативно-правовое

Законодательное регулирование использования робототехники и данных, полученных с помощью роботизированных средств, снижает риск морального вреда в той же степени, что и вреда физического.

3. ВЫТЕСНЕНИЕ С РЫНКА ТРУДА

Роботы становятся все умнее и могут все больше. Мы успели привыкнуть к автоматизации производственных задач, в то время как сфера применения робототехники продолжает расширяться.

Гости отеля Aloft в Калифорнии могут встретиться с роботом-дворецким, в Китае в ресторане Haohai Robot Restaurant работают механические официанты и повара, а в Японии с июля 2015 года открывается гостиница Hennna Hotel, в которой роботы составят большую часть персонала.

Под удар попадают не только материальное производство и сервис, но и интеллектуальная деятельность, например, подготовка финансовых и спортивных обзоров. Услугами робожурналистов – специальных программ, способных собирать и обрабатывать различную информацию без непосредственного участия человека, успешно пользуются журнал Forbes, The Los Angeles Times, информационно-новостное агентство Associated Press.

Для общества в целом массовая роботизация сулит немало преимуществ: повышение производительности труда, избавление от рутины, расширение возможностей. По оценкам McKinsey Global Institute, системы автоматизации умственного труда смогут взять на себя задачи по производительности, равные отдаче от 110 до 140 млн полных рабочих мест. Ежегодный экономический эффект от такого увеличения производительности к 2025 году составит от 5,2 до 6,7 трлн долларов.

Однако резкий технологический сдвиг для отдельных людей может пройти достаточно болезненно. По прогнозу компании Gartner, роботы и специальные программные средства к 2025 году займут треть существующих рабочих мест.

РЕШЕНИЕ № 1.

Продуманные социальные программы

Часть работ, требующих низкой квалификации и при этом сложно алгоритмизируемых, еще долго останется прерогативой человека просто потому, что труд людей обойдется дешевле, чем производство, эксплуатация и обслуживание роботов. В сочетании с замещением более квалифицированного, но рутинного труда автоматами это может привести к росту расслоения общества, для сглаживания которого и снижения социальной напряженности потребуются специальные инструменты государственного регулирования.

РЕШЕНИЕ № 2.

Учиться, учиться и еще раз учиться

Роботы не только и не столько заменяют труд человека, они изменяют природу деятельности. В результате появляются совершенно новые профессии и повышаются требования к квалификации действующих работников.

Согласно «Атласу новых профессий»[1]1
  «Атлас новых профессий» – российский Форсайт, посвященный будущему профессиональной деятельности в различных секторах народного хозяйства.
  atlaslOO.ru


[Закрыть], еще до 2020 года в сфере робототехники и машиностроения могут появиться следующие вакансии:

• Проектировщик промышленной робототехники. Специалист, занимающийся проектированием роботизированных производственных устройств, а также роботизированных комплексов, например, автоматизированных заводов.

• Оператор многофункциональных робототехнических комплексов. Специалист по управлению и обслуживанию роботизированных систем на сложных и опасных производствах и при работе с труднодоступными объектами или микрообъектами.

• Проектировщик-эргономист. Специалист, проектирующий роботизированные системы с учетом эргономических требований пользователей, исходя из их физических и психических особенностей.

• Инженер-композитчик. Специалист, занимающийся подбором композитных материалов для производства деталей, механизмов, соединительных элементов робототехнических устройств с заданными характеристиками, в том числе с использованием 3D-печати.

• Проектировщик детской робототехники. Специалист, разрабатывающий детские игрушки, игры, гаджеты и различные механизированные товары широкого потребления на основе программируемых роботов с учетом психофизиологических особенностей детей разного возраста.

• Проектировщик нейроинтерфейсов по управлению роботами. Специалист, проектирующий системы управления промышленными и боевыми роботами с помощью нейроинтерфейсов индивидуальными операторами и распределенными коллективами.

По мнению авторов «Атласа», после 2020 года следует ожидать появления специалистов, занимающихся разработкой и программированием домашних роботов, а также биосовместимых робототехнических комплексов и киберустройств для медицины и биотехнологической отрасли.

Развитие робототехники открывает для человечества новые перспективы, пугающие и вдохновляющие одновременно. Пытаться остановить его бессмысленно, а вот направить в нужное русло – жизненно необходимо.

По материалам 47 новостных и аналитических источников.

© Tim Russell, илл., 2015

ПРОГНОЗЫ РАЗВИТИЯ РОБОТОТЕХНИКИ

_{/долгосрочное сценарное развитие}

_{/прогноз}

2018

Беспилотные транспортные средства в составе колонн военной техники США

A Roadmap for US. Robotics: From Internet to Robotics, 2013

2019

Коммерчески доступные роботы для ухода за пожилыми людьми и инвалидами. Массовое распространение к 2029 году

Национальный институт научно-технической политики Японии (NISTEP), 2010

2020

В США будут эксплуатироваться 50 тыс. гражданских беспилотных летательных аппаратов

Федеральное управление гражданской авиации США. 2012

2023

Высокоточные промышленные манипуляторы с тактильными датчиками, конкурирующие с ручным трудом при сборке сложных устройств

A Roadmap for US. Robotics: From Internet to Robotics, 2013

2024

Коммерчески доступные легковые автомобили, способные передвигаться полностью автономно. Широкое распространение к 2035 году

IHS Automotive, 2014 KPMG и Center for Automotive Research, 2012

2025

Массовое использование робототехники в строительстве

Экспертный семинар «Тренды и перспективы развития отрасли робототехники в России» фонда «Центр стратегических разработок «Северо-Запад»», 2014

2028

Первые автономные медицинские микроботы, способные самостоятельно перемещаться в организме пациента

A Roadmap for U. S. Robotics: From Internet to Robotics, 2015

2029

Искусственный интеллект будет способен к самообучению, пониманию шуток и имитации эмоций

Рэй Курцвейл, технический директор Google, 2014

2030

Коммерчески доступные андроиды, внешний вид и способности которых идентичны человеческим

Экспертный семинар «Тренды и перспективы развития отрасли робототехники в России» фонда «Центр стратегических разработок «Северо-Запад»», 2014

2034

Роботы будут способны выполнять большую часть домашней работы

Хелен Грейнер, сооснователь iRobot, 2004

2035

Боевое применение автономных роботов-солдат

US Army's Joint Robotics Program Master Plan, 2006

2040

Роботы будут использоваться для обеспечения правопорядка в городах

Профессор Ноэл Шарки, Университет Шеффилда, 2012

Наоми Критцер
МЕХАНИЧЕСКАЯ ПОДМЕНА

_{/фантастика}

_{/гуманитарные технологии}

_{/андроиды}

Мы произнесли тост за то, что Мэнди порвала со своим парнем, над полем для игры в «Водного Короля».

– Мне он никогда не нравился, – сказала я, ничуть не соврав.

Я не стала добавлять: «…и вот что сбивает меня с толку – тебе он тоже никогда не нравился, так зачем вы с ним съехались?» Невзирая на присказку «даже не пытайся изменить мужчину» (ну или, если вы за равноправие, «даже не пытайся изменить того, с кем встречаешься»), Мэнди со дня их знакомства рассматривала этого парня как незавершенный продукт. Ей даже удалось пару раз затащить его на ночь игр, хотя он явно считал настолки чем-то невыразимо скучным.

– В следующий раз найди себе хорошенького геймера, – предложил Ларри, отхлебнув шампанского. Тем вечером мы встретились в его квартире. У Ларри есть настоящая работа – в отличие от остальных, живущих исключительно на гражданскую стипендию. С одной стороны, днем Ларри занят, с другой – у него лучше с деньгами и он может позволить себе большую жилплощадь, где всемером можно комфортно встречаться и играть в настольные игры.

(Удивительно, но очень многие уверены, что сидеть и сражаться в настолки по сравнению с нырком в виртуальную реальность – это суперретро. А вы в курсе, что до сих пор проводятся турниры по «Скрэбблу» и «Монополии»? Кроме того, когда видишься с кем-то лично, можно есть кукурузные чипсы и сплетничать одновременно.)

– Больше никаких мужиков, – отрезала Мэнди. Вкатился домработник с подносом закусок. Мэнди оглядела его, будто прицениваясь. Домработник почти весь серебрился, маленькие глазки робота вращались на черенках. Он ездил туда-сюда, раздавая закуски, и Мэнди заграбастала пригоршню чипсов, – Слишком много труда приходится вкладывать.

– Вероятно, он сейчас говорит то же самое о женщинах, – пробормотал Квинн, мой бойфренд, еле слышно. Я хихикнула и почувствовала себя виноватой – мне следовало верить Мэнди. И все-таки. Должна признаться, я надеялась, что ее бывший прямо сейчас отмечает разрыв в компании друзей, смотря при этом… бейсбольный сезон уже начался? Теннис? Сквош? Его все это увлекало. Мэнди – не очень.

В ночь игр Мэнди была в отличном настроении, но я все равно проведала ее на следующей неделе, просто чтобы посмотреть, как она там.

– Иззи! – обрадовалась она мне. – Заходи! Я хочу тебя кое с кем познакомить!

Я съежилась.

– Уже?

– Это не то, о чем ты думаешь. Заходи же!

Я переступила порог ее квартиры. Бывший съехал, и Мэнди успела истребить следы его присутствия. Нишу, в которой размещались его вещи, Мэнди полностью переоборудовала в студию – с полунаписанной картиной на огромном мольберте. Я скользнула по ней взглядом – очередной рисунок в стиле фотореализма – и посмотрела на молодого шатена с приятным лицом, расположившегося на диване. Для Мэнди он казался слишком юным.

– Джо, – позвала она. – Подойди. Я хочу представить тебя Иззи.

Он поднялся и подошел ко мне, протягивая руку.

– Приятно познакомиться, – сказал он столь искренне, что голос его почти дрожал. – Вы – первая подруга Мэнди, с которой мне посчастливилось встретиться.

Он слегка выделил имя Мэнди и посмотрел на нее. Я вздохнула с облегчением – его пристальный взгляд меня нервировал.

– Ага, – сказала я, – Мне тоже приятно познакомиться.

И взглянула на Мэнди, думая про себя: неужто этот парень настоящий?

Ее лицо просто светилось самодовольством, и тут меня осенило.

– Ох. Нет, только не это.

– Мой тупой бывший по соглашению получил домработника, – сказала Мэнди, – Мне так и так нужен был новый, и я… купила новую модель.

Я оглядела «Джо». Робот, который выглядит как человек, стоит куда дороже. Теперь стало понятно, почему Джо столь раздражающе совершенен и откуда у него такое молодое лицо.

– Новая модель, говоришь? Ты не могла обойтись стандартным домработником и, прости, хорошим вибратором? Я уверена, что это было бы дешевле.

– Мне он нужен не только для спальни. Он будет моим бойфрендом. Верно, Джо?

Тот обнял ее за талию и, наклонившись, поцеловал в щеку.

– Мэнди, я буду с тобой, пока тебе не надоест.

Она отступила на шаг и посмотрела на него с сомнением.

– Мне нравится физический жест, но в следующий раз говори, что будешь со мной всегда.

Он улыбнулся точно так, как улыбаются безумно влюбленные люди.

– Конечно, дорогая.

Мэнди вновь повернулась ко мне и сказала:

– Он учится так быстро! Мне не нужно ничего говорить дважды.

– Еще бы, – сказала я. – Я имею в виду, в этом и есть суть робота, верно?

– Именно! Я знала, что ты поймешь.

Джо стоял на месте и улыбался нам обеим.

Когда возникла пауза, он спросил:

– Иззи, вам что-нибудь принести? Хотите пить? Есть? Я делаю прекрасные сэндвичи.

Будь это обычный домработник, я бы согласилась, но от Джо у меня мурашки бежали по коже, и я соврала, что уже обедала и мне надо домой, – я обещала себе, что сочиню сегодня очередную часть симфонии, над которой трудилась. И ушла.

Дома я велела своему домработнику принести сэндвич и лимонад и села за клавиши, чтобы поработать, но работа не спорилась. Мой домработник проще и функциональнее, чем у Ларри; у него даже лица нет. Зато он умеет готовить (что важно для меня) и убирать (что важно для Квинна). Потом вернулся Квинн, и я, вместо того чтобы сыграть ему новый кусок симфонии, рассказала о Мэнди и ее изготовленном на заказ парне.

– М-да, – сказал Квинн. – Как ни печально, это, вероятно, более здравая мысль, чем выискивать мужчин, которых можно переделать. Роботы в отличие от людей отменно следуют инструкциям. Кроме того, Джо всегда будет опускать за собой стульчак, если только Мэнди не прикажет оставлять все как есть.

– Никогда не понимала, почему она не велит домработнику проверять за мужиком туалет и опускать этот чертов стульчак, – сказала я, – Вместо того, чтоб раздувать из мухи слона.

– Ну, этот ее парень вообще не будет ходить в туалет – разве что для подзарядки, – сказал Квинн. – Одной проблемой меньше.

Мне не следовало удивляться тому, что Мэнди притащила Джо на ночь игр.

Он почти все время дружелюбно улыбался. Мне следовало бы сказать «оно дружелюбно улыбалось», но дело в том, что когда робот выглядит точь-в-точь как человек, трудно воспринимать его как бесполое существо. Домработник Ларри – робот, которого с человеком не спутаешь, хотя и довольно милый (его глаза «мигают», и все такое). Ларри иногда делает вид, что тот – его домашнее животное. У Дон и Шанис такая же простая модель, как у нас, только они дали ей имя. Мы с Квинном всегда были более практичны. Наш домработник – не человек и не животное, это машина, которую мы купили, чтобы она готовила пищу, мыла туалет и была у нас на побегушках. Многие дают роботам-домработникам имена, но только эти имена им не нужны.

(Разве что у вас зачем-то два домработника – но в стандартной квартире со всей домашней работой вполне справляется и один.)

К тому моменту мы все были в курсе того, что Мэнди купила робота, внешне неотличимого от человека, так что разыграть нас – представить Джо и ждать, как скоро мы его раскусим, – она не могла. Мэнди провела Джо по комнате и познакомила его с каждым; никто не отказался пожать ему руку, хотя Шанис, понятно, сделала это с отвращением. Джо сел на раскладной стул, оставив людям места поудобнее, и взирал на нас со счастливой улыбкой; в разговор он не вмешивался.

Всем стало неловко, когда Мэнди дала понять, что хочет, чтобы Джо поучаствовал в игре.

– Не будь дурой, – сказал Ларри без обиняков. – Эти игры тестируют человеческие умения. Я бы сыграл в «Скрэббл» с роботом, если б захотел, но машина постоянно меня обыгрывала бы – словарь встроен в ее башку.

– Я велела ему не выигрывать слишком долго, – нанесла контрудар Мэнди.

– Значит, твой механический дружок будет поддаваться? К Нет. Никогда.

– Если он не играет, мы уходим, – сказала Мэнди.

Все завздыхали, и тут Шанис предложила:

– Может, в «Дипломатию»? С роботом нас семеро. И я не думаю, что в этой игре у него будет какое-то преимущество.

– Ну да, разве что Мэнди прикажет ему стать ее союзником – и что он сможет ей возразить? – взъярился Ларри.

Я пораскинула мозгами и сказала:

– Мы можем это учитывать…

А Мэнди добавила:

– Я могу прямо сейчас приказать ему просто играть в игру как положено – заключать со мной союзы, когда нужно, и предавать, если это выгодно.

– Он вообще способен врать? – спросил Квинн.

Мы все в задумчивости уставились на Джо.

– Ладно, – сказала Дон, – Я принесу коробку.

«Дипломатия» – серьезная олдскульная игра, придуманная в середине XX века; все участники играют за европейские державы эпохи Первой мировой войны. В этой игре нет никаких случайностей – никто не бросает кости и так далее. Сначала ты убеждаешь других игроков стать твоими союзниками (и говоришь им, что тебе можно доверять). Потом каждый пишет на бумажке свой ход, так чтобы никто не видел, и все ходы разом вскрываются. Разрешается говорить неправду, давать обещания, которые ты не собираешься выполнять, и наносить удары в спину. По сути, тебе надо предать союзников до того, как они предадут тебя.

У робота есть неоспоримое преимущество в любой игре, требующей прекрасной памяти или способности молниеносно рассчитывать вероятности, а таких игр большинство. Однако в игре, где требуется догадаться, кто тебе лжет, а кто нет, роботу придется несладко. Мы решили сыграть с ним – нас всех уже разбирало любопытство. Мэнди снова и снова говорила Джо, что он должен стремиться к победе, что ему можно врать людям, включая ее саму, и предавать их, включая ее саму, если это приведет к выигрышу. Мы вынуждены были поверить, что она потом втихаря не отменит свой приказ, но Мэнди, видимо, понимала, что если он поддержит ее, когда выгоднее будет предать, мы сразу поймем. И повторять эксперимент не будем.

В первой фазе дипломатических переговоров я заметила, что никто не подходит к Джо – скорее оттого, что всем было от него не по себе, чем оттого, что кто-то считал, будто он сдаст своих союзников Мэнди. Я пожала плечами и двинулась к роботу. Я играла за Россию, Джо – за Турцию, и я была более чем уверена, что вместе нам удастся не дать Мэнди (она играла за Австрию) одержать победу к концу 1903 года[2]2
  В классическом варианте «Дипломатии» действие начинается в 1901 году.


[Закрыть], если мы сможем убедить других игроков ей не помогать.

– Будем союзниками? – спросила я.

– О да, спасибо, – сказал Джо, светясь энтузиазмом. Я задумалась, станет ли он прыгать и хлопать в ладоши, если выиграет.

Навряд ли вы играете в «Дипломатию», и детали – кто с кем спелся, кто кого и когда предал – вам не особо интересны, так что я коротко обрисую итоги: Джо играл адекватно, но не превосходно – он анализировал стратегические преимущества всех возможных ходов, однако плохо разбирался в людях и, откровенно говоря, был крайне доверчив. Кроме того, он позволил остальным сокрушить Мэнди (нам всем этого очень хотелось), и, поскольку все решили, что способность обижаться в нем не запрограммирована, я смогла убедить и Квинна, и Дон, что собираюсь кинуть Джо, а на деле кинула Квинна. (Как правило, я никому не советую играть в «Дипломатию» с бойфрендом, но нам эта игра только на пользу.)

Никто не победил; когда остались я, Джо, Дон и Ларри, мы перестали играть – настоящей победы в «Дипломатии» можно добиваться всю ночь. Джо это наше решение явно поставило в тупик, но он не жаловался.

Потом мы ели пиццу и пили пиво – все, кроме Джо, который тихо сидел и смотрел на нас. Когда пришло время расходиться, он подал Мэнди пальто и надел пальто сам, хотя, конечно, простудиться не мог – осенний вечер был ветреным, но замерзнуть роботу не грозило. Все пожали Джо руку и разошлись.

Почти весь следующий год Джо был бойфрендом Мэнди.

Причем бойфрендом идеальным. Не поймите неправильно – мне очень нравится Квинн. Благодаря ему я счастлива. Но иногда он несовершенен. Скажем, когда Квинн расходует рулон туалетной бумаги, он частенько оставляет новый на бачке, хотя мог бы повесить его на держатель. Джо не пользуется туалетом, но если бы робот туда ходил, он всегда вешал бы рулон как надо. Более того, пожелай Мэнди никогда не вешать рулон сама, она могла бы приказать Джо проверять, кончилась туалетная бумага или нет, и при необходимости вешать новый рулон, и он делал бы это без отвращения и напоминаний.

Вдобавок Мэнди могла менять Джо. Я имею в виду, в придачу к приказам типа «всегда вешай рулон туалетной бумаги» и «готовь мне обед каждый день», она могла отвести его в мастерскую и изменить параметры личности, и через полтора месяца после покупки Джо она именно так и поступила.

– Он такой тихий, – объяснила она. – Я, конечно, не хочу, чтобы он меня перебивал, но было бы здорово, если бы он иногда начинал разговор, а не просто его поддерживал. Я ему об этом сказала, он старается изо всех сил, но с новыми идеями у него туговато – вечно одно и то же: «как твоя работа, Мэнди?» или «как твой день, Мэнди?». Ну, то есть он превосходный слушатель. Это я менять не хочу. Я хочу, чтобы ему было что сказать.

После перепрограммирования, которое Квинн называет трансплантацией личности, Джо стал болтливее. Куда болтливее. Дон страшно бесилась: Джо никого не перебивал, но не упускал случая начать свою болтовню, когда мы замолкали. А иногда, знаете ли, хочется просто посидеть в тишине.

Однажды Дон сказала ему:

– Эта история, которую ты рассказываешь. Про странного парня в поезде. Ты рассказывал ее на прошлой неделе. Я не хочу слушать истории дважды. Я знаю, ты помнишь все, что говорил мне, так зачем ты рассказываешь одно и то же?

Джо непоколебимо продолжал улыбаться.

– Извини, Дон, – сказал он.

– Ты не извиняешься. Ты просто запрограммирован так говорить, когда выводишь людей из себя.

– По правде сказать, – встряла Шанис, изучая карты в руке (мы в тот день играли в «Квант силы»), – я делаю ровно то же самое.

Все засмеялись, Джо какое-то время молчал, а потом стал пересказывать статью, которую прочел в газете. Мэнди дотронулась до его руки и одарила робота таким взглядом, что он сразу умолк.

Функция «истолковать взгляд» оказалась частью нового набора способностей, позволявших роботу понимать язык тела, хотя, честно говоря, получалось у Джо неважно. Просто люди никогда не играют по правилам. Представьте себе попытку запрограммировать робота распознавать «злое» выражение лица, не путая его с «очень задумчивым» (мы часто так выглядим, когда играем). Мы продолжали играть с Джо в «Дипломатию», и игра по-прежнему ему не давалась. В других играх он побеждал не слишком долго… но не в «Дипломатии».

Мэнди и Джо были вместе уже месяцев семь, когда мы с ней решили поучаствовать в художественном состязании, по условиям которого требовалось создать нечто в соавторстве с человеком, занимающимся совсем другим видом искусства. Кто-то выделил денег на премиальный фонд – немного, но достаточно, чтобы подсластить стандартную гражданскую стипендию. (Стипендии хватает на оплату типовой квартиры, на питание, даже на домработника, но если вам захотелось путешествовать или исполнить какой-нибудь свой каприз, копить приходилось долго. На Джо Мэнди потратила гонорар за написанную по заказу картину.) Мы подумали – почему бы и нет, и подали заявку. Встретившись пару раз, мы сумели неплохо поработать, хотя, признаюсь, смысл фотореалистического искусства от меня ускользает. Если хочешь, чтобы что-то выглядело как фотография, почему бы не сделать фотографию? Мэнди долго объясняла мне, почему фотореализм любопытен как художественное движение, но я в конце концов перестала прислушиваться. Мы решили организовать совместную выставку: пусть люди смотрят на картины, которые нарисовала она, под живую музыку, которую специально по этому случаю сочинила я.

Больше всего на свете Мэнди любила рисовать мужчин. Голых мужчин с красивой мускулатурой. Среди прочего у нее имелись дюжина рисунков с Джо, пара рисунков бывшего бойфренда и множество работ с моделями, которых она нанимала. Я проглядела ее портфолио.

– Джо, наверное, хорошая модель, – сказала я.

– Никакого художественного вызова, – вздохнула она, – Он сидит не двигаясь столько времени, сколько требуется. Если ему надо уйти, чтобы приготовить мне обед или что-то в этом роде, он возвращается и садится в точно такую же позу, в какой сидел до того. Слишком просто.

– Вот как?

– Ну да, и, честно говоря, это и есть главная проблема Джо. С ним всё слишком просто.

Когда она это сказала, Джо мыл посуду в кухонной нише, и я слышала, что он сделал паузу, но ничего не сказал. Секунду спустя он продолжил драить тарелки.

Последней попыткой Мэнди сохранить любовь стала еще одна трансплантация его личности, после которой Джо получил способность возражать хозяйке. Как-то они поссорились из-за игры, в которую хотела играть Мэнди: Джо настаивал, что сейчас должна выбирать не она, а Шанис. Кроме того, я однажды слышала, как они бранятся, пока разглядывала рисунки в их квартире. Джо жаловался, что Мэнди, приготовив еду, ничего не убрала и не замочила подгоревшую сковородку.

– Ты же понимаешь, – нудил он, – что я потратил бы в четыре раза меньше времени, чтобы отчистить днище, если бы ты ее замочила. Или сказала, что яичница подгорела. Или попросила приготовить тебе завтрак – это было бы лучше всего.