Текст книги "Все под контролем: Кто и как следит за тобой"
Автор книги: Симеон Гарфинкель
сообщить о нарушении
Текущая страница: 28 (всего у книги 34 страниц)
Моральный долг обязывает пытать
Итак, суть противоречия в следующем: новые технологии создают потрясающие возможности для экстремистских групп, позволяющие нести смерть и разрушения в общество. В то же время новые технологии дают правоохранительным органам возможность вести всестороннее наблюдение за гражданским населением способами, которые раньше невозможно было себе представить. Могут ли правоохранительные органы заниматься широкомасштабным, всеобъемлющим наблюдением, имея дело с постоянно повышающимся риском мегатеррора?
Чарльз Блэк [Charles Black], один из крупнейших специалистов в области гражданских прав в 1950-х и 1960-х годы XX века, на одном из первых занятий по конституционному праву в Йельском университете задавал слушателям вопрос: «Предположим, что вы нью-йоркский полицейский и у вас имеется задержанный, про которого точно известно, что он установил атомную бомбу с таймером, который должен привести ее в действие на следующий день. Правомерно ли подвергнуть его пытке согласно Конституции? Правомерно ли это вообще?»
Один из бывших студентов Блэка, а ныне профессор права в университете Майами Майкл Фрумкин [Michael Froomkin], хорошо помнит эту задачу. «Непреложным является тот факт, что пытки явно запрещены Конституцией», – объясняет Фрумкин. Но, несмотря на это, говорит Фрумкин, если бы он был этим полицейским, он бы чувствовал моральный долг применить пытки к преступнику, обезвредить бомбу, после чего уволиться и отвечать за содеянное. «Мы говорим о чрезвычайных обстоятельствах, оправдывающих чрезвычайные действия. Во многом это зависит от уровня вашей моральной интуиции».[219]219
Интервью автору, 14 мая 1997 года.
[Закрыть]
Пытки – прекрасная точка отсчета, говорит Фрумкин: если пытка морально оправданна, то, несомненно, прослушивание, видеонаблюдение, снятие отпечатков пальцев и другие современные технологии борьбы с преступностью также оправданны. И конечно, некоторые страны узаконивали пытки как средство борьбы с терроризмом. Израиль, например, использовал меры физического воздействия на подозреваемых в терроризме с целью раскрытия деталей планируемых террористических актов. Но многие люди, правительства и ООН протестовали против использования Израилем разрешенных на государственном уровне пыток. Аргумент очень простой: пытки уничтожают моральное доверие к тому, кто их использует. Недавно Верховный суд Израиля вынес определение, что пытки являются неприемлемыми по израильским законам, возможно, положив конец этой практике в Израиле.
Обратимся снова к профессору Луису Рене Бересу из университета Пардью, который считает, что правительству США, возможно, необходимо право на осуществление арестов без ордера, всепроникающего мониторинга и даже убийств для предотвращения в особых случаях, например, ядерных атак террористов, – именно в тех случаях, когда информация достоверна, а времени мало. «Если вы знаете, что определенная группа тайно установила [взрывное] устройство, и единственный способ предотвратить его использование связан с выходящими за рамки закона действиями, готовы ли вы санкционировать их?» – спрашивает Берес.
По мнению Береса, ответ на этот вопрос – безоговорочное «да». Гораздо лучше, аргументирует Берес, временно приостановить гарантированную Конституцией защиту, чем позволить миллионам людей умереть. Для тех, кто не согласен с ним, он говорит: «Если вы считаете, что опасность ареста без ордера выше опасности ядерного уничтожения, то это ваше решение…Томас Джефферсон[p64]p64
Томас Джефферсон [Thomas Jefferson] – (1743–1826), 3-й президент США (1801–1809), основной автор Декларации независимости. Ему, в частности, принадлежат слова из Декларации: «Мы исходим из той самоочевидной истины, что все люди созданы равными и наделены Создателем определенными неотъемлемыми правами, среди которых право на жизнь, свободу и стремление к счастью».
[Закрыть] не жил в ядерную эпоху. Он не мог предвидеть такой разрушительной силы».
Лучшее решение
К сожалению, массивное всеохватывающее наблюдение хорошо помогает лишь против химического и ядерного терроризма, но эта методика совершенно бесполезна в борьбе против террористов, использующих биологические агенты. Это происходит потому, что опасные бактерии, вирусы и грибки естественным образом существуют в окружающей среде. «Сибирская язва обнаружена по всему юго-западу Америки, – говорит Кэтлин Бейли [Kathleen С. Bailey], бывший помощник директора Агентства по контролю за оружием и разоружением США [US Arms Control and Disarmament Agency]. – Там она называется „болезнь бараньих стригалей“ [Sheep Shearer Disease], поскольку споры сибирской язвы находятся в овечьей шерсти…Каждый год мы имеем 10, 15 или 20 случаев заболевания».[220]220
Интервью автору, 11 августа 1997 года.
[Закрыть]
Люди, занимающиеся домашним консервированием мяса и овощей, постоянно подвергаются риску заболеть ботулизмом. Работающий в одиночку потенциальный террорист, прослушавший один или два дополнительных курса по микробиологии в колледже, может создать большой арсенал биологического оружия. Все, что будет нужно этому человеку, по словам Бейли, это оборудование на сумму 10 тысяч долларов и подвальная комната площадью чуть больше 1,5 квадратных метров.
«Если кто-то захочет это сделать, вы не сможете остановить его, – говорит доктор Бейли. – Если это террористическая группа, вы можете выследить ее. Но если это одиночка, очень сложно знать заранее, что он делает у себя в гараже, кладовке или подвале…Не происходит никаких выделений или излучений. Современный уровень развития технологий не позволяет выяснить, кто производит сибирскую язву у себя в подвале».
Даже если конгресс сожжет Конституцию и превратит США в полицейское государство, говорит Бейли, это не избавит общество от угрозы биотерроризма. «Вы действительно думаете, что сможете поймать человека, собирающегося терроризировать население биологическим оружием? Как вы об этом узнаете? Вы не знаете, в какой дом пойти. Или вы хотите иметь по одному полицейскому на каждого жителя Земли, чтобы они контролировали друг друга? Даже если вы сделаете это, вы не гарантированы оттого, что кто-то однажды совершит ошибку».
Вместо этого, говорит Бейли, мы должны готовиться к возможной атаке путем разработки вакцин и лекарств: «Я считаю, что мы должны иметь хорошие лекарства и постоянно быть в курсе того, какие патогены могут быть использованы террористами. И я думаю, что для правоохранительных органов чрезвычайно важно знать, что происходит в террористических группах».
Более того, мы должны постоянно контролировать окружающую среду на предмет появления первых признаков биологической атаки, говорит доктор Джонатан Такер из Центра исследований проблем нераспространения. Поражение спорами сибирской язвы лечится при помощи антибиотиков, если с момента заражения прошло не более трех дней. Проблема состоит в том, что симптомы заражения сибирской язвой проявляются лишь на третий или четвертый день. Если мы будем ждать, пока люди обратятся за неотложной помощью, они умрут.
Вместо этого Такер предлагает установить недорогое оборудование для контроля воздуха в метро, крупных зданиях, аэропортах и других местах, являющихся привлекательными целями для биологической атаки: «В подземке вы можете установить пробоотборщики воздуха, которые будут постоянно брать пробы. Если они обнаружат присутствие необычной аэрозоли, будет инициирована тревога. В этом случае будет необходимо проанализировать пробу из фильтра». Если аэрозоль окажется сибирской язвой, общественность будет предупреждена.
Более того, говорит Такер, чиновники общественной безопасности нуждаются в тренингах, а также в средствах на приобретение оборудования для борьбы с этой угрозой. В 1997 году Пентагон зарезервировал 42 миллиона долларов на проведение тренировок правоохранительных органов на местах по отработке действий на случай биологической или химической атаки террористов. Но деньги не были потрачены на приобретение оборудования, а тренировки служб были проведены лишь в 24 самых крупных городах.
Аналогичные меры мониторинга и тренировки могли бы помочь в борьбе с угрозой ядерного или химического терроризма. Терроризм также может быть побежден путем внимательного мониторинга существующих ядерных и химических запасов: это предусмотрено для нераспространения ядерной угрозы и конвенцией по химическому оружию. Мы, конечно, могли бы пойти еще дальше этих требований, еще больше усилив безопасность ядерных, химических и биологических объектов.
Но многие борцы за гражданские свободы считают, что правоохранительные органы используют угрозу терроризма для оправдания расширения власти и увеличения бюджета, так же как они использовали угрозу диверсий и саботажа во время Первой и Второй мировых войн для оправдания атак на гражданские свободы.
Харви Сильверглэйт [Harvey Silverglate], адвокат по уголовным делам из Бостона, специализирующийся на проблеме гражданских свобод, формулирует это таким образом:
Я считаю, что угроза терроризма, о которой вы говорите, сильно преувеличена. «…» Я считаю, что она специально преувеличивается правоохранительными органами, желающими расширить свои возможности. Позвольте мне выразить это так: я не могу вспомнить ни одного события в истории, связанного с массовым уничтожением людей и собственности, которое было бы осуществлено частными лицами или группами, а не правительствами. Отдельные люди, группы, банды – нанесенный ими вред бледнеет по сравнению с тем вредом, который нанесли неконтролируемые правительства. В истории нет примеров Холокоста, за которыми не стояло бы государство.[221]221
Интервью автору, 13 мая 1997 года.
[Закрыть]
Конечно, все потенциалы оружия массового уничтожения, обсуждаемые в данной главе, разработаны и улучшены правительствами. «Поэтому, – говорит Сильверглэйт, – я предпочел бы жить в мире, где правительства более ограничены в своих действиях, чем давать правительствам огромные, ничем не ограниченные возможности по обузданию частного терроризма. Я предпочел бы уживаться с некоторым количеством терроризма, чем с правительственным тоталитаризмом».
Даже если Сильверглэйт не прав, очевидно, что демократизация деструктивных технологий вкупе с постоянно уменьшающимся размером террористических ячеек привела к тому, что глобальный мониторинг потенциальных экстремистов и террористов является обреченной на провал тактикой. Заманчиво думать, что все, что нам нужно, – это пожертвовать своими гражданскими свободами, а именно правом на приватность, и мы навсегда будем защищены от террористических атак. Но такой выбор – глупая сделка, поскольку таких гарантий никто не сможет дать.
Вместо слежки за людьми, гораздо лучше было бы следить за радиоактивными материалами и ограничить доступность химических отравляющих веществ и исходных материалов для них. Вместо того чтобы поступаться приватностью, мы должны увеличить вложения в здравоохранение, создать запасы антибиотиков и активно контролировать окружающую среду на предмет появления первых признаков применения биологического оружия. В конце концов мониторинг появления новых микроорганизмов защитит нас как от микробов, созданных человеком, так и от микробов, существующих в природе.
Наконец, мы должны сконцентрироваться на построении общества, более устойчивого к разрушению крупных городов, которое почти наверняка может произойти в один не очень прекрасный день. В частности, мы должны начать планировать, что мы будем делать в случае потери Нью-Йорка.[p65]p65
Последнее издание книги вышло в США в январе 2001 года.
[Закрыть]
10
Простите, но человек ли вы?
Я встретил Тенга среди подписчиков одной из электронных рассылок, посвященной вопросам компьютерных технологий и гражданских свобод. В то время я работал как внештатный журналист и писал материалы о компьютерной революции для нескольких газет и журналов. Тенг работал системным аналитиком и отвечал за работоспособность компьютерных сетей в одном из крупных банков Сингапура. Он заинтересовался одной из моих публикаций и послал мне электронное письмо, в котором рассказал о жизни в его офисе. В течение следующих нескольких месяцев мы стали обмениваться посланиями по электронной почте чаще и вскоре стали «электронными друзьями».
В течение двух лет мы обменивались с Тенгом электронными письмами как минимум два-три раза в неделю. Он рассказывал мне, что собой представляет жизнь в Сингапуре, какие вещи он покупает в магазинах, о влиянии американской культуры, о том, как его банк «борется» с новыми технологиями. Тенг, в свою очередь, задавал мне множество вопросов. Я рассказал ему о жизни в США, какие виды товаров я предпочитаю покупать, какие фильмы мне нравятся и о покупке какой модели автомобиля я подумываю. Иногда вопросы Тенга были несколько бестактны, но я считал, что он просто интересуется американской культурой. Иногда возникало впечатление, что он не понял смысла отправленного мною письма, иногда он вновь спрашивал что-то, о чем я ему уже рассказывал несколько недель назад. Я всегда списывал эти несуразицы на языковой барьер.
Но однажды судьба дала мне шанс: один нью-йоркский журнал предложил мне отправиться в Сингапур, чтобы написать репортаж о взрывном развитии высоких технологий в этой стране. Я послал Тенгу электронное письмо с вопросом, не хочет ли он встретиться лично, и если да, то когда ему будет это удобно. Но Тенг проигнорировал это письмо; он ответил мне обычным сообщением, в котором рассказал, чем он занимался в последнее время, и поинтересовался, что нового произошло в моей жизни. Я послал ему второе письмо, затем третье, с вопросом о возможности нашей встречи. Наконец он прислал мне ответ, в котором говорилось, что как раз во время моего визита его не будет в городе и встретиться нам нет никакой возможности.
Не знаю почему, но у меня возникли подозрения в отношении Тенга. Я вдруг осознал, что практически ничего о нем не знаю. В одном из писем я спросил его домашний адрес и номер телефона, но он не ответил. Я связался с банком, в котором, по его словам, он работал. Но там никогда не слышали о таком человеке. Наконец, я обратился к одному своему другу, который работал в New York Times. Через репортеров сингапурского бюро Times он навел справки. Получение информации заняло около недели, но когда я узнал правду, я не мог в нее поверить!
Банк, в котором работал Тенг, заключил контракт с американской фирмой, занимающейся исследованиями рынка. Компания создала группу вымышленных личностей, которые «вылавливали» в Интернете американцев, устанавливали с ними дружеские отношения и вытягивали из них ценную для заказчика информацию. Тенг не был реальным человеком, это была компьютерная программа!
Смоделированному человеку нельзя доверять
К счастью для пользователей Интернета, история с Тенгом вымышленная. Хотя я часто завожу «электронные знакомства» с людьми, которых встречаю в списках электронной рассылки по профессиональной тематике, у меня есть достаточно оснований полагать, что мои корреспонденты, находящиеся в Англии, Индии или Японии, являются существами из крови и плоти, а не компьютерными программами, засланными собирать интимные подробности моей жизни.
Между тем многие технологии, необходимые для создания Тенга, существуют уже сегодня. Конечно, Тенг не может быть создан как полноценная модель человеческого интеллекта. Однако он и еще тысячи подобных моделей могут быть созданы путем использования шаблонов, на основе стереотипности мышления, предсказуемости ответов и большого количества средств автоматизированной обработки текста.
Тенг представляет угрозу основам, на которых строятся человеческие отношения. Доверие, честность, уникальность и юмор – ценные качества. Ложь не одобряется ни в одном человеческом обществе. Люди понимают, что это неправильно, и очень часто чувствуют вину, обманывая других. Эти проблемы встают каждый раз, когда люди общаются друг с другом. Правда, всегда найдутся те, кто не захочет играть по правилам, но их достаточно легко вычислить через некоторое время. Общество даже наказывает таких людей, когда они слишком заходят за рамки этики.
Смоделированный человек не может испытывать чувство раскаяния. Он не понимает языка обычных эмоций, созданного человеческим сообществом. Маскирующийся под человека компьютер, который пытается строить человекоподобные отношения и никогда не откроет, что он машина, может быть применен только для использования в неких целях реальных людей, с которыми он вступает в контакт.
ELIZA и ее потомки
Первой компьютерной программой, имитирующей человека, была ELIZA, разработанная Джо Вейценбаумом [Joe Weizenbaum] из Лаборатории искусственного интеллекта Массачусетского технологического института. ELIZA представляла собой простейшую модель человеческого интеллекта. Вейценбаум создал программу в начале 1960-х, когда остальной персонал Лаборатории ИИ бился над созданием компьютера, способного понимать английский язык. Но это было слишком сложно. Вместо того чтобы пытаться создать разумный компьютер, Вейценбаум создал компьютерную программу, поведение которой выглядело разумным. «Я взял все свои шутки, собрал их вместе и на этой основе запустил ELIZE», – рассказывал он исследователю-историку искусственного интеллекта Даниелю Кревье [Daniel Crevier].[222]222
Crevier, AI: Tumultuous History, p. 133–140.
[Закрыть]
ELIZA была очень простой программой, изображавшей роджерианского психотерапевта – последователя школы психиатрии, основанной Карлом Роджерсом. Роджерианская техника состоит в побуждении пациента говорить о своих проблемах, отвечая вопросом на вопрос. ELIZA анализировала введенные человеком фразы, находила среди частей речи глаголы и существительные, переворачивала предложение наоборот и выводила его на экран. Вы могли сказать программе: «Мой парень заставил меня прийти сюда», на что ELIZA отвечала: «Почему Ваш парень заставил вас прийти сюда?» Если у нее возникали затруднения, она могла вернуться к более ранним темам разговора или отделаться шаблонной фразой типа: «Почему Вы пришли сюда сегодня?»
На опытного специалиста-компьютерщика или лингвиста ELIZA не производила впечатление сложной и умной программы. Но для неподготовленного пользователя ее способность поддерживать разговор казалась удивительной. Даже люди, которые знали, что ELIZA – всего лишь компьютерная программа, увлекались этой игрой. Они доверяли ей свои личные секреты и проблемы. «Секретарь Вейценбаума, которая наблюдала в течение нескольких месяцев работу над программой, попросила, однако, выйти его из помещения на время ее первого „терапевтического“ сеанса с программой», – пишет Кревье.
Шокированный поведением своего детища, Вейценбаум вскоре пришел к выводу, что «основная идеология развития искусственного интеллекта – искусственный разум – безнравственна».
После того как ELIZA была написана, этот «подвиг» повторили десятки тысяч программистов. Хью Лебнер [Hugh Loebner], изобретатель и богатый филантроп, спонсирует ежегодный конкурс по написанию программ, имитирующих человека. Автора программы, поведение которой невозможно будет отличить от поведения реального человека из плоти и крови, ожидает приз в размере 100 тысяч долларов и медаль из чистого золота весом 14 карат.[223]223
Для получения дополнительной информации о премии Лебнера, я рекомендую обратиться к прекрасной статье Чарльза Платта [Charles Platt] «What's It Mean to Be Human, Anyway?», опубликованной в Wired Magazine в апреле 1995.
[Закрыть] Пока это не удалось никому. Большинство представленных на конкурс программ «срезались» из-за недостаточного владения английским языком и отсутствия доступа к огромному количеству знаний, являющихся для всех нас само собой разумеющимися.
Однако в менее формальных условиях программы, подобные ELIZA, могут быть приняты за человека. Первое описание такой ситуации, наиболее ярко демонстрирующее проблему приватности применительно к искусственному интеллекту, относится к 1989 году. Речь идет об общении программы MGonz, запущенной в Ирландии, и старшекурсника университета Дрейк в Айове. MGonz была создана Марком Хамфрисом [Mark Humphrys], старшекурсником университетского колледжа в Дублине. Программа отличалась от ELIZA тремя важными моментами. Во-первых, вместо того чтобы общаться на классическом английском языке, MGonz часто обращалась к сленгу, используемому малолетними хакерами. Во-вторых, автор провел «стажировку» программы в сети BITnet, позволяя ей обмениваться короткими сообщениями с участниками сети по всему миру. Наконец, MGonz вела журнал всех своих переговоров.
Во вторник вечером, 2 мая 1989 года, Хамфрис оставил программу запущенной и ушел домой. В 20:12 по ирландскому времени студент из Дрейка начал посылать сообщения программе. Программа отвечала ему. В течение последующего часа и двадцати минут программа выудила из дрейковского студента подробности его сексуальной жизни. К концу сеанса, не осознавая, что ведет диалог с машиной, студент поведал программе, что он потерял девственность в 17 лет, а прошлой ночью занимался сексом в спальне своей подружки. «Войдя в систему на следующий день, я был немало удивлен, что программа успела натворить в мое отсутствие», – вспоминает Хамфрис, поместивший позже запись этой сессии в Интернет (предварительно удалив из текста, по понятным соображениям, имя студента из Дрейка).[224]224
Полную запись «беседы» между студентом из Дрейка и MGonz можно найти по адресу http://www.compapp.dcu.ie/~humphrys/eliza.html.
[Закрыть] Хамфрис сказал мне:
Я всегда слегка беспокоился по поводу этой программы, пока не понял, что она преподала прекрасный урок. Мне понадобилось шесть лет, чтобы осознать это. Заметьте, что все самые дикие непристойности и обещания всегда исходят от человека, а не от машины, которая отвечает с холодным безразличием и задает немного приводящих в бешенство вопросов.[225]225
Из личной электронной почты, 28 октября 1999.
[Закрыть]
MGonz лишь одна из многих программ искусственного интеллекта, прокладывающих свой путь через киберпространство. Другой робот, вызвавший раздражение многих миллионов людей, носил имя Zumabot. Zumabot сканировал конференции Usenet в поисках публикаций, содержащих слово «Turkey»,[p66]p66
Слово имеет два перевода: «Турция» и «индюшка».
[Закрыть] и отвечал на них агрессивными сообщениями о мнимом массовом убийстве мусульман в Армении во время Первой мировой войны.
По мнению автора статьи, появившейся в Internet Underground, создание Zumabot было оплачено турецкими спецслужбами. Программа буквально стала пропагандистской машиной. Ее целью было дискредитировать тех, кто говорил о массовом убийстве турками армян в 1917 году, путем многократного повторения, что все было наоборот. «Zumabot был частью широкомасштабной политики подавления разногласий среди турецких экспатриантов».[226]226
Michael McCormick, «Invasion of the Internet Imposters», Internet Underground, 8 июля 1996. Одной из наиболее забавных (и раздражающих) черт Zumabot была неспособность программы различать слова «Турция» и «индюшка», которые пишутся по-английски одинаково. Это стало очевидным незадолго до Дня благодарения, когда программа начала протестовать против праздничных рецептов приготовления птицы.
[Закрыть]
Виртуальные роботы становятся неотъемлемой частью интерактивных многопользовательских игр [MUD – Multi-User Dungeon games] в Интернете. Программы, подобные ELIZA, часто инициируют общение с одинокими людьми, выдавая себя за женщин, желающих установить приятельские отношения.
Многие электронные сообщества установили правила, по которым компьютер обязан идентифицировать себя. Шахматный клуб Интернета [ICC, Internet Chess Club], позиционирующий себя как «самый активный шахматный клуб в мире», регулярно посещает 20 тысяч пользователей, и в нем ежедневно проходит 60 тысяч шахматных партий. В этом клубе есть специальное правило относительно использования компьютеров: все компьютеры должны быть зарегистрированы. Использование незарегистрированного компьютера приводит к аннулированию регистрационной записи. Компьютерам и людям запрещается совместно использовать одну регистрационную запись. И возможно, самое главное – компьютерным программам запрещено предлагать игру людям, им можно лишь откликаться на приглашение.
«Человек имеет право знать, играет он с компьютером или с человеком». Правила ICC гласят:
Использование компьютера без уведомления администрации, или без соответствующей метки [в профиле учетной записи], или без помещения учетной записи в список «компьютерных» [является нарушением правил системы]. У нас многолетний опыт выявления использования компьютеров, поэтому не пытайтесь нас обмануть. Берегите свое время и время администрации: своевременно подавайте запрос на включение в компьютерный список.[227]227
См. сайт клуба по адресу http://www.chessclub.com.
[Закрыть]
ICC имеет два вида проблем с роботами, говорит Мартин Грунд [Martin Grund], директор ICC по интерактивной деятельности. Первая проблема заключается в в том, что некоторые люди создают программы, которые соединяются с клубом, входят в систему и приглашают людей сыграть партию. Вторая, более тонкая проблема, возникает с теми, кто входит в систему сам, но фактически играет за них запущенная на их компьютере шахматная программа (это давняя проблема при игре в шахматы по переписке).
