Текст книги "Далекое будущее Вселенной Эсхатология в космической перспективе"

Автор книги: Джордж Эллис

сообщить о нарушении

Текущая страница: 20 (всего у книги 34 страниц)

13.4. Телесность

Все, что я говорила до сих пор о воздействии ИИ на наши представления о себе, полагаю, может быть без разногласий принято всеми исследователями этой темы. Но это отчасти связано с тем, что до сих пор я старательно избегала любых намеков на ту важнейшую роль, которую играет в наших представлениях о сознании, личности, самости понятие тела. В этом вопросе сами исследователи ИИ далеко не всегда друг с другом согласны.

Научная фантастика изобилует историями о бестелесных сознаниях или, точнее, интеллектах. Различные авторы, включая недавно почившего Фреда Хойла, представляют нашему вниманию странные «облачные» структуры, занимающие огромное пространство, однако каким‑то образом идентифицируемые как единый индивидуум (или индивидуумы) и обладающие свойствами, аналогичными свойствам компьютера, сознания, живого существа. Однако такой футуристический сценарий почти немыслим. Что это за «свойства, аналогичные свойствам компьютера, сознания, живого существа», однако не требующие тела? И как могут эти «облака», не имея тел, удовлетворять принципу самоорганизации, на котором строится любая жизнь? То, что писатели–фантасты порой предлагают нам поразмыслить над такой идеей, еще не гарантирует, что эта идея, если повнимательнее к ней приглядеться, будет иметь смысл [9].

Нам могут сказать: под «аналогичными свойствами» имеется в виду способность к вычислению. И незачем воображать себе какие‑то фантастические облака – достаточно представить вполне реальные компьютеры (пусть и компьютеры далекого будущего). Тридцать лет назад Эд Фредкин из MIT предсказал (на семинаре по последствиям развития ИИ для общества в Вилла–Сербеллони), что с помощью ИИ человечество рано или поздно достигнет практического бессмертия. Психологические процессы личности, утверждал он, будут загружаться в компьютер. Затем человек умрет, а его (ее) индивидуальное сознание и личность продолжат существование, может быть, не вечно (второй закон термодинамики и все такое), но на достаточно долгое время. Недавно ту же идею высказал еще один сотрудник MIT, Ханс Моравек [35].

Может быть, в атмосфере MIT разлито что‑то этакое? Кажется, нет. Дело в том, что и Фредкин, и Моравек – известные шоумены, сделавшие «ошеломление обывателя» своей второй профессией. Далеко не все их коллеги по MIT разделяют их взгляды. Особенно подробно возражает им Род Брукс, в чьих работах по «ситуационной» робототехнике показано, что для развития сознания совершенно необходимо взаимодействие тела с окружающей средой [12].

Другие исследователи темы ИИ/И–жизни, не входящие в MIT, разделяют ту же точку зрения. Они критикуют декартово различение «разума» и «тела», а некоторые из них (например, Батлер [13]), хотя и не все (см., например, Кларк [15]), заходят так далеко, что отрицают и необходимость ментальных образов. Они сосредотачиваются не на внутренних образах (как в СДИИ), а на динамике тесного взаимодействия тела с окружающим миром. С их точки зрения наши понятия разума, сознания и самости описывают не какие‑то таинственные нематериальные явления и даже не абстрактные мыслительные функции. Скорее это указания на определенные аспекты взаимодействия, безусловно материального по своей природе, между телом и миром. Короче говоря, все разговоры о сознаниях без тел или о личностях, избежавших смерти путем превращения в компьютерные программы, попросту бессмысленны.

В области ИИ эти идеи относительно новы; однако они уже много лет развиваются по меньшей мере в двух областях философии. Одна из них – теория автопоэза, философия биологии, созданная нейрофизиологом Умберто Матурана ([31]; см. также [10]). Вторая – континентальная феноменология, развиваемая, например, Морисом Мерло–Понти [33]. И там, и там сознание понимается исключительно как явление, укорененное в телесном взаимодействии личности с окружающим миром. («Тело» здесь означает именно «тело»: это не синоним «мозга».)

Мерло–Понти рассуждает об умелом использовании орудий, в особенности таких, без которых человек не может обойтись, как трость для слепого. Трость слепого, говорит он, является почти что частью тела. Конечно, это не часть тела в прямом смысле – она не способна заболеть, он может уронить ее на пол. Однако, говоря феноменологически, она дает ему «прямое» перцептивное познание почвы под ногами, такое же, как пальцы или подошвы ног. Психологически она для него «прозрачна». Ему дается в ощущениях не палка или даже палка, вступающая в контакт с почвой; он при посредстве этой палки познает и испытывает саму почву. Таким же образом и микроскоп как психологически, так и оптически «прозрачен» для умелого пользователя; то же самое можно сказать и о текстовой компьютерной программе для того, кто хорошо с ней знаком. Даже такое сложное «орудие», как самолет–истребитель, в бою оказывается «прозрачным» для умелого пилота, который воспринимает свой самолет почти как продолжение собственного тела.

Энди Кларк, философ, испытавший на себе глубокое влияние ситуативной робототехники и теории автопоэза, недавно развил свои взгляды на эту тему в весьма неожиданной на первый взгляд теории «самости» ([14]; [16], глава 8). Он не спорит ни с чем, что я говорила выше о «самости» ИИ, однако делает к этому удивительное добавление. Он рассматривает такие «когнитивные технологии», как чтение, письмо и набор текста (очевидно, столь же психологически «прозрачные», как трость слепого), как сенсорные/моторные протезы, лишь по техническим причинам находящиеся за пределами нашего организма. Если (говорит он) мы как следует задумаемся о когнитивном механизме, или сознании того или иного человека, то поймем, что эти технологии от него неотъемлемы. Это не просто «орудия», которых может и не быть, это существеннейшие стороны нашего повседневного мышления и действия. Таким образом, самость не ограничивается ни черепом, ни даже кожей, но простирается в наше материальное и культурное окружение. Иными словами, она включает в себя всевозможные (легкодо–ступные и получаемые автоматически) культурные артефакты: карандаши, компьютеры, банкноты, юридические процедуры, телевидение, даже поп–музыку.

Сюда можно добавить также и религию. Представим себе человека, действия и взгляды которого, часто бессознательно, определяются религиозными обычаями и верованиями и который постоянно сверяется с этими верованиями при принятии любого сложного решения. Весьма возможно, что этому способствуют также определенные религиозные ритуалы и культурные артефакты, например, алтарь, четки или Библия. Для такого человека культурный институт религии является (согласно Кларку) неотъемлемой частью его (ее) сознания или самости. Дело не только в том, что данную религию высоко ценят или верят в ее требования. Дело в том, что, не будь религии, этот человек был бы другим человеком. Соответственно, религиозное обращение (совершившееся) может сделать его другой личностью – Савла превратить в Павла. А если он(а) попадет на необитаемый остров, сама его (ее) самость окажется под угрозой, если только он(а) не вспомнит наизусть множество библейских цитат и/ или не сделает себе четки из ракушек или кокосовых орехов.

Нам не обязательно принимать представления Кларка о «расширенной самости», хотя его статья и была номинирована «Философским ежегодником» как лучшая во всех областях философии за десятилетие (критику концепции Кларка см. [13], глава 6). Однако необходимо отметить ее существование. Это связано с тем, что идеи Кларка представляют собой крайнюю форму подчеркивания телесности, типичной для многих современных исследователей ИИ/И–жизни. Эти идеи очень далеки от рассуждений о бестелесном сознании и бессмертии, представленных, например, Фредкином. Короче говоря, представление, часто доводимое до абсурда, о том, что исследователи ИИ/И–жизни неизбежно должны мечтать о бессмертии личности в виде компьютерной программы, ошибочно. (Вы, возможно, отметили, что у этих дискуссий имеются свои богословские параллели, например, в связи с идеей телесного воскресения.)

13.5. Сознание и религиозный опыт

Далее, что сказать о сознании? Прежде всего необходимо отметить, что никакой «проблемы сознания» не существует. Существует множество проблем, связанных с сознанием (словом, имеющим много значений), и на некоторые из них пролили свет или даже подсказали решения новые идеи, связанные с ИИ. Один из таких примеров – рефлексивное самосознание, в котором мыслящий субъект познает (до некоторой степени) себя. Как мы указали выше, концепция рекурсии помогла нам понять, как такое возможно. Второй пример можно увидеть в клинических случаях «множественной личности», когда с одним человеческим телом оказываются связаны два (или более) потока сознания, одно из которых может иметь «прямой», но безответный доступ к другим. С декартовской точки зрения это парадокс, нечто совершенно невозможное. Однако сравнение человеческого мозга с вычислительной машиной объясняет, как такое возможно [6].

Второе, что необходимо отметить, – существует одна особенно загадочная проблема, связанная с сознанием: каким образом сознательные переживания как таковые (то, что философы называют qualia) могут существовать в материальной по преимуществу вселенной и (как, судя по всему, и происходит) производиться мозгом. Несмотря на нынешний бум нейрофизиологических сочинений, посвященных сознанию, на мой взгляд, никакого прорыва в философском понимании этой загадки пока не произошло [8]. Одних корреляций между мозгом и сознанием явно недостаточно. Время от времени мы видим, что при таком‑то событии в мозгу возникает (возможно, даже «должно возникнуть») такое‑то, а не иное сознательное переживание. Но почему при этом вообще возникает какое‑то сознательное переживание – остается тайной. Я убеждена, что ответ на этот вопрос, когда (и если) мы его получим, будет исходить как из нейрофизиологии, так и из исследования ИИ. В самой нейрофизиологии сейчас все более активно используются компьютерные понятия. Некоторые философы ИИ полагают даже, что у нас уже есть путь к решению проблемы qualia ([41]; [22], глава 12). На мой взгляд, однако, само понятие «переживания» для нас еще настолько смутно, что для какого‑то продвижения в этом направлении необходима понятийная революция (как в нейрофизиологии, так и в философии сознания), столь же фундаментальная, какой стала в физике теория поля Кларка – Максвелла. Пока что мы бродим в философском тумане.

Следовательно, вопросы о том, будут ли ИИ–системы далекого будущего обладать «настоящим сознанием», бессмысленны и/или не имеют ответа. Как можно задавать подобные вопросы, если мы не понимаем, каким образом продуцирует сознание человеческий мозг? Разумеется, широко распространенное мнение, что роботы, «очевидно», не могут иметь сознания, ошибочно [23, 24]. Но то, что у них может быть сознание – также не очевидно.

Все это, быть может, очень интересно, но какое отношение это имеет к религии? Дело в том, что религиозный опыт – широко распространенный феномен, весьма высоко ценимый теми, кто им обладает. Часто он приводит к религиозному обращению длиной в жизнь. С тех пор как Уильям Джемс [30] описал множество вариаций религиозного опыта, стало понятно, что этот опыт простирается от расплывчатых «океанических чувств» и ощущения близости к священному, через всепоглощающее чувство присутствия Бога к высокоспецифичным переживаниям, интерпретируемым как видения и/или общение с Богом или каким‑либо святым. Там, где речь идет о теистических религиях, религиозный опыт может привести к возникновению личной (и, по–видимому, взаимной) любви, со всем комплексом ее когнитивно–эмоциональных следствий, описанным выше.

Недавние работы по возникновению образов в мозгу показывают, что: а) «общий» спектр подобных переживаний связан с определенным участком коры головного мозга; и б) «слышание голосов» объясняется нарушениями или задержками в сообщении между различными отделами мозга. Пример (б) был обнаружен в процессе изучения шизофрении, и уже довольно давно бытует убеждение, что религиозные визионеры и мистики (например, Жанна д'Арк или св. Тереза), возможно, были шизофрениками. Однако на это есть очевидный ответ: быть может, шизофреники просто более «открыты» для божественной реальности. Новизна здесь в предложении определенной нейровычислительной гипотезы, объясняющей подобный опыт в терминах аномалий внутренних процессов обработки информации.

В принципе, если компьютер позволяет симулировать невроз и паранойю (см. выше), вполне возможно смоделировать на нем и шизофренические галлюцинации. Например, иногда компьютер может интерпретировать свой собственный голос и/или внутренние лингвистические процессы как вызванные какой‑то другойсистемой. Такое может происходить, если «внутренняя» информация о факте произнесения им слов или его решении заговорить временно расходится с «сенсорной» информацией о звуках его речи.

13.6. Индивидуальность и уникальность

Шизофрения, разумеется, состоит не только в «слышании голосов». Она включает в себя структурированную систему представлений (отчасти иллюзорных) и сложную (хотя и анормальную) систему эмоций. Не думаю, что ИИ когда‑нибудь сможет симулировать человеческое сознание во всей его полноте или даже полный шизофренический эпизод. Самое большее, чего он может достичь, – моделирование определенных важнейших аспектов сознания, нормального или патологического, благодаря которому мы сможем лучше их понять. Связано это не с тем, что компьютеры «просто жестянки», но с тем, насколько сложна сама эта наука.

Человеческое сознание слишком сложно и слишком полно индивидуальных различий, чтобы полностью охватываться психологической наукой. Наука как таковая вообще не слишком интересуется индивидуальными особенностями – и мы обычно тоже. Если речь не идет о специфически человеческом контексте, нас, как правило, не интересует вот этаконкретная песчинка, вон тотворобей или дуб. Нас не беспокоит то, что физика или биология не в силах объяснить все их индивидуальные черты и предсказать их будущее во всех деталях. Но, когда заходит речь о людях, нас волнуют индивидуальности: Джек, Джилл, Мэри. Порой нам бывает жизненно важно знать, покончит ли самоубийством Джилл или почему Джек ударил Мэри. И когда мы узнаем, что единственный ответ, который может дать нам на это психологическая наука, – статистический, то чувствуем понятное, хоть и иррациональное разочарование.

Некоторые религии поддерживают этот интерес к человеческой индивидуальности (и не только человеческой – христианство говорит нам даже, что Бог заботится о каждом воробье). Другие, как буддизм, отвергают его и призывают нас его превзойти. Однако суть дела в том, что наукаоб ИИ не способна воздать должное человеческой индивидуальности в теории, а технологияИИ никогда не сделает этого на практике. Таким образом, представление о том, что компьютеры далекого будущего смогут симулировать религиозный опыт во всей его полноте или переживать нечто подобное религиозному обращению, абсурдно. Однако так же абсурдна и идея способности компьютера к политическомуобращению. Так что религиозный аспект в этой проблеме стоит не на первом месте.

Далее, притязания на «уникальность» человека возможны в двух планах, оба из которых поддерживает ИИ. Во–первых, каждый отдельный человек уникален как личность, поскольку сложность наших сознаний так велика, а различия в поступающей информации столь обширны, что даже однояйцевые близнецы (или искусственно созданные клоны) неизбежно будут отличаться друг от друга. Во–вторых, homo sapiens значительно отличается от любого другого вида животных. Я уже отмечала, например, что животные не обладают свободой, поскольку у них нет языка, позволяющего стабильно репрезентировать действия, их признаки и последствия.

Наука об ИИ уже предложила нам множество интересных идей касательно обучения, распознавания образов, генерализации стимулов и даже аналогий. Эти идеи применимы как к некоторым животным (а именно птицам и млекопитающим), так и к человеческим существам. Однако ей еще не удалось показать нам, как язык, иерархическая структура и рассудок воплощаются в нейронных сетях (в том числе в мозгу). Возможно, эти проблемы сможет разрешить ИИ далекого будущего. Однако несомненно, что такие успехи ИИ не разрушат наше представление об особости и уникальности человека в мире. Напротив, они смогут их углубить и объяснить.

13.7. Заключение

Подытоживая все сказанное, повторим, что на практике ИИ–технологии могут расположить людей как в пользу религии, так и против нее. Достаточно многие, устрашенные перспективой существования бок о бок с искусственными человекоподобными устройствами, могут двинуться к религии «магическим» путем. Другие же могут отвергнуть ее как избыточную, видя в этих устройствах (несмотря на их неспособность отвечать всей сложности и богатству реального человеческого сознания) последний шаг к «механизации картины мира» [25].

Однако обе эти реакции в принципе неверны. Теоретическое изучение ИИ уже помогает нам понять, как возможнодля человека верить, выбирать, любить и молиться, а также галлюцинировать, подчиняться, бунтовать и преображаться. Оно даже помогает нам понять, как может человек пройти религиозное обращение или скорбеть от утраты веры. В далеком будущем компьютерная психология, несомненно, продвинется еще дальше. Однако религиозные вопросы как таковыеостанутся незатронутыми. (Вот почему ни та ни другаявышеупомянутые реакции не рациональны.) Религиозное чувство, а также необходимость найти удовлетворительный для себя и, возможно, культурно санкционированный «путеводитель» по жизненным решениям останутся неизменными. В конце концов, мы же люди, а не компьютеры.

Литература

1. Baron‑Cohen, S., Mindblindness(MIT Press, Cambridge, Mass., 1995) .

2. Boden, M. A., Purposive Explanation in Psychology(Harvard University Press, Cambridge, Mass., 1972).

3. Boden, M. A., Artificial Intelligence and Natural Man,2 ^nded. (Basic Books, New York; MIT Press, London, 1987).

4. Boden, M. A., The Creative Mind: Myths and Mechanisms(Abacus, London; Basic Books, New York, 1991).

5. Boden, M. A., Piaget,2 ^nded. (Fontana, London, 1994).

6. Boden, M. A., "Multiple Personality and Computational Models", in Philosophy, Psychology and Psichiatry,ed. A. Phillips‑Griffiths (Cambridge University Press, Cambridge, 1994), 103–14.

7. Boden, M. A., "Artificial Intelligence and Human Dignity", in Nature's Imagination: The Frontiers of Scientific Vision,ed. J. Cornwell (Oxford University Press, Oxford, 1995), 148–60. Перепечатано под заглавием «Autonomy and Artificiality» in The Philosophy of Artificial Life,ed. M. A. Boden (Oxford University Press, Oxford, 1996), 95–108.

8. Boden, M. A., "Consciousness and Human Identity: An Interdisciplinary Perspective", in Consciousness and Human Identity,ed. J. Cornwell (Oxford University Press, Oxford, 1998), 1–20.

9. Boden, M. A., "Is Metabolism Nesessary?" Brit. J. Phil. Sci., 50,231–48 (1999).

10. Boden, M. A., "Autopoiesis and Life", Cog. Sci. Q, 1,115–43 (2000).

11. Brooks, R. A., "A Robust Layered Control System for a Mobile Robot", IEEE J. Rob. Auto.,2, 14–23 (1986).

12. Brooks, R. A., "Intelligence without Representation", Art. Intell., 47,139–59 (1991).

13. Butler, K., Internal Affairs(Kluwer, Dordrecht, 1998).

14. Clark, A., and Chalmers, D. J., "The Extended Mind", Analysis, 58,7–19 (1998).

15. Clark, A. J., Being There: Putting Brain, Body and World Together Again(MIT Press, Cambridge, Mass., 1997).

16. Clark, A. J., Mindware: An Introduction to the Philosophy of Cognitive Science(Oxford University Press, Oxford, 2001).

17. Clark, S. R.L., "Tools, Machines, ans Marvels", in Philosophy and Technology,ed. R. Fellowes (Cambridge University Press, Cambridge, 1995), 159–76.

18. Cliff, D., Harvey, I., and Husbands, P., "Explorations in Evolutionary Robotics", Adapt. Beh., 2,73–110 (1993).

19. Colby, K. M., "Computer Simulation of a Neurotic Process", in Computer Simulation of Personality: Frontier of Psychological Research,eds. S. S. Tomkins ans S. Messick (Wiley, New York, 1963), 165–80.

20. Colby, K. M., Artificial Paranoia(Pergamon, New York, 1975).

21. Dennett, D. C., Elbow Room: The Varieties of Free Will Worth Wanting(MIT Press, Cambridge, Mass., 1984).

22. Dennett, D. C., Consciousness Explained(Allen Lane, London, 1991).

23. Dennett, D. C., "The Unimagined Preposterousness of Zombies: Commentary on Moody, Flanagan and Polger", J. Consc. Stud., 2,322–26 (1995).

24. Dennett, D. C., "The Zombie Hunch: Extinction of an Intuition?" in Philosophy at the New Millenium,ed. A. O'Hear (Cambridge University Press, Cambridge, 2001), 27–44.

25. Dijksterhuis, E. J., The Mechanization of the World Picture,trans. C. Dokshoorn (Clarendon Press, Oxford, 1961; впервые издана на голландском языке в 1956 году).

26. Fisher, E. M.W., Personal Love(Duckworth, London, 1990).

27. Haugeland, J., Artificial Intelligence: The Very Idea(MIT Press, Cambridge, Mass., 1985).

28. Hobart, R. E., «Free‑Will as Involving Determination and Inconceivable Without It», Mind, n.s., 43,1–27 (1934).

29. Husbands, P., Harvey, I., and Cliff, D., "Circle in the Sround: State Space Attractors (for Evolved Sighted Robots)", J. Robot. Auto. Sys., 15,83–106 (1995).

30. James, W., The Varieties of Religious Experience(Collier, Nwe York, 1902).

31. Maturana, H. R., and Varela, F. J., Autopoiesis and Cognition: The Realisation of the Living(Reidel, Boston, 1980; впервые издана на испанском языке в 1972 году).

32. May, L., Friedman, М., and Clark, A. J., eds., Mind and Morals: Essays on Ethics and Cognitive Science(MIT Press, Cambridge, Mass., 1996).

33. Merleau‑Ponty, M., Phenomenology of Perception,trans. C. Smith (Routledge and Keagan Paul, London, 1962).

34. Minsky, M. L., "Matter, Mind and Models", in Semantic Information Processing,ed. M. L. Minsky (MIT Press, Cambridge, Mass., 1988).

35. Moravec, H., Mind Children: The Future of Robot and Human Intelligence(Harvard University Press, Cambridge, Mass., 1988).

36. Papert, S., Mindstorms: Children, Computers, and Powerful Ideas(Harvester Press, Brighton, England, 1980).

37. Roszak, Т., The Making of a Counter‑Culture: Reflections on the Technocratic Society and Its Youthful Opposition(Doubleday, New York, 1972).

38. Roszak, Т., Where the Wasteland Ends: Politics and Transcendence in Post‑Industrial Society(Doubleday, New York, 1972).

39. Simon, H. A., "Motivational and Emotional Controls of Cognition", Psych. Rev., 74,29–39 (1967).

40. Sloman, A., "Motives, Mechanisms, and Emotions", Cognition and Emotion, 1,217–33 (1987). Reprinted in Boden, M. A., ed., The Philosophy of Artificial Intelligence(Oxford University Press, Oxford, 1990), 231–47. 41. Sloman, A., «Architectural Requirements for Human‑like Agents Both Natural and Artificial (What Sorts of Machines Can Love?)», in Human Cognition and Social Agent Technology: Advances in Consciousness Research,ed. K. Dautenhahn (John Benjamins, Amsterdam, 1999), 163–95.

42. Sussman, G. J., A Computer Model of Skill Acquisition(American Elsevier, New York, 1975).

43. Turkle, S., The Second Self: Computers and the Human Spirit(Simon and Schuster, New York, 1984).

44. Turkle, S., Life on the Screen: Identity in the Age of Internet(Simon and Schuster, New York, 1995), гл. 6.

45. Wright, LP., and Sloman, A., MINDERl: An Implementation of a Protoemotional Agent Architecture,Technical Report CSRP-97–1, University of Birmingham, School of Computer Science (1997). Доступно по адресу: ftp://ftp.cs.bham.ac.uk/pub/tech‑reports/1997/CSRP-97–01.ps.gz.

46. Wright, I. P., Sloman, A., and Beaudoin, L. P., "Towards a Design‑Based Analysis of Emotiomal Episodes", Phil, Psych., Psychol, 3,101–37 (1996).