Текст книги "Тени разума. В поисках науки о сознании"

Автор книги: Роджер Пенроуз

сообщить о нарушении

Текущая страница: 5 (всего у книги 49 страниц)

1.10. Завтрашний день

Так какого же будущего для этой планеты нам следует ожидать согласно точкам зрения A, B, C, D? Если верить A, то настанет время, когда соответствующим образом запрограммированные суперкомпьютеры догонят – а затем и перегонят – человека во всех его интеллектуальных достижениях. Конечно же, сторонники  Aпридерживаются различных взглядов относительно необходимого для этого времени. Некоторые вполне разумно полагают, что пройдет еще много столетий, прежде чем компьютеры достигнут уровня человека, принимая во внимание крайнюю скудость современного понимания реально выполняемых мозгом вычислений (так они говорят), обусловливающих ту тонкость поведения, какую, несомненно, демонстрирует человек, – тонкость, без которой, конечно же, нельзя говорить о каком бы то ни было «пробуждении сознания». Другие утверждают, что времени понадобится значительно меньше. В частности, Ханс Моравек в своей книге «Дети разума» [ 267] приводит вполне аргументированное доказательство (основанное на непрерывно ускоряющемся развитии компьютерных технологий за последние пятьдесят лет и на своей оценке той доли от всего объема функциональной активности мозга, которая на сегодняшний день уже успешно моделируется численными методами) в поддержку своего утверждения, будто уровень «эквивалентности человеку» будет преодолен уже к 2030 году. (Кое-кто утверждает, что это время будет еще короче ^{14} , а кто-то даже уверен, что предсказанная дата достижения эквивалентности человеку уже осталась в прошлом!) Однако чтобы читатель не очень пугался того, что менее чем через сорок (или около того) лет компьютеры во всем его превзойдут, горькая пилюля подслащена одной радужной надеждой (подаваемой под видом гарантированного обещания): все мы сможем тогда перенести свои «ментальные программы» в сверкающие металлические (или пластиковые) корпуса роботов (конкретную модель, разумеется, каждый выберет себе сам), чем и обеспечим себе что-то вроде бессмертия [ 267, 268].

А вот для сторонников точки зрения  Bподобный оптимизм – непозволительная роскошь. Они вполне согласны с приверженцами  Aотносительно перспектив развития интеллектуальных способностей компьютеров – с той лишь оговоркой, что речь при этом идет исключительно о внешних проявлениях этих самых способностей. Для управления роботом необходимо и достаточно располагать адекватной модельюдеятельности человеческого мозга, больше ничего не требуется (рис. 1.5). Согласно B, вопрос о том, способно ли подобное моделирование вызвать осмысленное осознание, не имеет никакого отношения к реальному поведению робота. На достижение необходимого для такого моделирования технологического уровня может уйти как несколько веков, так и менее сорока лет. Однако, как уверяют сторонники B, рано или поздно, а это все-таки произойдет. Тогда же компьютеры достигнут уровня «эквивалентности человеку», а затем, как можно ожидать, и уверенно превзойдут его, оставив без внимания все потуги нашего относительно слабого мозга хоть немного этот уровень приподнять. Причем возможности «подключения» к управляемым роботам у нас в этом случае не будет, и, похоже, придется примириться с тем, что нашей планетой, в конечном итоге, будут править абсолютно бесчувственные машины! Мне представляется, что из всех точек зрения A, B,  Cи  Dименно  Bпредлагает самый пессимистичный взгляд на будущее нашей планеты – вопреки, казалось бы, тому факту, что именно она лучше всего соотносится с так называемым «здравым смыслом».

Рис. 1.5. Согласно точке зрения B, компьютерное моделирование деятельности самосознающего человеческого мозга, в принципе, возможно; поэтому, в конечном итоге, управляемые компьютером роботы смогут догнать – а затем и значительно обогнать – человека во всех его интеллектуальных достижениях.

Если же верить  Cили D, то можно ожидать, что компьютеры навсегда сохранят подчиненное по отношению к человеку положение – какими бы быстрыми, мощными или алгоритмически совершенными они ни стали. При этом точка зрения  Cне отрицает возможности будущих научных разработок, которые могут привести к созданию неких устройств, принцип действия которых небудет иметь ничего общего с компьютерами в их сегодняшнем понимании, а будет основан на той самой невычислимой физической активности, которая, согласно C, обусловливает наше собственное сознательное мышление, – устройств, которые окажутся способны вместить в себя реальныеразум и сознание. Быть может, в конечном итоге именно такиеустройства, а вовсе не те машины, которые мы называем «компьютерами», и превзойдут человека в интеллектуальном отношении. Что ж, не исключено; однако подобные умозрительные прогнозы представляются мне в настоящий момент крайне преждевременными, поскольку мы практически не обладаем необходимыми для таких исследований научными познаниями, не говоря уже о каких бы то ни было технологических решениях. К этому вопросу мы еще вернемся во второй части книги ( §8.1).

1.11. Обладают ли компьютеры правами и несут ли ответственность?

С некоторых пор умы теоретиков от юриспруденции начал занимать один вопрос, имеющий самое непосредственное отношение к теме нашего разговора, но в некотором смысле более практический ^{15} . Суть его заключается в следующем: не предстоит ли нам в не столь отдаленном будущем задуматься над тем, обладают ли компьютеры законными правами и несут ли они ответственность за свои действия. В самом деле, если со временем компьютеры смогут достичь уровня человека (а то и превзойти его) в самых разных областях деятельности, то подобные вопросы неминуемо должны приобрести определенную значимость. Если придерживаться точки зрения A, то следует, очевидно, признать, что компьютеры (или управляемые компьютером роботы) должны потенциально и обладать правами, и нести ответственность. Ибо, согласно этой точке зрения, между человеком и роботом достаточно высокого уровня сложности нет существенной разницы, за исключением такой «мелочи», как различие в материальном строении. Однако приверженцам точки зрения  Bситуация представляется несколько более запутанной. Разумно утверждать, что вопрос о правах или ответственности уместен для созданий, наделенных способностью чувствовать, т.е. испытывать определенные, подлинно душевные «ощущения» – такие, как страдание, гнев, мстительность, злоба, вера (религиозная и общечеловеческая), желание, сомнение, понимание или страсть. Согласно B, управляемый компьютером робот не обладает такой способностью, вследствие чего, на мой взгляд, не может ни обладать правами, ни нести ответственность. С другой стороны, если верить B, не существует эффективного способа определить, что упомянутая способность у робота действительно отсутствует, поэтому если роботы смогут достаточно правдоподобно имитировать поведение человека, то человек может оказаться в весьма затруднительном положении.

Подобного затруднения, по всей видимости, не возникнет у сторонников точки зрения  C(а также, возможно, D) поскольку, согласно этим точкам зрения, компьютеры не в состоянии убедительно демонстрироватьдушевные переживания и, уж конечно же, ничего похожего не чувствуют и чувствовать никогда не будут. Соответственно, компьютеры не могут ниобладать правами, нинести ответственность. Лично мне такая точка зрения представляется весьма разумной. Вообще в этой книге я выступаю как серьезный противник позиций  Aи B. Согласившись с моими аргументами, юристы, безусловно, существенно упростят себе жизнь: как таковые компьютеры или управляемые компьютерами роботы ни при каких обстоятельствахне обладают правами и не несут ответственности. Нельзя обвинить компьютеры в каких бы то ни было неприятностях или недоразумениях – виновен всегда человек!

Следует, однако, понимать, что вышеприведенные аргументы могут и не относиться к всевозможным гипотетическим «устройствам», подобным упомянутым выше – тем, что смогут в конечном итоге воплотить в себе принципы новой, невычислительной физики. Но поскольку перспектива появления таких устройств – если их вообще удастся создать – весьма туманна, возникновения связанных с ними юридических проблем в ближайшем будущем ожидать не приходится.

Проблема «ответственности» поднимает глубокие философские вопросы, связанные с основными факторами, обусловливающими наше поведение. Можно вполне обоснованно утверждать, что каждое наше действие так или иначе определяется наследственностью и окружением, а то и всевозможными случайностями, непрерывно влияющими на нашу жизнь. Но ведь ни одноиз этих воздействий никак не зависит лично от нас, почему же мы должны нести за них ответственность? Является ли понятие «ответственности» лишь терминологической условностью, или дело в чем-то еще? Возможно, и впрямь существует некая «самость» – нечто, стоящее «выше» уровня подобных влияний и определяющее, в конечном счете, наши действия? В юридическом смысле понятие «ответственности» явно подразумевает, что внутри каждого из нас и в самом деле существует своего рода независимая «самость», наделенная своей собственнойответственностью – и, по определению, правами, – причем ее проявления нельзяобъяснить ни наследственностью, ни окружением, ни случайностью. Если же присутствие в нашей речи такой независимой «самости» не просто языковая условность, то в современных физических представлениях недостает чего-то весьма существенного. Открытие этого недостающего ингредиента, несомненно, многое изменит в нашем научном мировоззрении.

Хотя книга, которую вы держите в руках, и не дает исчерпывающего ответа на эти серьезные вопросы, она, как я полагаю, может чуть приоткрыть дверь, отделяющую нас от него, – не больше, но и не меньше. Вы не найдете здесь неопровержимых доказательств непременного существования такой «самости», проявления которой нельзя объяснить никакой внешней причиной, вам лишь предложат несколько шире взглянуть на саму природу возможных «причин». «Причина» может оказаться невычислимой – на практике или в принципе. Я намерен показать, что если упомянутая «причина» так или иначе порождается нашими сознательными действиями, то она должна быть весьма тонкой, безусловно невычислимой и не имеющей ничего общего ни с хаосом, ни с прочими чисто случайными воздействиями. Сможет ли такая концепция «причины» приблизить нас к пониманию истинной сущности свободы воли (или иллюзорности такой свободы) – вопрос будущего.

1.12. «Осознание», «понимание», «сознание», «интеллект»

До сих пор я не ставил перед собой задачи точно определить те неуловимые концепции, что так или иначе связаны с проблемой «разума». Формулируя положения A, B,  Cи  Dв §1.3, я несколько туманно упоминал об «осознании», других же свойств мышления мы пока не касались. Думаю, что следует хотя бы попытаться прояснить используемую здесь и далее терминологию – особенно в отношении таких понятий, как «понимание», «сознание» и «интеллект», играющих весьма существенную роль в наших рассуждениях.

Хотя я не вижу особой необходимости пытаться дать непременно полные определения, некоторые комментарии относительно моей собственной терминологии представляются все же уместными. Я часто с некоторым замешательством обнаруживаю, что употребление всех этих слов, столь очевидное для меня, не совпадает с тем, что полагают естественным другие. Например, термин «понимание», на мой взгляд, безусловно подразумевает, что истинное обладание этим свойством требует некоторого элемента осознания. Не осознав сути того или иного суждения, мы, разумеется, не можем претендовать на истинное понимание этого самого суждения. По крайней мере, я уверен, что эти слова следует понимать именно так, хотя провозвестники ИИ, похоже, со мною не согласны и используют термины «понимание» и «осознание» в некоторых контекстах так, что первое никоим образом не предполагает непременного наличия второго. Некоторые из них (принадлежащие к категории  Aили B) полагают, что управляемый компьютером робот «понимает», в чем заключаются его инструкции, однако при этом никто и не заикается о том, что робот свои инструкции действительно «осознает». Мне кажется, что здесь перед нами всего-навсего неверное употребление термина «понимание», пусть даже одно из тех, что обладают подлинной эвристической ценностью для описания функционирования компьютера. Когда мне потребуется указать на то, что термин «понимание» используется не в таком эвристическом смысле – т.е. при описании деятельности, для которой действительно необходимо осознание, – я буду использовать сочетание «подлинное понимание».

Кое-кто, разумеется, может заявить, что между этими двумя случаями употребления слова «понимание» нет четкого различия. Если это так, то сама концепция осознания также не имеет точного определения. С этим, конечно, не поспоришь; однако у меня нет никаких сомнений в том, что осознание действительно представляет собой некоторую сущность, причем эта сущность может как наличествовать, так и отсутствовать, – по крайней мере, до некоторой степени. Если согласиться с тем, что осознание представляет-таки собой некоторую сущность, то вполне естественно будет согласиться и с тем, что эта сущность должна являться неотъемлемой частью всякого подлинного понимания. Это утверждение, кстати, не отрицает возможности того, что «сущность», которой является осознание, окажется в действительности результатом чисто вычислительной деятельности в полном соответствии с точкой зрения A.

Я также полагаю, что термин «интеллект» следует употреблять исключительно в связи с пониманием. Некоторые же теоретики от ИИ берутся утверждать, что их робот вполне может обладать «интеллектом», не испытывая при этом никакой необходимости в действительном «понимании» чего-либо. Термин «искусственный интеллект» предполагает возможность осуществления разумной вычислительной деятельности, и, вместе с тем, многие полагают, что разрабатываемый ими ИИ замечательно обойдется без подлинного понимания – и, как следствие, осознания. На мой взгляд, словосочетание «интеллект без понимания» есть лишь результат неверного употребления терминов. Следует, впрочем, отметить, что иногда что-то вроде частичного моделирования подлинного интеллекта без какого бы то ни было реального понимания оказывается до определенной степени возможным. (В самом деле, не так уж редко встречаются  человеческиесущества, способные на некоторое время одурачить нас демонстрацией какого-никакого понимания, хотя, как в конце концов выясняется, оно им в принципе не свойственно!) Между подлинным интеллектом (или подлинным пониманием) и любой деятельностью, моделируемой исключительно вычислительными методами, действительно существует четкое различие; это утверждение является одним из важнейших положений моих дальнейших рассуждений. Согласно моей терминологии, обладание подлинныминтеллектом непременно предполагает присутствие подлинного понимания. То есть, употребляя термин «интеллект» (особенно в сочетании с прилагательным «подлинный»), я тем самым подразумеваю наличие некоторого действительного осознания.

Лично мне такая терминология кажется совершенно естественной, однако многие поборники ИИ (во всяком случае те из них, кто неподдерживает точку зрения A) станут решительно отрицать всякую свою причастность к попыткам реализации искусственного «осознания», хотя конечной их целью является, судя по названию, не что иное, как искусственный «интеллект». Они, пожалуй, оправдаются тем, что они (в полном согласии с B) всего лишь моделируютинтеллект – такая модель не требует действительногопонимания или осознания, – а вовсе не пытаются создать то, что я называю подлинныминтеллектом. Вероятно, они будут уверять вас, что не видят никакой разницы между подлинным интеллектом и его моделью, что вполне отвечает точке зрения A. В своих дальнейших рассуждениях я, в частности, намерен показать, что некоторые аспекты «подлинного понимания» действительно невозможно воссоздать путем каких бы то ни было вычислений. Следовательно, должно существовать и различие между подлинным интеллектом и любой попыткой его достоверного численного моделирования.

Я, разумеется, не даю определений ни «интеллекту», ни «пониманию», ни, наконец, «осознанию». Я полагаю в высшей степени неблагоразумным пытаться дать в рамках данной книги  полноеопределение хотя бы одномуиз упомянутых понятий. Нам придется до некоторой степени положиться на свое интуитивное восприятие действительного смысла этих слов. Если интуиция подсказывает нам, что «понимание» есть нечто, необходимое для «интеллекта», то любое доказательство невычислительной природы «понимания» автоматически доказывает и невычислительную природу «интеллекта». Более того, если «пониманию» непременно должно предшествовать «осознание», то невычислительное физическое обоснование феномена осознания вполне в состоянии объяснить и аналогичную невычислительную природу «понимания». Итак, мое употребление этих терминов (в сущности совпадающее, как я полагаю, с общеупотребительным) сводится к двум положениям:

а) «интеллект» требует«понимания»

и

б) «понимание» требует«осознания».

Осознание я воспринимаю как один из аспектов –  пассивный– феномена сознания. У сознания имеется и  активныйаспект, а именно – свободная воля. Полного определения слова «сознание» здесь также не дается (и, уж конечно же, не мне определять, что есть «свободная воля»), хотя мои аргументы имеют целью окончательное объяснение феномена сознания в научных, но невычислительных терминах – как того требует точка зрения C. Не претендую я и на то, что мне удалось преодолеть хоть сколько-нибудь значительное расстояние на пути к этой цели, однако надеюсь, что представленная в этой книге (равно как и в НРК) аргументация расставит вдоль этого пути несколько полезных указателей для идущих следом – а может, станет и чем-то большим. Мне кажется, что, пытаясь на данном этапе дать слишком точное определение термину «сознание», мы рискуем упустить ту самую концепцию, какую хотим изловить. Поэтому вместо поспешного и наверняка неадекватного определения я приведу лишь несколько комментариев описательного характера относительно моего собственного употребления термина «сознание». В остальном же нам придется положиться на интуитивное понимание смысла этого термина.

Все это вовсе не означает, что я полагаю, будто мы действительно «интуитивно знаем», чем на самом деле «является» сознание; я лишь хочу сказать, что такое понятие существует, а мы, по мере сил, пытаемся его постичь – причем за понятием стоит некий реально существующий феномен, который допускает научное описание и играет в физическом мире как пассивную, так и активную роль. Некоторые, судя по всему, полагают, что данная концепция слишком туманна, чтобы заслуживать серьезного изучения. Однако при этом те же люди ^{16} часто и с удовольствием рассуждают о «разуме», полагая, очевидно, что это понятие определено гораздо точнее. Общепринятое употребление слова «разум» предполагает разделение этого самого разума (возможное или реальное) на так называемые «сознательную» и «бессознательную» составляющие. На мой взгляд, концепция бессознательного разума представляется еще более невразумительной, нежели концепция разума сознательного. Я и сам нередко пользуюсь словом «разум», однако не пытаюсь при этом дать его точное определение. В нашей последующей дискуссии (достаточно строгой, надеюсь) концепция «разума» – за исключениемтой ее части, что уже нашла свое воплощение в термине «сознание», – не будет играть центральной роли.

Что же я имею в виду, говоря о сознании? Как уже отмечалось ранее, сознание обладает активным и пассивным аспектами, однако различие между ними далеко не всегда четко определено. Восприятие, скажем, красного цвета требует несомненно пассивного сознания, равно как и ощущение боли либо восхищение музыкальным произведением. Активное же сознание участвует в сознательных действиях – таких, например, как подъем с кровати или, напротив, намеренное решение воздержаться от какой-либо энергичной деятельности. При воссоздании в памяти каких-то прошедших событий оказываются задействованы как пассивный, так и активный аспекты сознания. Составление плана будущих действий также обычно требует участия сознания – и активного, и пассивного; и, надо полагать, какое-никакое сознание необходимо для умственной деятельности, которую общепринято описывать словом «понимание». Более того, мы остаемся, в определенном смысле, в сознании (пассивный аспект), даже когда спим, если при этом нам снится сон (в процессе же пробуждения может принимать участие и активный аспект сознания).

У кого-то могут найтись возражения против того, что все эти разнообразные проявления сознания следует загонять в тесные рамки какой-то одной – пусть и всеобъемлющей – концепции. Можно, например, указать на то, что для описания феномена сознания необходимо принимать во внимание множество самых разных концепций, не ограничиваясь простым разделением на «активное» и «пассивное», а также и то, что реально существует огромное количество различных психических признаков, каждый из которых имеет определенное отношение к тому или иному свойству мышления. Соответственно, применение ко всем этим свойствам общего термина «сознание» представляется, в лучшем случае, бесполезным. Мне все же думается, что должна существовать некая единая концепция «сознания», центральная для всех отдельных аспектов мыслительной деятельности. Говоря о разделении сознания на пассивный и активный аспекты (иногда четко отличимые один от другого, причем пассивный аспект связан с ощущениями (или qualia), а активный – с проявлениями «свободной воли»), я считаю их двумя сторонами одной монеты.

В первой части книги меня будет занимать, главным образом, вопрос о том, чего можно достичь, используя свойство мышления, известное как «понимание». Хотя я не даю здесь определения термину «понимание», надеюсь все же прояснить его смысл в достаточной мере для того, чтобы убедить читателя в том, что обозначаемое этим термином свойство – чем бы оно ни оказалось – ив самом деле должно быть неотъемлемой частью мыслительной деятельности, которая необходима, скажем, для признания справедливости рассуждений, составляющих §2.5. Я намерен показать, что восприятие этих рассуждений должно быть связано с какими-то принципиально невычислимыми процессами. Мое доказательство не затрагивает столь непосредственнодругие свойства мыслительной деятельности («интеллект», «осознание», «сознание» или «разум»), однако оно имеет определенное отношение и к этим концепциям, поскольку, в соответствии с той терминологией «от здравого смысла», о которой я упоминал выше, осознание непременно должно быть существенным компонентом понимания, а понимание – являться неотъемлемой частью любого подлинного интеллекта.