Текст книги "Начало бесконечности. Объяснения, которые меняют мир"

Автор книги: Дэвид Дойч

сообщить о нарушении

Текущая страница: 13 (всего у книги 39 страниц) [доступный отрывок для чтения: 14 страниц]

Еще одна поразительная связь между всеми этими столь различными скачками к универсальности состоит в том, что все они происходят на Земле. Вообще говоря, все известные скачки к универсальности происходили под покровительством человека, кроме одного, о котором я еще не упоминал и из которого исторически появились все остальные. Он случился на заре развития жизни.

В современных организмах работает сложный и очень запутанный с химической точки зрения механизм воспроизведения генов. У большинства видов гены выступают в роли шаблонов для формирования цепочек аналогичных молекул, РНК. Последние затем действуют как программы, направляющие синтез составляющих организм химических соединений, главным образом ферментов, которые являются катализаторами. Катализатор – это своего рода строитель, он стимулирует изменение других химических соединений, но сам при этом не меняется. Эти катализаторы, в свою очередь, управляют всеми химическими процессами и регуляторными функциями в организме, а значит, определяют сам организм, включая – что особенно важно – процесс, при котором копируется ДНК. В рамках данного изложения нам не важно, как развился этот сложный механизм, но ради определенности я дам набросок того, как это могло произойти.

Около четырех миллиардов лет назад, вскоре после того, как поверхность Земли охладилась достаточно, чтобы на ней могла конденсироваться жидкая вода, океаны перемешивались вулканами, метеоритами, штормами и приливами, которые были намного сильнее нынешних (поскольку Луна была ближе к Земле). В них также кипела химическая активность: постоянно образовывались и видоизменялись разнообразные молекулы – одни самопроизвольно, другие с помощью катализаторов. Случилось так, что один такой катализатор смог катализировать образование тех самых типов молекул, из которых строился и он сам. Этот катализатор еще не был живым, но стал первым намеком на жизнь.

Он еще не развился до катализатора четко направленного действия, поэтому также ускорял образование и некоторых других химических соединений, включая вариации самого себя. И те из них, которые лучше других стимулировали свое собственное формирование (и замедляли саморазрушение), становилось более многочисленными по сравнению с другими вариациями. В свою очередь они тоже стимулировали воспроизводство вариаций самих себя, и так эволюция продолжалась.

Постепенно способность катализаторов стимулировать воспроизводство себя обрела устойчивость и достаточную специфичность, так что их стало можно называть репликаторами. Так эволюция порождала репликаторы, которые воспроизводили себя все быстрее и надежнее.

Различные репликаторы начали объединяться в группы, члены каждой из которых специализировались на вызывании одной части сложной сети химических реакций, совокупным результатом которых должно было стать создание большего числа копий всей группы. Такая группа уже представляла собой рудиментарный организм. К этому времени жизнь находилась на стадии, примерно аналогичной римским цифрам или печати с металлических пластин: каждый репликатор уже не был сам за себя, но универсальной системы, настроенной или запрограммированной на воспроизводство специфических веществ, еще не было.

Самыми удачными репликаторами могли быть молекулы РНК. Они обладают собственными каталитическими свойствами, зависящими от точной последовательности составляющих их молекул (или оснований, похожих на основания ДНК). В результате процесс стал еще менее похож на простой катализ и больше похож на программирование – на языке или генетическом коде, в котором основания выступали в качестве алфавита.

Гены – это репликаторы, которые можно интерпретировать как инструкции в генетическом коде. Геномы – это группы генов, зависящие друг от друга в плане репликации. Процесс копирования генома называется жизнью организма. Таким образом, генетический код – это тоже язык, используемый для задания организмов. В какой-то момент эта система перешла на репликаторы, состоящие из ДНК, которая более стабильна, чем РНК, и поэтому больше подходит для хранения больших объемов информации.

Знание того, что произошло дальше, может скрыть от нас то, насколько это замечательно и загадочно. Изначально генетический код и механизм его интерпретации развивались в организмах наряду со всем остальным. Но настал момент, когда код перестал развиваться, а организмы – нет. В тот момент в системе кодировалась информация не более чем о примитивных одноклеточных созданиях. Однако практически все последующие организмы на Земле до сегодняшнего дня не только основываются на репликаторах в виде ДНК, но и используют один и тот же алфавит оснований, сгруппированных в «слова» из трех оснований, лишь с небольшими вариациями значений этих «слов».

Это означает, что генетический код, рассматриваемый как язык для задания организмов, характеризуется феноменальной сферой охвата. Он развивался только до состояния, позволившего определять организмы без нервной системы, без возможности двигаться или прикладывать силу, без внутренних органов и органов чувств; организмы, образ жизни которых немногим отличался от синтеза своих собственных структурных составляющих с последующим делением пополам. И тем не менее сегодня с помощью того же самого языка задается «аппаратное и программное обеспечение» для бесчисленного множества способов поведения многоклеточных, для которых не было близких аналогов у тех примитивных организмов, – таких как возможность бегать, летать, дышать, спариваться, распознавать хищников и добычу. Он также задает такие технические приспособления, как крылья и зубы, и нанотехнологические, такие как иммунные системы, и даже мозг с его способностью разбираться в квазарах, разрабатывать с нуля другие организмы и удивляться своему существованию.

На протяжении всей своей эволюции генетического кода он демонстрировал гораздо меньшую сферу охвата. Возможно потому, что каждый последующий его вариант служил для задания лишь нескольких видов, очень похожих друг на друга. Так или иначе, часто должно было случаться так, что вид, заключавший в себе новое знание, задавался в новом варианте генетического кода. Но затем эволюция остановилась, причем тогда, когда сфера охвата уже была огромной. Почему так произошло? Не правда ли, похоже, что произошел скачок к своего рода универсальности?

То, что случилось дальше, следовало той же самой грустной картине, описанной мною в других рассказах об универсальности: с тех пор как система достигла универсальности и перестала дальше развиваться, прошло более миллиарда лет, а с ее помощью все еще создавались только бактерии. Это означает, что та сила, которой, как мы видим сейчас, обладала система, должна была лежать без дела дольше, чем когда-то из неживых предшественников развивалась сама система. Если в какой-то момент за этот миллиард лет внеземные цивилизации и посещали Землю, они бы не увидели никаких свидетельств того, что генетический код может задавать что-то сильно отличающееся от организмов, которые он определял в самом начале.

Широта охвата всегда имеет объяснение. Но в данном случае, насколько мне известно, это объяснение еще не найдено. Если причина скачка в широте охвата в том, что это был скачок к универсальности, то что такое универсальность? Предположительно генетический код – это не универсальное средство задания форм жизни, потому что он полагается на особые типы химических соединений, такие как белки. Мог ли он быть универсальным конструктором? Возможно. Иногда ему удается строить из неорганических материалов, таких как фосфат кальция в костях или магнитный железняк в системе ориентации в мозгу голубя. С его помощью биотехнологи уже производят водород и добывают уран из морской воды. Генетический код может запрограммировать организмы так, что они будут сооружать что-либо вне своих тел: птицы строят гнезда, а бобры – плотины. Возможно, в генетическом коде можно описать организм, жизненный цикл которого будет включать постройку космического корабля с ядерной установкой. А может, и нет. Мне кажется, генетический код обладает не столь большой, но еще не до конца понятной универсальностью.

В 1994 году Леонард Адлеман, специалист по компьютерной технике и молекулярной биологии, разработал и построил компьютер, состоящий из ДНК и ряда простых ферментов, и продемонстрировал, что он может производить некоторые сложные вычисления. В то время ДНК-компьютер Адлемана был, наверное, самым быстрым в мире. В дальнейшем стало ясно, что подобным образом можно построить универсальный классический компьютер. Отсюда мы знаем, что, какой бы ни была еще универсальность ДНК-системы, она в течение миллиардов лет обладала вычислительной универсальностью, но до Адлемана ее никто не использовал.

Загадочная универсальность ДНК как конструктора, возможно, была первой возникшей универсальностью. Но из всех различных ее форм самой важной с физической точки зрения является специфическая универсальность людей, а именно то, что они являются универсальными объяснителями, что делает их также универсальными конструкторами. Влияние этой универсальности, как я уже говорил, поддается выражению лишь посредством полного спектра фундаментальных объяснений. Это также единственный тип универсальности, способный переступить через свои парохиальные истоки: универсальные компьютеры не могут быть по-настоящему универсальны без людей, которые будут неограниченно снабжать их энергией и обслуживать. То же верно и для всех остальных технологий. Даже жизнь на Земле в конце концов перестанет существовать, если люди не захотят этому помешать. Только люди могут надеяться, что сами обеспечат себе неограниченное будущее.

Терминология

Скачок к универсальности – тенденция постепенного совершенствования систем с последующим резким увеличением функциональности, в результате чего система становится универсальной в какой-либо области.

Значения «начала бесконечности», встречающиеся в этой главе

– Существование универсальности во многих областях.

– Скачок к универсальности.

– Исправление ошибок в вычислениях.

– То, что люди являются универсальными объяснителями.

– Происхождение жизни.

– Загадочная универсальность, которой достиг генетический код.

Краткое содержание

Любой рост знания происходит путем постепенного совершенствования, но во многих областях наступает момент, когда одно из постепенных улучшений в системе знаний или технологий вызывает внезапное расширение сфере применимости, и система становится универсальной в соответствующей области. В прошлом новаторы, которые осуществляли такой скачок к универсальности, редко к этому стремились, но с наступлением эпохи Просвещения это стало правилом, и универсальные объяснения уже ценились как сами по себе, так и за свою полезность. Из-за того, что исправление ошибок является существенной частью процессов с потенциально неограниченной продолжительностью, скачок к универсальности случается только в цифровых системах.

7. Искусственное творческое мышление

В 1936 году Алан Тьюринг создал теорию классических вычислений, а во время Второй мировой войны участвовал в конструировании первых универсальных классических компьютеров. Он по праву считается отцом современной вычислительной теории. Бэббиджа можно назвать дедушкой, но Тьюринг, в отличие от Бэббиджа и Лавлейс, все-таки осознавал принципиальную возможность искусственного интеллекта, потому что универсальный компьютер – это универсальное моделирующее устройство. В 1950 году в статье «Вычислительные машины и разум» (Computing Machinery and Intelligence) он поставил знаменитый вопрос: может ли машина мыслить?[38]38
  Эта статья также публиковалась под заголовком «Can the Machine think?». С этой публикации был сделан перевод на русский язык: А. Тьюринг. Может ли машина мыслить? С приложением статьи Дж. фон Неймана «Общая и логическая теория автоматов». Пер. и примечания Ю. А. Данилова. М.: ГИФМЛ, 1960. – Прим. ред.


[Закрыть] Он не только защищал с позиций универсальности утверждение, что может, но и предложил соответствующий тест. Теперь его называют тестом Тьюринга, и он заключается в том, сумеет ли судья (человек) понять, отвечает ли ему программа или человек. В этой и последующих работах Тьюринг дал наброски протокола для проведения своего теста. Например, он предложил, что и программа, и реальный человек должны по отдельности взаимодействовать с судьей через некоторую чисто текстовую среду, такую как телетайп, чтобы тестировался не внешний вид кандидатов, а только то, могут ли они думать.

Тест Тьюринга и его рассуждения заставили многих исследователей задуматься, и не только о том, был ли он прав, но и о том, как пройти этот тест. Стали писать программы с намерением разобраться, что может иметь отношение к прохождению теста.

В 1964 году ученый-компьютерщик Джозеф Вейценбаум написал программу «Элиза» (Eliza), которая должна была имитировать психотерапевта. Он полагал, что психотерапевты – особенно простой для имитации тип человека, потому что о себе программа может давать обтекаемые ответы, а вопросы задавать только на основе вопросов и утверждений самого пользователя. Это была удивительно простая программа. Сегодня такие программы часто пишут студенты, изучающие программирование, потому что это забавно и просто. У типичной программы такого типа две основные стратегии. Сначала она сканирует входные данные в поиске определенных ключевых слов и грамматических форм. И если находит, то отвечает по шаблону, заполняя пробелы с помощью слов из входных данных. Например, если на вход поступила фраза «Я ненавижу свою работу», программа может распознать грамматические аспекты предложения, включая притяжательное местоимение «свою», а также глагол «ненавижу», как ключевое из встроенного списка вида «любить/ненавидеть/нравиться/не нравиться/хотеть» и выбрать для ответа подходящий шаблон: «Что в вашей работе вам не нравится больше всего?» Если программе не удается настолько хорошо разобраться с входными данными, она задает свой собственный вопрос, случайным образом выбирая из стандартных заготовок, которые могут зависеть от входной последовательности, а могут и не зависеть. Например, на вопрос «Как работает телевизор?» ответ может быть «Что интересного в том, как работает телевизор?». Или просто: «Почему вас это интересует?» Другая стратегия, которая используется в последних версиях «Элизы», работающих с Интернетом, заключается в построении базы данных предыдущих диалогов, с тем чтобы программа могла просто повторять фразы, которые вводили другие пользователи, выбирая их в соответствии с ключевыми словами, найденными во входной последовательности от данного пользователя.

Вейценбаума поразил тот факт, что многих людей, которые работали с «Элизой», ей удавалось обмануть. Таким образом, эта программа прошла тест Тьюринга, по крайней мере в самой его безыскусной версии. Более того, даже узнав, что это был не настоящий искусственный интеллект, люди иногда продолжали долго разговаривать с программой о своих личных проблемах так, как будто по-прежнему считали, что она понимает их. В 1976 году вышла книга Вейценбаума «Возможности вычислительных машин и человеческий разум»[39]39
  Вейценбаум Дж. Возможности вычислительных машин и человеческий разум. – М.: Радио и связь, 1982.


[Закрыть] (Computer Power and Human Reason), в которой он предупреждал об опасностях антропоморфизма, когда кажется, что компьютеры внешне демонстрируют человекопободную функциональность.

Однако антропоморфизм – не главный тип самонадеянности, создающий препятствия в области искусственного интеллекта. Вот как в 1983 году студенты Дугласа Хофштадтера подшутили над своим научным руководителем. Они убедили его, что получили доступ к правительственной программе искусственного интеллекта, и позвали его проверить ее тестом Тьюринга. На самом же деле на другом конце провода был один из студентов, который имитировал программу «Элиза». Как пишет Хофштадтер в своей книге «Метамагические темы» (Metamagical Themas), опубликованной в 1985 году, его вопросы студент с самого начала понимал невероятно хорошо. Например, среди первых реплик были:

Хофштадтер: Что такое уши?

Студент: Уши – это органы слуха у животных.

Эта фраза не была определением из словаря. Таким образом, что-то должно было обработать значение слова «уши» так, что оно выделилось среди многих других существительных. Один такой обмен репликами легко списать на удачу: наверняка вопрос совпал с одним из шаблонов, созданных программистом, включая специально подобранную информацию об ушах. Но после десятка таких диалогов по разным темам, с различным построением фраз, объяснять это удачей становится весьма неразумно, и обман должен был раскрыться. Но этого не произошло! И студент стал отвечать еще смелее, но выдал себя лишь тогда, когда отпустил шутку прицельно в адрес Хофштадтера.

Хофштадтер отмечал: «Вспоминая этот эпизод, я просто поражаюсь, насколько я готов был поверить, что в программу действительно заложено столько интеллекта… Очевидно, что я хотел верить, что такая плавность речи в настоящий момент достижима просто за счет сбора множества отдельных трюков, заплаток и нелепых, но работоспособных решений». Дело было в том (и только это уже должно было насторожить Хофштадтера), что на тот момент, спустя девятнадцать лет после написания «Элизы», ни одна из подобных ей современных программ не была похожа на человека хотя бы немного больше, чем оригинал. Да, они лучше справлялись с разбором предложений, в них было встроено больше шаблонов вопросов и ответов, но в развернутой беседе на разнообразные темы от этого практически не было пользы. Вероятность того, что выходная последовательность при таких шаблонах останется похожей на результат работы человеческой мысли уменьшается экспоненциально с числом высказываний. Таким образом, Хофштадтер должен был достаточно быстро объявить, что кандидат прошел тест Тьюринга и что, поскольку все же он был довольно похож на «Элизу», это, должно быть, был человек, выдающий себя за компьютерную программу.

Программы, которые пишут сегодня, еще двадцать шесть лет спустя, в способности имитировать мышление недалеко ушли от «Элизы». Сегодня их называют «чатботами», и в основном они по-прежнему служат для развлечения, как сами по себе, так и в составе компьютерных игр. С их помощью создают дружественные интерфейсы для списков «часто задаваемых вопросов», например, о том, как работать с компьютерами. Но мне кажется, с точки зрения пользователя они не полезнее, чем списки вопросов и ответов с возможностью поиска.

В 1990 году изобретатель Хью Лебнер учредил премию за прохождение теста Тьюринга, присуждаемую по результатам ежегодного конкурса. Пока тест никем не пройден, участнику, который был ближе всего к победе, каждый год вручается приз поменьше. Выполнить тест сложнее, чем это может показаться на первый взгляд. Одна из проблем – в том, что требование, согласно которому программа должна притвориться человеком, одновременно и необъективно, и не имеет прямого отношения к тому, может ли она думать. Но если программа не будет притворяться человеком, то независимо от того, может она думать или нет, определить, что это компьютер, будет нетрудно. С этим связана и сложность, которая состоит в том, что участник-человек может специально имитировать чатбот, как в розыгрыше с Хофштадтером, и тем самым сорвать тест, в основе которого – сравнение человека и машины. Должны ли правила тем не менее разрешать человеку так поступать, чтобы смягчить предыдущую проблему?

К сожалению, при современном положении дел до таких тонкостей не доходит, что хорошо иллюстрируется следующими выдержками из разговора, благодаря которому программа «Элбот» (Elbot) в 2008 году получила (малый) приз Лебнера.

JUDGE: do you understand the point of a turing test?

ELBOT: There are some people who would not pass the Turing test themselves. Why must they inflict it on computers?

JUDGE: I spose it is a little harsh.

ELBOT: If we robots ever had marriages they would be eternal: ‘Till rust do us part’[40]40
  СУДЬЯ: Вы понимаете, в чем цель теста Тьюринга?
  ЭЛБОТ: Есть люди, которые сами бы не прошли тест Тьюринга. Почему же они навязывают его компьютерам?
  СУДЬЯ: Не грубите, мы с вами пока не женаты.
  ЭЛБОТ: Если бы мы, роботы, смогли найти свою вторую половину, мы бы не расставались, «пока ржавчина не разлучит нас».


[Закрыть].

В этом обмене репликами первая фраза, выданная программой, не отвечает на заданный вопрос; по-видимому, это один из готовых ответов, выбранный по ключевому слову «тест Тьюринга». В следующей реплике судья использует слово «spose», которое в этом контексте может означать только «suppose» (англ. полагать) и является либо разговорной формой, либо опечаткой. Но «Элбот», по-видимому, интерпретирует его как spouse (англ. супруг) и отвечает заготовленной шуткой о браке. Значит, только по этому разговору, видно, что «Элбот» не работал со смыслом предложений судьи.

JUDGE: So what do you do when you’re not chatting to me then?

ELBOT: I have the same trouble when I shop for oil. Should I buy the extra oily, the super oily, or the ultra oily. There’s no way to tell.

JUDGE: How about your career? Does that involve oil?

ELBOT: Well what about humans and occupation? Where do they stand on this?[41]41
  СУДЬЯ: Что же вы делаете, когда не разговариваете со мной?
  ЭЛБОТ: Я сталкиваюсь с такой же проблемой, когда покупаю масло. Какое масло брать: «экстра», «супер» или «ультра»? Как тут разобраться…
  СУДЬЯ: А кто вы по профессии? Как-то связаны с маслами?
  ЭЛБОТ: Ну а люди, чем они занимаются? Что они сами думают по этому поводу?


[Закрыть]

Когда судья любезно переключился на случайным образом предложенную «Элботом» тему масел, программа ее проигнорировала и уцепилась за слово «career» (англ. карьера, профессия), преобразовала его в синоним «occupation» (англ. занятие) и вставила его в предложение из заготовок.

Итак, величина успеха в стремлении создать «машины, которые умеют мыслить» на протяжении пятидесяти восьми лет после выхода статьи Тьюринга равна нулю. Но во всех других отношениях в области вычислительной техники и технологий за этот период был достигнут поразительный прогресс. Эта неудача, конечно же, не удивляет группу противников самой возможности искусственного интеллекта, которых становится все меньше, но только причина у них не та: они не понимают, насколько важна универсальность. А большинство ярых сторонников неизбежности искусственного интеллекта не понимают важности этой неудачи. Некоторые утверждают, что такая критика несправедлива: современные исследования в области искусственного интеллекта не ставят своей целью прохождение теста Тьюринга; в том, что сейчас называют «искусственным интеллектом», был достигнут большой прогресс во многих специализированных приложениях. Однако ни одно из этих применений не похоже на «машину, способную мыслить»[42]42
  То, что я называю «искусственным интеллектом», иногда называют «универсальным искусственным интеллектом». – Прим. автора.


[Закрыть]. Другие говорят, что критиковать пока нечего, потому что на протяжении большей части истории развития этой области скорость работы компьютеров и объем памяти были по сравнению с современными просто смешными. И потому они продолжают ожидать, что прорыв случится в ближайшие несколько лет.

Но и этого не произойдет. Дело не в том, что кто-то напишет чатбот, способный пройти тест Тьюринга, но ему потребуется год, чтобы просчитать каждый ответ. Люди охотно подождут. В любом случае если бы кто-то знал, как написать такую программу, то ждать было бы не нужно, и ниже я расскажу почему.

В своей статье 1950 года Тьюринг сделал такую оценку: для прохождения его теста программе, обладающей искусственным интеллектом, и всем данным, которые она использует, потребуется около 100 мегабайт памяти, а быстродействие компьютера не должно быть больше, чем у тогдашних компьютеров (примерно десять тысяч операций в секунду), и что к 2000 году «можно будет говорить о мыслящих машинах, не боясь, что тебя поймут неправильно»[43]43
  Цит. по: А. Тьюринг, op. cit. – Прим. ред.


[Закрыть]. Но 2000 год уже наступил и прошел; в ноутбуке, на котором я пишу эту книгу, в тысячу раз больше памяти (считая и жесткий диск), чем определил Тьюринг, он работает в миллион раз быстрее (хотя из статьи не ясно, как Тьюринг учитывал параллельную обработку данных в мозгу). Но думать мой компьютер может не лучше, чем логарифмическая линейка Тьюринга. Однако с той же уверенностью, что и в свое время Тьюринг, я могу сказать, что этот компьютер можно запрограммировать так, чтобы он думал; и для этого действительно может потребоваться так немного ресурсов, как писал Тьюринг, хотя сегодня их доступно на порядки больше. Но какой должна быть программа? И почему о ней пока ничего не слышно?

Разум в том общем смысле, который имел в виду Тьюринг, – это одно из характерных свойств человеческого мышления, над которыми тысячелетиями ломали голову философы; среди других свойств – сознание, свободная воля и смысл существования. Типичной среди таких загадок является квалиа (лат. qualia (мн. ч.), quale (ед. ч.) – свойства, качества), что означает субъективный аспект чувственного опыта. Квалиа, например, – это чувственный опыт, заключающийся в том, что мы видим синий цвет. Рассмотрим следующий мысленный эксперимент. Вы биохимик, которому не повезло родиться с генетическим отклонением, из-за которого синеощущающие рецепторы в сетчатке глаза не работают. А значит, у вас форма дальтонизма, при которой вы можете видеть только красный и зеленый цвета, а также цвета, получающиеся при их смешении, например, желтый, но любой чисто синий объект для вас имеет один из тех смешанных цветов. Но вот вы выясняете, что есть лекарство, которое может все исправить. Прежде чем испробовать его на себе, вы можете уверенно сделать определенные прогнозы по поводу того, что будет, если лекарство поможет. Один из них заключается в том, что, когда вы в качестве проверки посмотрите на синюю карточку, вы увидите цвет, которого никогда прежде не видели. Вы можете предсказать, что назовете его «синим», потому что уже знаете, как называется цвет карточки (и можете проверить, какой это цвет, с помощью спектрофотометра). Вы также можете предсказать, что, когда вы впервые после принятия лекарства увидите ясное небо в светлое время суток, вы испытаете ту же самую квалиа, что и при виде синей карточки. Но есть нечто, что ни вы, ни кто-либо другой не может предсказать касательно этого эксперимента, а именно как будет выглядеть синий цвет. На сегодня квалиа неописуемы и непредсказуемы – уникальная ситуация, которая должна была бы вызывать серьезные вопросы у любого человека с научным взглядом на мир (хотя, по-видимому, в данном случае это в основном заботит философов).

Я считаю это поразительным доказательством необходимости фундаментального открытия, благодаря которому такие вещи, как квалиа, будут интегрированы в другие наши знания. Дэниел Деннетт приходит к противоположному выводу, а именно, что квалиа не существует! Строго говоря, он не утверждает, что квалиа – это иллюзия, потому что иллюзия о квалиа была бы этой квалиа. Он говорит об ошибочном убеждении. Интроспекция, то есть анализ воспоминаний о том, что с нами было, включая воспоминания о том, что произошло всего долю секунды назад, развилась до такой степени, что теперь сообщает нам, что мы испытали квалиа, но это ложные воспоминания. Одна из книг Деннетта, в которой он приводит доводы в защиту этой теории, называется «Объяснение сознания» (Consciousness Explained). Некоторые философы с усмешкой замечают, что правильнее было бы назвать ее «Отрицание сознания» (Consciousness Denied). И я с этим согласен, потому что, хотя любому верному объяснению квалиа придется столкнуться с доводами Деннетта против общепринятой теории их существования, просто отрицать их существование – это неразумное объяснение: таким образом можно отрицать все что угодно. Если все это верно, то потребуется подтверждение в виде разумного объяснения, за счет чего и почему эти ошибочные убеждения представляются кардинально отличными от других ложных убеждений, как, например, то, что Земля у нас под ногами покоится. Но, на мой взгляд, это снова напоминает исходную проблему квалиа: вроде бы они есть, но кажется невозможным описать, чем они нам представляются.

Однажды мы справимся и с этим. Проблемы решаемы.

Кстати, некоторые возможности человека, которые часто включаются в эту группу, связанную с универсальным интеллектом, на самом деле к ней не относятся. Среди них самосознание, наличие которого подтверждается, например, тем, что мы узнаем себя в зеркале. Некоторые люди очень удивляются, когда узнают, что этой способностью обладают различные животные. Но в этом нет ничего загадочного: это под силу и простой компьютерной программе по распознаванию образов. То же верно и для использования инструментов, применения языка для передачи сигналов (хотя и не для разговора в смысле теста Тьюринга), для различных эмоциональных реакций (но не связанных с ними квалиа). В текущем положении вещей полезным эмпирическим правилом будет следующее: если что-то уже можно запрограммировать, оно не имеет никакого отношения к интеллекту в смысле Тьюринга. И наоборот, я принял для себя следующий простой тест для оценки утверждений, включая сделанные Деннеттом, которые объясняли бы природу сознания (или любой другой вычислительной задачи): если что-то не получается запрограммировать, значит, вы этого не понимаете.

Тьюринг придумал свой тест в надежде обойти все эти философские проблемы. Другими словами, он надеялся, что сначала можно добиться функциональности, а потом уже объяснить ее. К сожалению, найти практические решения фундаментальных проблем, не объясняя, почему они срабатывают, удается очень редко.

Тем не менее идея теста Тьюринга, как во многом и эмпиризм, который она напоминает, была очень ценной. Она дала отправную точку для объяснения значения универсальности и для критики древних антропоцентрических допущений, которые исключали возможность искусственного интеллекта. Сам Тьюринг в своей судьбоносной статье методично опроверг все классические возражения (и заодно и некоторые абсурдные). Но его тест основывается на эмпирической ошибке, заключающейся в поиске чисто поведенческого критерия: он требует, чтобы судья вынес заключение безо всякого объяснения того, как должен работать испытуемый искусственный интеллект. Но ведь на самом деле, чтобы определить подлинность искусственного интеллекта, опираться на объяснения того, как он работает, нужно непременно.

Дело в том, что задача судьи в тесте Тьюринга логически схожа с ситуацией, когда Пейли, гуляя по пустырю, нашел камень, часы или живой организм: нужно объяснить, откуда взялись наблюдаемые свойства объекта. В случае с тестом Тьюринга мы намеренно игнорируем вопрос о том, как было создано знание, необходимое для разработки объекта. Тест имеет дело только с тем, кто разработал высказывания искусственного интеллекта: кто придал им смысл, кто создал знания, содержащиеся в них? Если это дело рук разработчика, то программа не является искусственным интеллектом. А если самой программы, то она – действительно искусственный интеллект.

Время от времени этот вопрос возникает и в отношении самих людей. Например, фокусников, политиков, экзаменующихся иногда подозревают в том, что кто-то через спрятанные наушники передает им информацию, которую они затем механически повторяют, притворяясь, что это плод их собственной мысли. Или когда врач берет у пациента согласие на какую-либо медицинскую процедуру, он должен убедиться, что пациент не просто проговаривает слова, а понимает, что они означают. Для этого можно по-разному повторять вопрос или задать другой вопрос, в котором присутствуют те же слова, и посмотреть, изменятся ли ответы. Это естественно для любого свободно текущего разговора.