Текст книги "Об ИИ без мифов. Путеводитель по истории Искусственного Интеллекта"
Автор книги: Леонид Черняк
сообщить о нарушении
Текущая страница: 7 (всего у книги 19 страниц) [доступный отрывок для чтения: 7 страниц]
Большие ожидания
Несмотря на оставшиеся разногласия относительно предмета AI, участники Дартмутского семинара разъехались с большими, хотя и неопределенным надеждами на будущее. Трезвость в оценках не позволила им сосредоточиться на сильном AI (AGI), но одновременно амбиции не давали возможности опуститься до инженерного уровня слабого AI (ANI). Их видению AI почти точно соответствовал бы недавно предложенный термин «машинный разум человеческого уровня» (Human Level Machine Intelligence, HLMI). Так называют автономные системы, которые, буде они созданы, смогут делать все то, что делает человек, но лучше и дешевле.
По итогам Дартмутского семинара в МТИ была создана Лаборатория AI (Artificial Intelligence Laboratory, AI Lab), многие годы она оставалась единственным центром AI, затем там же в МТИ открыли Лабораторию компьютерной науки (Laboratory for Computer Science, LCS), а 2003 году две объединились в одну лабораторию Computer Science and Artificial Intelligence Laboratory. Появление крупного центра для исследований в области AI с практически неограниченным бюджетом выглядело как успех, но поставленная на Дартмутском семинаре цель – создание научного сообщества достигнута не была. Из воспоминаний Маккарти: «Все выглядело не так, как мы замыслили, мы не могли настроиться на совместную работу научного сообщества и регулярно встречаться. Это очень меня огорчало, поскольку не удалось создать условия для эффективного обмена идеями».
Тем временем рекламная машина набирала обороты, настрой на радужные перспективы, созданный Минским, Маккарти и другими, добрался до средств массовой информации, на головы непросвещенных граждан из самых разных источников обрушились удивительные заявления. В 1961 году Минский писал: «Я настроен весьма оптимистично относительно интеллектуальных способностей машин, при нашей жизни они обойдут нас по уровню общего интеллекта». Через шесть лет он же продолжил: «Мы вступаем в полосу новой индустриальной революции, механизирующей интеллектуальные процессы. Пока это только начало, но уже сейчас машины могут играть в шахматы, работать с текстами на обычном языке, выполнять не только арифметические, а абстрактные логические операции и иные действия, прежде доступные только человеку. Через поколение, я уверен, мало что из интеллектуальной деятельности останется недоступным машинам, проблема создания искусственного интеллекта будет окончательно решена».
Опережая Минского, буквально через пару месяцев после Дартмутского семинара, в публичном выступлении, Герберт Саймон, презрев проявленное к нему там холодное отношение, поделился следующим утверждением, ставшим самым абсурдным из всего сказанного им впоследствии: «Я не ставлю своей цель удивить или шокировать вас, но подводя итог, могу смело утверждать, что мы входим в мир, где машины смогут учиться, думать и созидать. Более того, их способность к токого рода действиям будет постоянно возрастать и со временем достигнет уровня, при котором станут неизбежными проблемы совместного существования машин с человеком во всех традиционных для него сферах деятельности». В 1965 он же продолжил: «Через 20 лет машины смогут делать любую работу, которую сейчас делает человек».
Сегодня у любого, пребывающего в добром здравии и в здравом уме, не укладывается в голове, как человек, получивший в 1978 году Нобелевскую премию, был столь опрометчив в своих прогнозах. Марвин Минский, абсолютный лидер Symbolic AI, в 1970 году, имея к тому времени почти десятилетний не слишком удачный опыт, продолжал рисовать светлые картины будущего: «Через 3–5 (!) лет у нас будет машина с интеллектом, равным способностям среднего человека».
Даже Маккарти, изначально отличавшийся большим трезвомыслием, чем его ближайшие соратники, и тот сумел отличиться по части прогнозов. Разойдясь во взглядах с Минским, он в 1964 году переехал в Калифорнию и создал в Стэнфордском университете Лабораторию AI, где, в отличие от аналогичной лаборатории в МТИ, возглавляемой Минским, он предполагал заниматься прикладными вопросами, в том числе бинокулярным зрением, распознаванием речи и интеллектуальными системами управления и привода. Но даже и он поставил целью построение умной автономной машины за 10 лет! Для начала он предложил своим коллегам собрать все эти исследовательские темы в одном проекте и примерно за год создать робот по имени Shakey, о нем детальнее в главе 6. В качестве теста этот робот должен был без участия человека собрать цветной телевизор из набора комплектующих Heathkit Color TV Kit. Набор был куплен, но Shakey не смог выполнить задуманное ни через год, ни через пять, тогда, чтобы не пропадать добру, телевизор собрали руками и установили в зале, известном как Jacks Hall.
Справедливостям ради заметим, что в конце девяностых оба, и Минский, и Маккарти признали неоправданным свой оптимизм на старте, но как-то вынужденно и неохотно, объясняя неудачи ссылками на нехватку финансирования. О каких деньгах могла идти речь, если теперь они оценивали срок, необходимый для достижения уровня HLMI, аж четырьмя или даже пятью столетиями (!), а отнюдь не нескольким десятком лет. Удивительно, что, увеличив срок на 2 порядка, они не испытали ни малейшего смущения.
Основоположники символьного подхода сознательно не замечали важности материальной стороны AI. Убеждение во второстепенности инженерии было сформулировано Хансом Моравеком в форме тезиса, получившего название «парадокс Моравека». Этот парадокс активно поддержал Минский. Моравек утверждал, что для сложных мыслительных процессов требуются относительно небольшие вычисленные мощности, и напротив, для автоматизации сенсомоторных операций требуются огромные вычислительные ресурсы: «Относительно легко довести компьютер до уровня компетенции взрослого человека в таких задачах как тест на интеллект или игра в шашки, однако сложно или невозможно достичь навыков годовалого ребенка в задачах восприятия или мобильности». Почему он принял за истину такого рода убеждение и почему с подачи Минского эту спорную мысль называют парадоксом?
Ранняя критика AI
Не все поддались на обещания скорых результатов, только несколько ученых сумели сохранить трезвый взгляд. Среди них был Джозеф Вейценбаум, автор программы ELIZA, он предупреждал об ошибочности отождествления естественного и искусственного разума, основываясь на сравнительном анализе фундаментальных представлений психологии и на наличии принципиальных различий между человеческим мышлением и информационными процессами в компьютере.
О целесообразности переориентации научного сообщества со стремления наделить машины человеческими качествами на обеспечение более продуктивного взаимодействия человека с компьютером писал Джозеф Ликлайдер, психолог, вошедший в историю своей ролью в создании интернета. Ликлайдер был руководителем отдела методов обработки информации (Information Processing Techniques Office, IPTO) – подразделения ARPA, курировавшего разработку Глобальной сети. Ликлайдер автор знаменитой статьи «Симбиоз человека с машиной» (Man-Computer Symbiosis, 1960), ставшей своего рода идеологическим базисом для создания компьютерных сетей, в ней проповедуется совершенно естественное для сегодняшнего дня прагматичное отношение к машине.
Может показаться странным, но в 60-е годы способность компьютера, играть в шахматы, сочинять музыку или выполнять перевод с иностранного языка казалась гораздо более важной, чем умение решать те многочисленные и разнообразные прагматические задачи, для которых он используется сегодня в 99,99 % случаев. Нужен был кто-то, кто мог изменить цели и по-иному расставить приоритеты, и этим кем-то оказался психофизиолог Джозеф Ликлайдер. Он предложил направление, им же названное interactive computing, где во взаимодействии с человеком машине отведена вспомогательная роль. Через пару лет Даг Энгелбьарт уточнил роль компьютера – усиление человеческого интеллекта (augmenting the human intellect).
В статье Ликлайдера находим: «Задача состоит в том, чтобы обеспечить симбиотическое партнерство человека и машины, где человек ставит цели, формулирует гипотезы, определяет критерии и дает оценки, а на компьютер возлагается рутинная часть работы, способствующая повышению продуктивности человека». Эта мысль Ликлайдера остается актуальной по сей день: с внедрением новых технологий повышается уровень взаимодействия, в компетенцию машины переходят те рутинные функции, которые прежде мог выполнять только человек.
Критические взгляды таких ученых, как Вейценбаум и Ликлайдер, с одной стороны, и отсутствие практических результатов с другой, не могли остаться незамеченными. Была, правда, надежда на системы автоматизации перевода MT, но и они не оправдывали ожиданий. Для того чтобы сравнить обещанное в этой области с реальностью в 1964 году правительство США создало специальный комитет ALPAC (Automatic Language Processing Advisory Committee), его составили семь ученых, принадлежавших к разным направлениям, в том числе и те, кто серьезно занимался проблемами МТ. Наиболее критично был настроен Энтони Этингер (Anthony Oettinger, 1929), написавший диссертационную работу на тему автоматизации составления словарей еще в 1954 году и понимавший реальную сложность задачи МТ. Эттингер автор термина компьютерные коммуникации, был консультантом по высадке на Луну «Аполлона», президентом Ассоциации вычислительной техники (ACM), участвовал в работе разведывательного сообщества. Лингвистам хорошо известна его фраза, ставшая каноническим образцом неоднозначности живого языка «Time flies like an arrow; fruit flies like a banana» (Время летит как стрела, а фруктовые мухи любят бананы). В первом употреблении flies переводится глаголом летит, а во втором существительным муха, этот пример демонстрирует ограниченность тривиальных систем MT. В своем отчете, подготовленном к 1966, году ALPAC скептически оценил сделанное и перспективы подхода «слово-в-слово», он констатировал необходимость серьезных академических исследований. Это решение критическим образом повлияло на отношение военных к AI в целом, не только к MT, и стало первым импульсом к сокращению финансирования, близилась «первая зима AI».
Отчет Лайтхилла
Свою особую роль в судьбе AI сыграло правительство Великобритании. Обеспокоенное ситуацией неопределенности, оно в 1973 году обратилось за консультацией к специалисту в области прикладной математики Джеймсу Лайтхиллу, не связанному напрямую с AI, и предложило дать объективную оценку происходящему. Лайтхилл провел всестороннее исследование, проштудировал доступные источники и побеседовал с 52 (!) наиболее известными экспертами в области AI, классифицировал полученные данные, выполнил анализ и сделал прогноз на следующие 25 лет. Отчет официально называется Lighthill Report: Artificial Intelligence.
Лайтхилл начал с анализа статус-кво, разделив всю существовавшую на тот момент деятельность в области AI на три направления – A, B и C по специфике выполняемой в этих направлениях работы.
• A – Advanced Automation (продвинутая автоматизация), сюда он включил все, что так или иначе связано с разработкой машин, способных заменить человека в самом широком смысле этого слова. Направление А он в свою очередь разделил на два канала: один – назовем его A1 – индустриальные и военные приложения, другой – приложения AI к математике и науке. Первый реализуется с применением логических, а не только, как прежде, арифметических, способностей компьютеров для совершенствования систем и процессов управления, а также при разработке таких вещей как распознавание печатных текстов, изображений, на криптографию и на тому подобные вещи, которые сегодня стали естественными составляющими окружающей среды. Второй канал A2 – это доказательства теорем, машинный перевод и другие задачи, которые можно отнести к HLMI, то есть к машинному разуму человеческого уровня
• C–Computer-based CNS (воспроизведение на компьютере центральной нервной системы), в основе которой лежат теоретические исследования в области нейрофизиологии и психологии. Слово теоретические подчеркивает тот факт, что тогда это были не попытки моделировать реальную работу нервных клеток, а создание теоретических моделей мозга на основе общих принципов, известных из нейрофизиологии. Этот направление развивают не биологи, а математики, вкладывающие в свои модели полученное ими представление о работе мозга. Сегодня мы называем этот подход коннекционистским.
• B – Building Robots (создание роботов). Лайтхилл еще использует для него название Bridge activity, то есть объединенная деятельность направлений A и B с целью создания разумных машин-роботов.
Разобрав в первой части состояние дел во всех трех направлениях, автор отчета переходит ко второй части, которую он назвал Past disappointments, то есть разочарования прошлым. В ней он констатирует, что разочарование постигло как тех, кто работал по направлению A, так и тех, кто избрал направления С и B. Реальные достижения в автоматизации с использованием AI не идут ни в какое сравнение с успехами традиционных автоматизированных систем управления, достаточно представать сложность и успешность систем управления в космической индустрии, в авиации и т. д. Достижения по части перевода и доказательства теорем не идут ни в какое сравнение с тем, что делает человек. Столь же критически Лайтхилл оценивает положение в направлениях C и B.
Его основной вывод заключался в признании явного несоответствия уровня притязаний тех специалистов, которые занимаются AI, тому, на что они способны, накопленному ими научному багажу и потенциалу доступных им технологий. Общий тон отчета по-английски не категоричен, он скорее предупреждающий, чем отрицающий, призывает к трезвости в оценке сложившейся ситуации. Доклад заканчивается прогнозом на следующие 25 лет и предостерегает от излишнего оптимизма. Руководствуясь рекомендациями Лайтхилла, Британское правительство отказалось от идеи дополнительного экстренного финансирования AI, позволив событиям развиваться естественными темпами.
Представление отчета публике приняло форму открытой дискуссии в Палате Общин, транслировавшийся по каналу BBC. На роль оппонента был приглашен не кто иной как автор термина AI Джон Маккарти. Доступная в Сети полуторачасовая запись этой акции, интересна не только по содержанию, но и по форме, ее легко найти в YouTube и на официальной странице отчета. Обычно критику, содержащуюся в этом документе, рассматривают как одну из главных причин наступления первой зимы AI, но это не совсем так. Отчет констатирует факты, его можно сравнить с медицинским анализом, вскрывающим реальное положение дел, которое не соответствовало представлению заинтересованной стороны. Поведение Маккарти на слушаниях выглядит по меньшей мере странно, он не смог ничего противопоставить безукоризненно точным доводам Лайтхилла, продемонстрировав перед камерой удручающую беспомощность. Показательно, что только лет через 8–10 Маккарти довольно вяло прокомментировал свое участие в этих дебатах. Есть выражение «must read», то есть «обязательно к прочтению», про эту видеозапись можно сказать, что она «обязательна к просмотру».
Первая зима AI
Несмотря на то что в 60–70-е годы все работы, связанные с AI, были сосредоточены всего в трех местах: поначалу только в МТИ, после переезда туда Маккарти еще и в Стэнфордском университете, а позже и в Университете Карнеги – Меллона, работавшей в них относительно немногочисленной команде удалось привлечь к себе и своей деятельности немыслимое внимание со стороны правительства США. Они не только давали многочисленные обещания о скорой готовности AI, но к тому же сулили неизбежные социальные потрясения, которые вызовет в близком будущем внедрение AI. Запуганная Минским и его командой администрация президента Джона Кеннеди начала, а его преемника Линдона Джонсона завершила создание меморандума о тройной угрозе AI обществу (The Triple Revolution), с описанием прогнозируемых опасностей по трем направлениям: первое – автономные средства вооружения, второе – сокращение занятости и третье – нарушение гражданских прав. Это был первый из бесконечной череды апокалиптических прогнозов, предвещающих чудовищную опасность AI для общества. Особую обеспокоенность проявила весьма влиятельная в те годы организация «Центр изучения демократических ценностей» (Center for the Study of Democratic Institutions), среди тех, кого эти угрозы волновали, оказались многие демократически ориентированные персонажи, в том числе Мартин Лютер Кинг.
Однако к середине семидесятых стала очевидной несущественность всех этих угроз и спекуляций, стало ясно, что все страшилки AI были инспирированы желающими получить финансирование. Даже такой верный ученик Минского, как Ханс Моравек, писал: «Многие исследователи оказались в паутине неоправданных ожиданий. Их начальные предложения, адресованные ARPA, были слишком оптимистичны. Но, осознав одну ошибку, из желания остаться на плаву они совершали следующую и попадали в порочный круг – обещали все больше, понимая, что и эти обещания не будут исполнены». Моравек открыто признал, что ARPA и администрация США были введены в заблуждение (duped). А далее случилось неизбежное, наступило отрезвление, а вслед за ним отказ от щедрого финансирования с неизбежным итогом – началась Первая зима AI. Оказалось, что за 20 лет были попусту растрачены колоссальные средства, но ни одно (!) из обещаний первой волны AI не было реализовано. С этого момента обещания ученых больше ничего не значили для тех, кто им давал средства, проповедники AI вышли из доверия. Эдвард Фейгенбаум, в свое время лучший ученик Герберта Саймона, высказался следующим образом: «Рай закончился и началась реальная жизнь. AI перестал быть многообещающей технологией и превратился в рискованное дело».
Экспертные системы и Вторая зима AI
В отличие от энтузиастов первой волны AI тот же Эдвард Фейгенбаум (Edward Feigenbaum, 1936) не ограничился простым признанием неудач, напротив, он сделал из них выводы и разработал собственный план по спасению AI, состоящий из двух частей.
• Техническая часть. Новый подход получил название экспертные системы (Expert Systems, ES). Суть его в отказе от любых попыток прямого наделения машины разумом, способностью решать общие задачи, вместо этого он сменил ориентацию на поиск подходов, во-первых, к тому, как по образу и подобию баз данных (СУБД) создавать базы знаний, накопленных экспертами в тех или иных прикладных областях науки, медицины и других и, во-вторых, создавать соответствующие средства, обеспечивающие машине способность оперировать этими знаниями.
• Финансирование. Фейгенбаум решил выйти из-под зависимости от военных и найти заинтересованных в коммерческих приложениях AI.
Предпосылкой к плану создания ES был проект по эвристическому программированию (Stanford Heuristic Programming Project), которым он руководил в конце шестидесятых. В нем Фейгенбаум отказался от методов, разработанных Ньэллом и Саймоном для решения общих логических задач, в пользу работы с отчужденными от человека и формализованными знаниями, сохраняемыми в базах. По замыслу Фейгенбаум база знаний (knowledge base, KB) – это аналог базы данных, содержащий информацию о человеческом опыте и знаниях. Для хранения знаний служат некие онтологии, так странно были названы описания, состоящие из множества объектов, представления знания и множества связей, объединяющих понятия и их отношения. Эта с трудом понимаяемая вещь не имеет ничего общего с понятием онтологии в философии.
В короткий срок в Стэнфордском университете были созданы первые экспериментальные ES. Одна из них, Mycin содержала назначения лекарств по симптоматике, а другая, Dendral – ориентирована на приложения в области органической химии. Фейгенбаум был убежден, что «сила этих интеллектуальных систем в знаниях, которыми они обладают, а не в заложенных в них алгоритмах и методах логического вывода».
За свою деятельность Фейгенбаум получил титул «отца экспертных систем», но выработанные им принципы создания ES остаются модификацией символьного подхода к AI, все тот же «сверху-вниз» по классификации Тьюринга. Суть его предложения сводится к тому, что накопленные людьми-экспертами знания некоторым способом закладываются в машину в предположении о том, что после этого машина окажется эффективнее человека в процессе оперирования этими знаниями. Предполагалось, что наибольший эффект будет достигнут в финансовом планировании, в медицинской диагностике, в геофизических исследованиях и других областях. Без излишних сомнений началась активная коммерциализация ES. В который раз проявилась вера в чудо, в 1984 году номер журнала Business Week вышел под лозунгом «AI пришел» (AI: It’s Here), вот отрывок: «Мы построили замечательный мозг, мы можем программировать человеческие знания и закладывать их в компьютер. Наконец AI достиг своей зрелости».
В середине 80-х ES достигли пика популярности, их ввели в университетские курсы и более половины крупных компаний, входящих в Fortune 500, пытались внедрить их в свой бизнесе. Лидером нового направления стала Digital Equipment Corporation (DEC), занимавшая вторую позицию в компьютерном мире после IBM, известная своими компьютерами PDP и VAX. Создаваемым здесь ES была предназначена скромная роль рабочих лошадок для тех случаев, когда человеку было трудно справляться с большими объемами рутинных знаний. Например, для совершенствования работы отделов продаж в DEC была создана ES XCON, предназначенная, как следует их ее названия, на роль «эксперта конфигураций» (eXpert CONfigurer). Он служил для задач комплектации поставляемых компанией компьютеров. Потребность в такой системе объяснялась тем, что разнообразие заказываемых конфигураций было настолько велико, что человеку с его способностями было сложно добиться согласованности поставок, часто возникали ошибки, требовались средства автоматизации. Поначалу в систему было заложено 750 правил, но со временем их число дошло до 2500. Система XCON тиражировалась вплоть до 1993 года, но со временем стало ясно, что затраты на поддержку систем этого класса оказываются выше, чем приносимая ими прибыль. По этой причине от ES отказались не только в DEC, но и в других компаниях. Однако некоторые следы ES сохранились до наших дней, они оказались воплощенными в бизнес-приложениях компаний SAP и Oracle.
Как ни странно, но самым серьезным критиком ES оказался Джон Маккарти, он совершенно справедливо называл главным дефектом экспертных систем невозможность наделить их здравым смыслом. Во многих случаях предлагаемые ES решения оказывались абсурдными. Маккарти привел в качестве примера рецепт, выписанный экспертной системой MYCIN, он действительно обеспечил бы победу над болезнью, но попутно убил больного. Крах ES обычно связывают со сложностью и трудоемкостью поддержания базы знаний, но при этом забывают об одно важном факторе – о случившейся смене компьютерной парадигмы, о замене централизованных систем на базе мэйнфреймов и миникомпьютеров клиент-серверными конфигурациями, где человек мог работать в интерактивном режиме на ПК.
Мир пошел по пути предсказанному Ликлайдером – создание трехзвенных систем управления «сервер – ПК – человек», где сервер служит для хранения и обработки данных, ПК предназначен автоматизации рутинной работы и для интерактивного взаимодействия человека с машиной в процессе принятия решений и других осмысленных действий. Это оказалось гораздо удобнее и проще.
