Текст книги "Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе"

Автор книги: Эми Уэбб

К 1830-м годам математики, инженеры и ученые всерьез взялись за постройку машины, способной производить вычисления так же, как люди-«компьютеры». Английский математик Ада Лавлейс и ученый Чарльз Бэббидж изобрели «разностную машину», а позже разработали проект более сложной «аналитической машины», решавшей математические задачи путем выполнения заранее определенной последовательности шагов. Бэббидж не предполагал, что его машина будет использована для чего-либо, кроме действий над числами. Именно Лавлейс в примечаниях к научной статье, которую тогда переводила, добавила изумительно глубокий комментарий, что более мощный вариант машины можно было бы использовать иначе[24]24
  Luigi Manabrea, Sketch of the Analytical Engine Invented by Charles Babbage (London: Richard and John E. Taylor, 1843).


[Закрыть]. Если машина способна манипулировать символами, обозначающими разные вещи (например, музыкальные ноты), тогда ее можно было бы использовать для «размышления» о вещах, лежащих за пределами математики. Хотя Лавлейс не верила, что компьютер когда-либо обретет способность к самостоятельному мышлению, она предвидела создание сложной системы, умеющей выполнять инструкции и таким образом подражать человеку во многих его повседневных задачах.

В ста милях к северу от Кембриджского университета, где работали Лавлейс и Бэббидж, молодой математик-самоучка по имени Джордж Буль шел через поле в Донкастере, когда его внезапно осенило: он решил посвятить свою жизнь расширению логики человеческого мышления[25]25
  Desmond MacHale, The Life and Work of George Boole: A Prelude to the Digital Age, New ed. (Cork University Press, 2014).


[Закрыть]. Во время этой прогулки родилось то, что мы сегодня называем булевой алгеброй: способ упрощения логических выражений (например, «и», «или», «не») через использование символов и чисел. Скажем, вычисление выражения «истина и истина» должно давать результат «истина», что физически могло бы соответствовать положению переключателей или крышек луз на компьютере. Булю потребовалось два десятилетия на формализацию своих идей. И еще только через сто лет кому-то пришло в голову, что булева логика в сочетании с теорией вероятностей могла бы превратить компьютеры из средства автоматизации элементарных математических операций в более сложные мыслящие машины. Технологии, позволяющей построить такую машину, еще не было – отсутствовали необходимые процессы, материалы и источники энергии, – и проверить теорию на практике было невозможно.

Переход от теоретического представления о мыслящей машине к компьютерам, начавшим имитировать мышление человека, произошел одномоментно, с публикацией двух основополагающих статей: «Символический анализ релейных и переключательных схем» Клода Шеннона и «О вычислимых числах и их применении к проблеме разрешения» (Entscheidungsproblem) Алана Тьюринга. Изучая электротехнику в Массачусетском технологическом институте, Шеннон в качестве предмета по выбору взял философию, что выглядело необычно. Основным научным трудом, на который опиралась его диссертация, был трактат Джорджа Буля «Исследование законов мышления». Научный руководитель Шеннона, Вэнивар Буш, подал ему идею реализовать булеву логику в виде физических схем. Буш построил усовершенствованную версию «аналитической машины» Лавлейс и Бэббиджа – она называлась «дифференциальный анализатор», – но сконструирована она была в некоторой степени бессистемно. В то время не существовало теории, которая диктовала бы методику проектирования электрических схем. Открытие Шеннона заключалось в том, что он осуществил схемную реализацию булевой логики и объяснил, каким образом с ее помощью получить рабочую схему, способную складывать нули и единицы.

В то же время, когда Шеннон работал над переносом булевой логики на физические схемы, Тьюринг экспериментировал с «универсальным переводчиком» Лейбница, способным представлять все физическое и научное знание. Английский ученый ставил перед собой задачу доказать так называемую Entscheidungsproblem, или «проблему[26]26
  В русскоязычной литературе устоялось название «проблема разрешения», но по существу эта задача представляет собой теорему, поэтому мы позволяем себе использовать в отношении ее глагол «доказать». – Прим. пер.


[Закрыть] разрешения». Упрощая, можно сформулировать ее так: не существует алгоритма, при помощи которого возможно доказать истинность или ложность произвольного математического утверждения. Ответ оказался отрицательным. Тьюринг сумел продемонстрировать, что такого алгоритма действительно не существует, но побочным результатом его работы явилась математическая модель универсальной вычислительной машины[27]27
  Лучшее объяснение содержится в книге ученого-логика Мартина Дэвиса The Universal Computer: The Road from Leibniz to Turing: «Тьюринг знал, что лучше всего задавать алгоритм в виде списка правил, которые человек мог бы исполнять механически, подобно рецепту в кулинарной книге. Он сумел показать, что список действий для такого человека может быть сведен к небольшому количеству исключительно простых операций без последствий для результата вычисления. Затем, доказав, что способная выполнять только эти элементарные операции машина могла бы определить, следует ли данное заключение из указанных предпосылок… он пришел к выводу, что алгоритма, удовлетворяющего условиямEntscheidungsproblem, не существует».


[Закрыть].

И это изменило все. Тьюринг понял, что программа и данные могут храниться внутри компьютера – для 1930-х годов это было радикальной идеей. До того все сходились на мысли, что машина, программа и данные – три независимые друг от друга сущности. Универсальная машина Тьюринга объясняла, почему они крепко связаны друг с другом. Если смотреть на вещи механически, логика управления схемами и переключателями тоже может быть закодирована в программе и данных. Подумайте на секунду о важности этих утверждений. Контейнер, программа и данные оказались объединены в рамках общей сущности подобно тому, как обстоит дело у людей. Мы тоже контейнеры (наши тела), программы (автономные функции клеток) и данные (наша ДНК в сочетании с прямой и косвенной информацией, поставляемой органами чувств).

В то же время давняя традиция конструирования автоматов, что началась с маленького монаха, умевшего ходить и молиться, наконец встретилась с работой Тьюринга и Шеннона. Американская промышленная компания Westinghouse построила робота, выполненного на базе электрических реле, для Всемирной выставки 1939 года. Робота звали Elektro the Moto-Man, «механический человек Электро». Он выглядел как гигантская человекоподобная фигура золотистого цвета и довольно грубой формы. Под ногами у него были колеса. Внутри находились 48 реле, используемых в телефонной коммутации.

Электро умел реагировать на команды, подаваемые ему голосом по телефонной трубке, воспроизводя заранее записанные ответы на встроенном проигрывателе. Он представлял собой антропоморфный компьютер, способный принимать элементарные решения – например, что сказать – без непосредственного участия человека в данный момент.

Из газетных заголовков, научно-фантастических рассказов и кинохроники того времени видно, что люди были застигнуты врасплох, потрясены и напуганы подобным развитием событий. Для них происходящее выглядело так, словно эра «мыслящих машин» во всей своей полноте наступила в один день. Фантаст Айзек Азимов опубликовал пророческий рассказ «Лжец» в выпуске журнала Astounding Science Fiction за май 1941 года. Рассказ был его реакцией на достижения науки, свидетелем которых он оказался, и в нем Азимов впервые сформулировал знаменитые Три закона робототехники[28]28
  На самом деле в рассказе «Лжец» сформулирован только Первый закон. Все три впервые появляются в рассказе «Хоровод». – Прим. пер.


[Закрыть].

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.

Позже Азимов добавил так называемый Нулевой закон.

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

В 1943 году ученые-психиатры Уоррен Маккалоу и Уолтер Питтс из Чикагского университета опубликовали важную статью «Логическое исчисление идей, присущих нервной деятельности», где описывалась система нового типа, моделирующая живые нейроны при помощи нейронной сети простой архитектуры. Если контейнеры, программы и данные крепко связаны между собой, как утверждал Тьюринг, и если люди представляют собой аналогичные элегантно сконструированные контейнеры, следовательно, можно построить мыслящую машину, если смоделировать часть человеческого тела, ответственную за мышление, – мозг. Они сформулировали современную вычислительную теорию разума и мозга, «нейронную сеть». Вместо того чтобы сосредоточиться на идеях аппаратного и программного обеспечения, они предложили систему нового типа, способную перерабатывать огромные объемы данных, в точности как это делаем мы. Мощности компьютеров еще не хватало, чтобы проверить их теорию, но статья вдохновила других, начавших работу над разумными компьютерными системами.

Связь между разумными компьютерными системами и автономным принятием решений прояснилась благодаря публикации обширного трактата по прикладной математике, вышедшего из-под пера Джона фон Неймана, американского полимата венгерского происхождения, специалиста в области кибернетики, физики и математики. В 1944 году Нейман в соавторстве с Оскаром Моргенштерном, экономистом из Принстонского университета, выпустил книгу объемом в 640 страниц, где подробнейшим образом рассказывалось, как теория игр объясняет основы любых экономических решений[29]29
  Русское издание: Дж. фон Нейман, О. Моргенштерн «Теория игр и экономическое поведение». М., Наука, 1970. – Прим. пер.


[Закрыть]. Именно благодаря этой работе фон Неймана пригласили сотрудничать с Вооруженными силами США, в то время занимавшимися разработкой электрической вычислительной машины нового типа, «Электронного числового интегратора и вычислителя», сокращенно ЭНИАК. Вначале инструкции, предназначенные для машины, реализовывались постоянными соединениями внутри нее, поэтому с каждой новой программой соединения во всей системе нужно было переделывать заново. Вдохновленный трудами Тьюринга, Маккалоу и Питтса, фон Нейман разработал новую систему хранения программ на самом компьютере. Тем самым совершился переход от первой эпохи развития вычислительной техники (табуляции) к новой – эпохе программируемых систем.

Сам Тьюринг к этому моменту работал над концепцией нейронной сети, составленной из компьютеров, каждый из которых был выполнен по архитектуре с хранимым программным кодом. London Times цитировала Тьюринга в 1949 году: «Я не вижу причин, почему она (машина) не могла бы войти в какую-либо сферу профессиональной деятельности, обычно занятую людьми, и постепенно начать конкурировать с ними на равных. Не думаю, что можно исключить даже написание сонетов, хотя здесь сравнение становится немного нечестным: ведь сонет, написанный машиной, скорее оценит по достоинству другая машина». Годом позже, в статье для философского журнала Mind, Тьюринг попытался ответить на вопросы, поставленные Гоббсом, Декартом, Юмом и Лейбницем. В ней он предложил тезис и тест: если когда-нибудь компьютер окажется способен отвечать на вопросы неотличимым от человека образом, он должен быть «мыслящим». Вы наверняка слышали об этой статье под другим названием: «Тест Тьюринга».

Статья начиналась со ставшего знаменитым вопроса, который с тех пор многократно задавали – и на который отвечали – столь многие философы, теологи, математики и ученые до него: «Могут ли машины мыслить?» Но Тьюринг, помнивший о многовековых спорах об уме и машине, отбрасывает этот вопрос как чересчур обший для осмысленной дискуссии. «Машина» и «мыслить» – слишком общие слова, оставляющие слишком много места для субъективной интерпретации (в конце концов, 400 лет люди писали книги и статьи, посвященные их значению).

Игра, по Тьюрингу, строилась на обмане, и компьютер «выигрывал», когда его оказывалось невозможно отличить от человека. Тест проводится следующим образом: имеются человек, машина и находящееся в отдельной комнате лицо, задающее вопросы. Цель игры для лица, задающего вопросы, заключается в том, чтобы понять, какие ответы даются человеком, а какие – машиной. Перед началом игры лицо, задающее вопросы, получает обозначения для своих собеседников, X и Y, но не знает, какая из них относится к компьютеру, и может только задавать вопросы типа: «Не мог бы X сообщить мне, играет ли он в шахматы?» В конце игры ему необходимо указать, кем был X и кем Y. Задачей второго человека является помочь лицу, задающему вопросы, определить машину, а задачей машины – обмануть задающего вопросы так, чтобы тот поверил, что она, машина, и есть второй человек. О самой игре Тьюринг писал: «Я полагаю, что приблизительно через пятьдесят лет станет возможным запрограммировать компьютеры с запоминающим устройством емкостью примерно[30]30
  В тексте отсутствует указание, в каких единицах выражается емкость запоминающего устройства. – Прим. пер.


[Закрыть] 10⁹ играть в имитационную игру так, что для среднего лица, задающего вопросы, шанс идентифицировать стороны правильно после пяти минут собеседования не превысит 70 %»[31]31
  Alan Turing, “Computing Machinery and Intelligence,” Mind 59, no. 236 (1950): 433–60.


[Закрыть].

Но Тьюринг был ученым и отдавал себе отчет в том, что его теорию невозможно доказать, – по крайней мере при его жизни. Как оказалось, проблема заключалась не в отсутствии эмпирических свидетельств, показывающих, что машины когда-нибудь обретут возможность мыслить, и даже не во времени жизни ученого – сам Тьюринг говорил, что провести его тест, скорее всего, окажется возможно только к концу двадцатого столетия. «Мы можем надеяться, что машины со временем станут конкурировать с людьми во всех чисто интеллектуальных сферах деятельности», – писал Тьюринг. Настоящая проблема заключалась в том, чтобы совершить рискованный шаг, поверив, что когда-нибудь машины смогут видеть, рассуждать и запоминать, и люди могут оказаться помехой на пути их прогресса. Его коллегам-исследователям тогда пришлось бы наблюдать способность к познанию, лишенную духовной природы, поверить в возможность существования разумных машин, которые, в отличие от людей, станут принимать решения бессознательно.

В 1955 году профессора Марвин Минский (математика и неврология), Джон Маккарти (математика), а также Клод Шеннон (математик и криптограф из Bell Labs) и Натаниэль Рочестер (специалист по информатике из IBM) предложили провести двухмесячный семинар, посвященный работам Тьюринга и перспективам машинного обучения. Их идея заключалась в следующем: если возможно описать каждое проявление умственной деятельности человека, то можно и научить машину имитировать ее[32]32
  “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, links to articles of historical interest, last modified April 3, 1996, http://www-formal.stanford.edu/jmc/history/ dartmouth/dartmouth.html.


[Закрыть]⁷. Но для этого потребовалась бы многочисленная группа экспертов в разных областях человеческой деятельности. Они полагали, что, собрав междисциплинарную группу исследователей и интенсивно работая без перерывов в течение целого лета, можно добиться существенного прогресса.

Состав группы имел решающее значение. В нее вошли первоклассные инженеры, социологи, психологи, математики, физики и специалисты по когнитивистике. Им предстояло ставить фундаментальные вопросы и отвечать на них: что значит «мыслить», как работает наш «разум» и как научить машины учиться таким же образом, каким это делают люди? Идея заключалась в том, что разноплановая группа продолжит совместную работу после завершения семинара, развивая эту новую область знания. Поскольку речь шла о междисциплинарном подходе к созданию мыслящих машин, для его обозначения понадобилось новое имя. Участники остановились на немного двусмысленном, но элегантном термине «искусственный интеллект».

Маккарти составил предварительный список из 47 экспертов, присутствие которых считал необходимым, чтобы завязать нужные связи между людьми и заложить основу для дальнейших исследований и работ по прототипированию. Составить список людей, без которых нельзя было обойтись, когда по-настоящему начнутся работы по концептуализации и конструированию ИИ, было очень сложно. В частности, Минскому не нравилось, что на встрече не будет двух ключевых фигур: Тьюринг умер за два года до того, а фон Нейман находился в терминальной стадии рака[33]33
  В своем предложении Маккарти, Минский, Рочестер и Шеннон привели такой список экспертов, которых намеревались пригласить в Дартмутский университет для работы над ИИ. Я воспроизвожу список так, как он был опубликован в 1955 году, с указанием компаний и адресов. Не все упомянутые в нем лица смогли принять приглашение.
  Адельсон, Марвин
  Hughes Aircraft Company
  Эрпорт-Стейшен, Лос-Анджелес, Калифорния
  Эшби, В. Р.
  Барнвуд-хаус
  Глостер, Англия
  Бэкус, Джон
  IBM Corporation
  Мэдисон-авеню, 590
  Нью-Йорк, штат Нью-Йорк
  Бернстайн, Алекс
  IBM Corporation
  Мэдисон-авеню, 590
  Нью-Йорк, штат Нью-Йорк
  Бигелоу, Дж. Х.
  Институт перспективных исследований
  Принстон, Нью-Джерси
  Элиас, Питер
  Научно-исследовательская лаборатория электроники
  Массачусетский технологический институт (МТИ)
  Кембридж, Массачусетс
  Дьюда, В. Л.
  Научно-исследовательская лаборатория IBM
  Покипси, штат Нью-Йорк
  Дэвис, Пол М.
  18-я улица, 1317 C.
  Лос-Анджелес, Калифорния
  Фэно Р. М.
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Фэрли, Б. Г.
  Парк-авеню, 324
  Арлингтон, Массачусетс
  Галантер, Э. Х.
  Пенсильванский университет
  Филадельфия, штат Пенсильвания
  Гелернтер, Герберт
  Научно-исследовательская лаборатория IBM
  Покипси, штат Нью-Йорк
  Гласхоу, Харви А.
  Оливия-стрит, 1102
  Энн-Арбор, Мичиган
  Гёрцаль, Герберт
  Западная 11-я улица, 330
  Нью-Йорк, штат Нью-Йорк
  Хагельбаргер, Д.
  Научно-исследовательская лаборатория Bell Telephone
  Мюррей-Хилл, Нью-Джерси
  Миллер Джордж А.
  Memorial Hall
  Гарвардский университет
  Кембридж, Массачусетс
  Хармон, Леон Д.
  Научно-исследовательская лаборатория Bell Telephone
  Мюррей-Хилл, Нью-Джерси
  Холланд, Джон Х.
  Научно-исследовательский институт окружающей среды
  Мичиганский университет
  Энн-Арбор, Мичиган
  Холт, Анатоль
  Рурал-лейн, 7358
  Филадельфия, штат Филадельфия
  Каутц, Уильям Х.
  Стэнфордский научно-исследовательский институт
  Менло-Парк, Калифорния
  Люс Р. Д.
  Западная 117-я улица, 427
  Нью-Йорк, штат Нью-Йорк
  Маккей, Дональд
  Физический факультет
  Лондонский университет
  Лондон, почтовый индекс «Западный Центральный 2 (WC2)», Англия
  Маккарти, Джон
  Дартмутский университет
  Хановер, Нью-Гэмпшир
  Маккулло, Уоррен С.
  Научно-исследовательская лаборатория электроники, МТИ
  Кембридж, Массачусетс
  Мелзак З. Э.
  Математический факультет
  Мичиганский университет
  Энн-Арбор, Мичиган
  Минский М. Л.
  Ньюбери-стрит, 112
  Бостон, Массачусетс
  Мор, Тренчард
  Факультет информационных технологий
  МТИ
  Кембридж, Массачусетс
  Нэш, Джон
  Институт перспективных исследований
  Принстон, Нью-Джерси
  Ньюэлл, Аллен
  Факультет промышленного управления
  Технологический институт Карнеги
  Питтсбург, Пенсильвания
  Робинсон, Абрахам
  Математический факультет
  Торонтский университет
  Торонто, Онтарио, Канада
  Рочестер, Натаниэль
  Научно-техническая исследовательская лаборатория
  IBM Corporation
  Покипси, штат Нью-Йорк
  Роджерс, Хартли, мл.
  Математический факультет
  МТИ
  Кембридж, Массачусетс
  Розенблит, Уолтер
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Ротштейн, Джером
  Ист-Берген-Плейс, 21
  Ред Бэнк, Нью-Джерси
  Сойр, Дэвид
  IBM Corporation
  Мэдисон-авеню, 590
  Нью-Йорк, штат Нью-Йорк
  Шорр-Кон, Дж. Дж.
  C-380 Lincoln Laboratory, MIT
  Lexington, MA
  Шэпли, Л.
  Rand Corporation
  Мэйн-стрит, 1700
  Санта-Моника, Калифорния
  Шутценбергер, М. П.
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Селфридж, О. Дж.
  Лаборатория Линкольна
  МТИ
  Лексингтон, Массачусетс
  Шэннон, К. Е.
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Шапиро, Норман
  Rand Corporation
  Мэйн-стрит, 1700
  Санта-Моника, Калифорния
  Саймон, Герберт А.
  Факультет промышленного управления
  Технологический институт Карнеги
  Питтсбург, Пенсильвания
  Соломонофф, Раймонд Дж.
  Technical Research Group
  Юнион-сквер запад, 17
  Нью-Йорк, штат Нью-Йорк
  Стил Дж. Э. капитан ВВС США
  Зона Б, почтовый ящик 8698
  База ВВС Райт-Паттерсон
  Огайо
  Уэбстер, Фредерик
  Кулидж-авеню, 62
  Кембридж, Массачусетс
  Мур Э. Ф.
  Научно-исследовательская лаборатория Bell Telephone
  Мюррей-Хилл, Нью-Джерси
  Кемени Джон Дж.
  Дартмутский университет
  Хановер, Нью-Гэмпшир


[Закрыть].

Тем не менее в своих стараниях собрать разностороннюю группу специалистов, чьи знания и навыки взаимно дополняли бы друг друга, организаторы упустили из виду несколько существенных аспектов. Все в списке были белыми – несмотря на то, что в областях знания, интересовавших Маккарти и Минского, работало множество первоклассных цветных специалистов. Все они работали или в технологических гигантах своего времени (IBM, Bell Labs), или в узком кругу избранных университетов. Множество одаренных женщин уже тогда вносили заметный вклад в инженерное дело, информатику, математику, физику – но им места в списке не нашлось[34]34
  Я составила очень краткий список женщин и цветных, которые могли бы внести большой вклад в работу семинара в Дартмутском университете, но были обойдены вниманием организаторов. Этот список ни в коем случае не исчерпывающий. Я могла бы продолжать в течение многих десятков страниц. Перед вами же – просто выборка способных, талантливых, творческих людей, оставшихся за границами списка. Джеймс Эндрюс, математик, профессор Университета штата Флорида, специализировавшийся на теории групп и теории узлов.
  • Джин Бартик, математик, одна из первых программистов компьютера ЭНИАК. Альберт Тернер Баруха-Рейд, математик и теоретик, внесший существенный вклад в теорию марковских цепей, теорию вероятностей и статистику.
  • Дэвид Блэкуэлл, статистик и математик, сделавший существенный вклад в теорию игр, теорию информации, теорию вероятностей и байесову статистику.
  • Мэми Фиппс Кларк, PhD и социальный психолог, чья исследовательская работа была посвящена самосознанию.
  • Тельма Эстрин, пионер использования компьютерных систем в нейрофизиологии и науке о мозге. Она была научным сотрудником департамента электроэнцефалографии Института неврологии при Пресвитерианской больнице в Нью-Йорке.
  • Эвелин Бойд Грэнвилл, PhD по математике, разработчик компьютерных программ анализа траектории, предназначенных для первых пилотируемых орбитальных и лунных космических полетов США.
  • Бетти Холбертон, математик и одна из первых программистов компьютера ЭНИАК. Изобрела точки остановки, применяемые в отладке компьютерных программ.
  • Грейс Хоппер, специалист по информатике и создатель языка Кобол, одного из первых языков программирования, применяемого и по сей день.
  • Мэри Джексон, инженер и математик, позже ставшая первой черной женщиной-инженером в НАСА.
  • Кэтлин Макналти, математик и одна из первых программистов компьютера ЭНИАК.
  • Мэрлин Мельцер, математик и одна из первых программистов компьютера ЭНИАК, первой программируемой вычислительной машины, выполненной полностью на электронной элементной базе.
  • Рожа Петер, математик и основатель теории рекурсивных функций.
  • Фрэнсис Спенс, математик и одна из первых программистов компьютера ЭНИАК.
  • Рут Тейтельбаум, математик и одна из первых программистов компьютера ЭНИАК. Совместно с Мэрлин Мельтцер разработала уравнения для расчета баллистической траектории.
  • Дороти Вон, математик и человек-«компьютер», в 1949 году исполнявшая обязанности директора West Area Computers.
  • Джесси Эрнст Уилкинс-мл., специалист по ядерной физике, инженер-механик и математик, ставшая самым молодым студентом Чикагского университета в возрасте 13 лет.


[Закрыть]. Среди приглашенных были только мужчины, за исключением жены Марвина Минского, Глории. Не отдавая себе отчета в своих предубеждениях, эти ученые, пытавшиеся понять, как устроен человеческий ум, как мы мыслим и как машины могли бы учиться у всего человечества, резко ограничили свою выборку теми, кто выглядел и говорил так же, как они.

В следующем году группа собралась на последнем этаже факультета математики Дартмутского колледжа. Среди тем ее работ были теория сложности, моделирование естественного языка, нейронные сети, связь случайности и творчества, а также самообучающиеся машины. По рабочим дням они собирались в главной аудитории факультета для общего обсуждения, после которого расходились, чтобы работать над частными задачами. Во время одного из таких общих собраний профессора Алан Ньюэлл, Герберт Саймон и Клифф Шоу предложили способ доказательства теорем логики и смоделировали процесс вручную. Свою программу они назвали Logic Theorist, «Ученый логик». Она оказалась первой программой, способной имитировать навыки решения задач, присущие человеку. (Впоследствии программа доказала 38 из 52 теорем из «Оснований математики» Альфреда Норта Уайтхеда и Бертрана Рассела, фундаментального учебника по началам математической науки.) Клод Шеннон, несколькими годами ранее учивший компьютеры играть в шахматы против людей, получил возможность показать прототип своей программы, работа над которой тогда еще продолжалась[35]35
  “The Dartmouth Workshop – as Planned and as It Happened,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, lecture “AI: Past and Future,” last modified October 30, 2006, http://www-formal.stanford.edu/jmc/slides/dartmouth/ dartmouth/node1.html.


[Закрыть].

Тем летом в Дартмуте расчетам Маккарти и Минского на фундаментальный прорыв в области ИИ не суждено было оправдаться. Чтобы превратить ИИ из теории в практику, им не хватило времени, не говоря уже о вычислительной мощности[36]36
  “The Dartmouth AI Archives,” RaySolomonoff.com, http://raysolomonoff. com/dartmouth/.


[Закрыть]. Тем не менее именно к этому моменту восходят три практики, образующие фундамент ИИ в известном нам сегодня виде:

– теоретическая и практическая разработка ИИ, его тестирование и совершенствование будут производиться крупными технологическими компаниями и академической наукой, работающими совместно; – совершенствование ИИ требует больших сумм денег, поэтому станет необходима коммерциализация этих работ в той или иной форме – будь то взаимодействие с государственными или военными органами через партнерства или разработка продуктов и систем, которые могут быть проданы;

– исследование и разработка ИИ будут опираться на сеть ученых, работающих на стыке дисциплин, что означает создание новой отрасли науки с нуля. Это также означает, что уже работающие в этой отрасли будут нанимать, как правило, знакомых им людей, обеспечивая относительную однородность сети и ограничивая выборку.

Тем летом произошло другое интересное событие. Работая над вопросом Тьюринга, могут ли машины мыслить, группа разделилась из-за подходов к ответу на него, а именно построению самообучающейся машины. Некоторые участники предпочитали биологический метод. Иными словами, они считали, что при помощи нейронных сетей можно придать ИИ здравый смысл и способность рассуждать логически – и таким образом машины могут стать разумными. Другие возражали, что построить настолько полную копию мыслительного аппарата человека невозможно никогда. Вместо этого они предлагали инженерный подход. Вместо того чтобы подавать машине команды, приводящие к решению задачи, программа могла бы помочь системе «обучиться» на наборе данных. Система делала бы предсказания, основываясь на этих данных, а контролирующий ее человек проверял бы ответы, тренируя и настраивая ее в процессе работы. Таким образом определяется «машинное обучение» в узком смысле, то есть обучение решению изолированной задачи, например игре в шашки.

Психолог Фрэнк Розенблатт, участвовавший в семинаре в Дартмутском колледже, хотел смоделировать обработку визуальной информации в человеческом мозгу и в итоге научить машину распознавать предметы. Он рассчитывал создать простую рамочную программу, восприимчивую к обратной связи. Опираясь на результаты летних исследований, Розенблатт создал систему, которую назвал Perceptron. Это была первая искусственная нейронная сеть (ANN), работавшая по принципу создания связей между многочисленными элементами, обрабатывающими информацию и расположенными послойно. Каждый механический нейрон принимал на входе множество различных сигналов и затем обрабатывал их математически с учетом весов, чтобы определить, какой сигнал генерировать на выходе. Такая параллельная структура позволяла осуществлять доступ ко множеству обрабатывающих элементов одновременно, а это означало, что она не только была быстрой, но и могла непрерывно обрабатывать большой объем данных.