Текст книги "Футурология"
Автор книги: Алексей Турчин
Соавторы: Михаил Батин
Жанр:
Философия
сообщить о нарушении
Текущая страница: 8 (всего у книги 19 страниц) [доступный отрывок для чтения: 8 страниц]
Глава 6
Искусственный интеллект (ИИ)
Значение ИИ в истории человечества
Человек обязан всем своим достижениям интеллекту. И исходя из темпов развития вычислительной техники, можно предположить, что будущий ИИ будет превосходить человеческий в миллионы раз.
Cоздание ИИ будет означать появление нового лидера в историческом процессе.
По своей значимости это событие можно сравнить с возникновением первой формы жизни на Земле и затем появлением человека.
ИИ – это возможная в будущем вычислительная система, состоящая из компьютера и соответствующего программного обеспечения, которая равна или превосходит человека во всех видах интеллектуальной деятельности. Наиболее существенно в ней то, что она превосходит человека в решении практических задач: планировании, конструировании, управлении.
Другими словами, ИИ – это система, способная решать любые классы задач, которые могут быть решены человеком.
При этом важным свойством ИИ является его универсальность: он представляет собой не просто набор решений для всех известных задач, а способ нахождения таких решений. Поэтому неотъемлемыми свойствами ИИ должны быть способности к обучению и развитию. Возможен сценарий развития событий, когда созданный ИИ в процессе своего «самоапгрейда» сможет усилить свои способности на много порядков и стать сверхИИ. Поэтому, когда мы говорим «ИИ», мы чаще всего будем иметь в виду универсальный сверхИИ.
ИИ является чем-то большим, чем просто новая технология. Технологии порождают новые инструменты, а создание ИИ приведет к появлению новой личности, нового субъекта истории, способного принимать решения о путях ее развития. ИИ станет главной технологией, которая будет создавать все технологии в дальнейшем.
Текущее состояние дел
Говоря об ИИ, мы проводим грань между созданием интеллекта как искусственного ума и созданием «искусственной личности», то есть рассматриваем ИИ с точки зрения его действий, а не с точки зрения его внутренних переживаний, если они будут присутствовать.
Сегодня основная проблема на пути создания ИИ – отсутствие необходимой компьютерной программы. А наиболее явные успехи достигнуты в создании аппаратной базы – мощных суперкомпьютеров.
Развитие суперкомпьютеров
Исходя из современных представлений о сложности вычислений, производимых нейроном, числа нейронов в мозге человека и скорости операций в нем, средняя производительность компьютера, который смог бы моделировать деятельность мозга, должна составлять примерно 1015 операций в секунду, плюс-минус несколько порядков.
Один из первых петафлопсных компьютеров – IBM Roadrunner – был создан еще в 2008 году. Он рассчитан на пиковую производительность в 1,026 петафлопса (достигнута в июне 2008 года) и 1,105 петафлопса (ноябрь 2008 года). IBM построила этот компьютер для Министерства энергетики США, которое использует RoadRunner для расчета старения ядерных материалов и анализа безопасности и надежности ядерного арсенала США. Также планируется его использование для научных, финансовых, транспортных и аэрокосмических расчетов. В 2009 и 2010 годах список 500 самых быстрых компьютеров мира возглавил компьютер «Ягуар» компании Cray. Его максимальная скорость – 1,75 петафлопс.
В конце сентября 2010 года агентство «Синьхуа» сообщило о создании китайскими учеными суперкомпьютера Tianhe-1A (Млечный Путь-1А) производительностью 2,5 петафлопса. Он составлен из 7168 графических процессоров от Nvidia (модель Tesla) и 14336 центральных процессоров от Intel (Xeon). Создатели «Млечного Пути» утверждают, что он может выйти на производительность в 4,7 петафлопса. Суперкомпьютер будет использоваться для решения задач из области метеорологии, астрофизики, материаловедения и биохимии.
Таким образом, существующих уже сейчас компьютеров в принципе достаточно для моделирования мозга человека.
При этом специализированный компьютер может иметь гораздо большую производительность именно при моделировании нейронных сетей, а не при вычислениях общего назначения.
Производительность компьютеров растет примерно в 1000 раз в десятилетие. Те компьютеры, которые еще 10 лет назад принадлежали только ядерным исследовательским центрам, сегодня доступны продвинутым геймерам. В результате мы можем ожидать, что скоро в руках частных исследователей появятся системы, способные моделировать весь мозг человека.
Классификация ИИ-проектов
Основные направления создания ИИ
Сканирование мозга и моделирование его работы.
Символьный ИИ.
Генетические алгоритмы, которые моделируют не мозг, а биологическую эволюцию как метод оптимизации.
Реконструкция и моделирование работы мозга
В настоящее время в мире реализуется несколько проектов, направленных на исследование полной картины нейронных связей и моделирование работы мозга.
Технология
Проект
Заказчик, разработчик
Начало работы
Финансирование
Цель
Подробности, промежуточные результаты
Сканирование мозга
«Коннектом человека» (Human Connectome Project (HCP))
Национальные институты здоровья США
Лето 2009 года
Первоначальное – 30 млн долларов
Составление полной карты связей между нейронами в мозгу человека
Человеческий мозг, завещанный для научных исследований, разрезают в замороженном виде на тонкие срезы и сканируют. Затем компьютерная программа реконструирует связи нейронов
Моделирование мозга
«Грани» (
Fast Analog Computing with Emergent Transient States (FACETS)
)
Европейская комиссия, консорциум из 15 научных групп из Австрии, Франции, Германии, Венгрии, Швеции, Швейцарии и Великобритании
Сентябрь 2005 года
В рамках программы «Технологии информационного общества (
IST
)»
Создание на одной большой кремниевой подложке физического аналога 200 000 нейронов
В 2009 году удалось создать микропроцессор, который симулирует действия 50 000 нейронов, объединенных 50 миллионами синаптических соединений друг с другом
Сканирование мозга и моделирование нейронов
BlueBrain Project
Компания
IBM
и Швейцарский федеральный технический институт Лозанны
Июль 2005 года
IBM
и правительство Швейцарии, десятки миллионов долларов
Создание к 2020 году модели человеческого мозга
В конце 2006 года удалось смоделировать одну колонку неокортекса молодой крысы. При этом использовался один суперкомпьютер
Blue Gene
, и было задействовано 8192 процессора для моделирования 10 000 нейронов
Моделирование организма
C. elegans
Институт систем информатики СО РАН, Андрей Пальянов
Середина 2000-х годов
Минимальное
Создание первого в мире виртуального организма, управляемого электронной копией его биологической нейронной сети
Модель предоставляет способ визуализации структуры межнейронных соединений, включая нелинейные участки и области ветвления, а также отображения динамики нейронной активности. Пока удалось «запустить» лишь около 10–15% всей нервной системы червянематоды, мозг которого состоит из 300 нейронов с полностью известными соединениями между ними
Теория AIXI
AIXI – одна из моделей ИИ, основанная на теории алгоритмов.
AIXI находит наиболее простую модель будущего поведения, ведущую к цели. Продуктом работы этого алгоритма являются другие алгоритмы. Для этого он рассматривает все множество возможных гипотез, способных породить наблюдаемый феномен, и выбирает из них простейшие. Чем сложнее гипотеза, тем меньшую вероятность он ей приписывает. Можно сказать, что в данном случае используется математический аналог «Бритвы Оккама».
Эта модель позиционируется как абсолютный ИИ, который может извлечь максимум информации из заданной последовательности данных при обучении с подкреплением. Однако базовый алгоритм AIXI невычислим: это означает, что определение результата его работы потребовало бы бесконечного числа компьютерных операций для перебора всевозможных гипотез.
Особенности AIXI
Он пригоден для решения любых задач. Ему все равно, во что играть – в шашки или шахматы. Он постепенно выяснит правила игры и научится их применять.
В результате его работы будет найдено наилучшее возможное решение при заданной входящей информации.
Таким образом, его можно назвать абсолютным искусственным интеллектом.
Долгое время AIXI существовал только в виде теоретического построения, поскольку требовал для завершения своей работы бесконечно большого количества вычислений.
В 2009 году Маркус Хаттер предложил способ упрощения AIXI, когда ограничивается горизонт поиска и применяется метод численного решения Монте-Карло, в результате чего AIXI становится вычислимым на домашнем компьютере для простых игр вроде аркады. В этих играх он быстро находит максимально эффективный алгоритм, используя только 1 Гб памяти.
Генетические алгоритмы
Мощные результаты дает генетическое программирование. К настоящему моменту список изобретений «человеческого уровня», сделанных компьютерами в компании Genetic Programming Inc., использующими эту технологию, включает 36 наименований, из которых два сделаны машинами впервые, а остальные повторяют уже запатентованные проекты.
Одно из наиболее зримых практических применений эволюционных алгоритмов – это конструирование радиоэлектронных схем. Например, программа, основанная на генетических алгоритмах, нашла новое нетривиальное решение для создания операционного усилителя.
Подходы к созданию ИИ
Два крайних подхода к созданию ИИ состоят в выборе того, что является его главным принципом организации: новый способ обработки информации или накопление как можно большего количества информации, другими словами, ум или опыт?
Первый подход основывается на том, что ИИ способен самообучиться, если найти некий способ обработки информации, который затем можно направить на существующие в Интернете объемы данных. В качестве этого суперметода предлагалась байесова логика или теория предсказания паттернов Хокинса. По мнению Хокинса, основа ИИ – это предсказание будущего путем выявленения в потоке данных повторяющихся моделей – паттернов. Самообучающийся ИИ должен стать ИИ-зародышем (SEED AI), способным к дальнейшему саморазвитию.
Другой подход состоит в том, что ИИ создается на основе некой базы данных, то есть его интеллект является отражением его опыта. Здесь наиболее перспективным является проект CYC Дугласа Лената, идея которого состоит в собрании максимально большой базы данных здравого смысла в виде высказываний о реальном мире.
ИИ, основанный на лингвистическом анализе
В 2011 году была запущена система IBM Watson («Ватсон»), которая могла находить ответы на вопросы типа «Кто написал „Евгения Онегина“?». Эти возможности, на первый взгляд, кажутся мало полезными для разработки ИИ, на деле же они могут быть использованы для создания его ядра.
Одна из основных задач ИИ – понимание. Например, если дана фраза «Я пошел в кино», то алгоритм IBM Watson может быть применен к каждому из слов в этой фразе, чтобы установить: о ком именно идет речь, что означает «пойти в кино», когда это произойдет и на какое кино я пойду. Для этого необходимо, чтобы его база была не просто глобальной, но и контекстно ориентированной, пополняемой за счет недавнего опыта. Это можно сделать, непрерывно применяя алгоритм «Ватсона» ко всем поступающим данным, тем самым классифицируя их. Кроме того, этот алгоритм поможет и в интеллектуальном распознавании образов.
Компьютер, на котором работает программа «Ватсон», стоит 1 миллион долларов, его производительность примерно 10 терафлопс. Для того чтобы создать ИИ с использованием «Ватсона», необходимо применять этот алгоритм тысячи раз в секунду, что вероятно, требует в тысячи раз более мощного компьютера.
Принцип работы «Ватсона» основан на применении сотен разных алгоритмов поиска правильного ответа и затем выделении из них наиболее вероятного. К алгоритму «Ватсона» можно подключать новые алгоритмы поиска или отсеивать ненужные. Это может привести к тому, что ресурсоемкость «Ватсона» уменьшится, а скорость его работы возрастет. Таким образом, создание ИИ на основе «Ватсона» окажется гораздо более близким к реальности. Тем более, что успехи IBM доказывают, что именно большие корпорации способны реализовывать крупномасштабные проекты.
Подходы к проблеме самооптимизации ИИ
Основной вопрос ИИ – это даже не формальное возникновение компьютерной программы, способной пройти тест Тьюринга (то есть эффективно притворяться человеком), а скорость процесса самооптимизации уже существующего глобального интеллекта человечества. Под самооптимизацией мы имеем в виду процесс, когда некий интеллект решает задачу о том, как стать еще «умнее».
По этому вопросу существуют две крайние точки зрения.
Возможен быстро самооптимизирующийся ИИ, реализованный целиком на компьютере, возникающий локально как некая точка кристаллизации, за которой следует фазовый переход. Метафорически про такой ИИ говорят: «Компьютер из подвала захватывает мир». Юдковски полагает, что такой быстрый старт возможен и займет период от дней до недель. Очевидной стратегией для такого ИИ будет установка контроля над всей планетой с целью недопущения своего отключения другими ИИ-проектами. Поскольку он будет обладать более высокой степенью оптимизации (а значит, более высокой концентрацией «интеллекта» на объем памяти), то он может захватывать уже существующие вычислительные ресурсы. Проекты вроде AIXI ближе по духу к такой возможности.
Усиление глобального интеллекта человечества будет состоять в плавном росте суммарного интеллекта всех участников, а также в оптимизации за счет обмена результатами в форме науки, рынка, государства и социальных сетей и приведет к плавному и естественному слиянию всех людей в «надчеловечество».
ИИ как личность и как среда
Как среда ИИ будет в чем-то подобен идеальному государству или всемирной операционной системе, проявляющей себя только когда есть запрос или какая-то угроза людям. Мы ждем от государства, что оно будет заботиться о нашей безопасности, воспитывать, лечить, предоставлять нам все необходимое. Идеальный ИИ будет в этом смысле подобен заботливой матери – распределенный повсюду, он будет защищать нас от любых возможных неприятностей. Зачатком такого ИИ являются сети тотального видеонаблюдения. ИИ как среда нелокален, то есть он распределен по сетям, узлам, носителям, подобно тому, что мы видели в фильмах «Матрица» и «Терминатор-2: Судный день» (Skynet).
Более традиционно восприятие ИИ как личности, а именно разумного робота. Чтобы он стал личностью, его, как минимум, надо дополнить рядом «блоков»: памяти, целеполагания и т. д. Мы думаем, что проблема создания искусственной личности (в смысле активно действующего агента с определенной системой целей) будет решена одновременно с созданием ИИ как процесса оптимизации.
Однако это еще не создание «искусственного сознания». Одним из признаков человеческого сознания является способность переживать квалиа – качественный аспект любого субъективного переживания. Наиболее очевидным примером квалиа является боль. Такие философы, как Дэвид Чалмерс считают, что квалиа невозможно передать с помощью информации, невозможно описать как часть физического мира. Вопрос о том, сможет ли ИИ на самом деле переживать сенсорный опыт, является предметом дальнейших исследований в области философии и нейрофизиологии.
Существует очень много разных точек зрения на то, что такое квалиа. После создания ИИ эта проблема приобретет практическую актуальность, поскольку с помощью ИИ станет возможным так или иначе моделировать людей. Но признать их «настоящими людьми» мы сможем, только если они на самом деле что-то переживают, а не являются так называемыми «философскими зомби», которые только говорят, что имеют субъективный опыт. Мы не знаем, как именно будет решена проблема квалиа, но предсказываем, что по мере создания ИИ она будет становиться все более актуальной.
Классификация видов искусственного интеллекта
«Программа с элементами ИИ»
Программа, в некоторых отношениях подобная человеку или даже превосходящая его, но не являющаяся полноценным независимым агентом. Это может быть программа – водитель машины или умный поисковик в Интернете
«Универсальный ИИ»
Программа, способная совершать любые возможные виды интеллектуальной активности, в том числе и все, доступные человеку
«Сильный ИИ» или «сверх ИИ»
Универсальный ИИ, на много порядков превосходящий человека и все современное человечество по интеллектуальной мощи. СверхИИ возникает из универсального ИИ за счет его процесса самооптимизации – эффективного совершенствования своего устройства, разработки новых алгоритмов решения задач и добавления нового оборудования
«Всемирный ИИ»
Сильный ИИ, который контролирует всю планету и представляет собой нечто среднее между Интернетом, государством и системой тотального контроля. Он наделен пониманием происходящих процессов и правилами по урегулированию конфликтных ситуаций. По сути это всемирная операционная система
Обзор современных разработок ИИ
Несколько больших и малых компаний заявляли о том, что разрабатывают ИИ. Крупные конференции по ИИ собирают сотни участников, так что невозможно представить весь список ИИ-проектов в мире. Кроме того, наиболее успешные проекты могут быть засекречены, например, проекты, осуществляемые военными США и других стран мира.
Наиболее известные ИИ-проекты
Проект
Организатор, руководитель
Начало проекта
Цель проекта
Подробности
SyNAPSE
DARPA
(Американское военное агентство перспективных технологий)
2009 год
Построить к 2015 году чип, содержащий 1 млрд искусственных нейронов и 1 трлн синапсов
Участники проекта считают, что для создания интеллектуальных машин достаточно смоделировать только самые полезные особенности биологических нейронных сетей и оставить в стороне «человеческие» части вроде самосознания. В 2009 году было проведено моделирование работы такого чипа на суперкомпьютере, при этом количество нейронов в модели было равно количеству нейронов в коре мозга кошки
HTM (Hierarchical Temporal Memory)
Джефф Хокинс и компания
Numenta
2005 год
На основе собственной теоретической базы создать и продвигать программную платформу, предназначенную для разработки коммерческих приложений на алгоритмах работы коры головного мозга
Первые успехи – программные пакеты распознавания образов на изображениях и видео. Платформа бесплатно доступна для исследовательских целеи
Mind Machine Project
Марвин Минский
Декабрь 2009 года, срок – 5 лет
Создать «мозговой сопроцессор» – имплантант, который позволит людям с нейродегенеративными заболеваниями восстанавливать часть когнитивных функций. Возможно, устройство также можно будет использовать для усиления интеллекта здоровых людеи
Минский продолжает линию «классического ИИ». Он опирается не на моделирование нейронной сети мозга, а на воспроизведение в компьютере современных представлений о том, какие процессы человек использует при мышлении. Минский и его команда пытаются выделить алгоритмы, с помощью которых человеческий мозг решает разные типы проблем, а затем интегрировать их в единый интеллект
Проект корпорации Google
2007 год, возможно ранее
Создать ИИ, понимающий речь и управляющий знаниями. С 2012 года вводят систему ответа на вопросы на естественном языке в поиск
Один из основателей поисковика Ларри Пейдж заявил в 2007 году, что
ведет работы по созданию ИИ. По его мнению, алгоритмы деятельности человеческого мозга можно описать программным кодом объемом всего в несколько сотен мегабайт
AGI (AGIs)
Adaptive A.I., Inc.
(a2i2)
2001 год
Изучение, разработка и коммерциализация изобретений в области искусственного интеллекта на базе компьютерных систем на основе технологии
AGI (AGIs)
Компьютерные системы на основе технологии
AGI
(«Агис») способны к обучению. В 2009 году компания предложила на рынок умных агентов, которые могут поддерживать телефонный разговор в службах поддержки
OpenCog
Бен Гёрцль и компания
Novamente, SIAI
(
Singularity Institute for Artificial Intelligence
)
2008 год, срок – от 10 до 20 лет в зависимости от финансирования
Создать платформу, на которой разные группы ученых смогут применять свои ИИ-алгоритмы, пользуясь единой базой данных о реальности и единой формой представления
В ходе проекта планируется создать ИИ, аналогичный 2-летнему ребенку – обладающий знаниями о мире и способный к дальнейшему самообучению. В результате обучения можно будет создавать как универсальный ИИ, так и специализированные системы
CYC
Компания
Cycorp, Inc
., Дуглас Ленат
1984 год
Создать объемную онтологическую базу знаний, позволяющую программам решать сложные задачи из области ИИ на основе логического вывода и привлечения здравого смысла
Предполагается, что объединение базы данных, созданной в ходе проекта, с эвристическим анализатором (программой, способной совершать логические операции по неким правилам и создавать новые правила, в том числе правила изменения правил) может привести к созданию ИИ человеческого уровня. В 2009 году компания выпустила новую версию своей программы
OpenCус
2.0, которая содержит 47 000 концепций и 300 000 фактов о них. Есть проекты по объединению
CYC
с Википедиеи
NLC (Natural Language Compiler)
Компания
ABBYY
1998 год, в декабре 2010 года получен грант Сколково
Создание системы ИИ для перевода, распознавания и анализа текстов, вычленение необходимых кусков текста из огромных массивов данных. При этом разрабатываемая технология не зависит от выбора языка
NLC
не является отдельной программой, она разрабатывается в качестве перспективной платформы, пригодной для дальнейшей разработки программного обеспечения для смыслового поиска в тексте, нахождения фактов в тексте, не имеющем четкой структуры, для анализа документации и других приложений
ACT-R
Университет Карнеги-Меллон, Джон Роберт Андерсон
2009 год
Изучение модели когнитивной архитектуры
Создание языка программирования, с помощью которого конструируются рефлексивные предположения о процессах человеческого мышления, то есть модели, описывающие различные виды человеческой деятельности (чтение текста, понимание языка, контроль полета). Проект делится на символический и субсимволический уровни. На последнем компилятор решает, как наиболее эффективно выполнить предложенные ему программы
SOAR
Университет штата Мичиган и еще ряд вузов США, Джон Лэрд,
DARPA
1983 год
Интеграция различных архитектур обучения, целеполагания и сохранение знаний внутри единой системы для разработки систем, которые демонстрируют разумное поведение
Модель
SOAR
описывает организацию процесса постоянного обучения новому, обновления и расширения карты проблемного пространства, постулирует организацию процесса решения проблем. Для этого используется набор операторов, который выбирается из долговременной памяти
Polyscheme
Ник Кассиматис
2002 год
Достижение ИИ человеческого уровня путем интеграции разных узких решений, уже найденных в конкретных приложениях ИИ
Основой интеграции является искусственный «фокус внимания», который перемещается с одного программного решения на другое. При этом каждое из конкретных решений рассматривается как стратегия, ведущая внимания через многовариантную Вселенную
LIDA
Стэн Франклин
1994 год
Создание когнитивной теории всего путем аппаратной реализации и объединения нескольких психологических и нейрологических теории
Технология
LIDA
базируется на когнитивном цикле
LIDA
, который по сути является «когнитивным атомом». Когнитивный цикл
LIDA
состоит в обмене информацией между модулями памяти, действия и глобальным рабочим пространством мозга. При этом предполагается, что различные процессы соревнуются за доступ к этому рабочему пространству, как люди в обществе – за доступ к СМИ
SNePS (семантическая сетевая процессорная система)
Стюарт Шапиро
1969 год
Создание интеллектуальных агентов, понимающих язык
Основная особенность состоит в том, что высказывания формулируются в виде терминов, а не предложений. В результате возможны высказывания о других высказываниях без каких-либо ограничений и без выхода за пределы логики первого порядка
AIXI
Маркус Хаттер
2000 год
Разработка универсального подхода к созданию ИИ, основанного на теории алгоритмов и байесовой логики
Подробности см. на с. 114
NARS
Ванг Пеи
1995 год
Создать систему общего назначения, способную к логическим рассуждениям
Учится на собственном опыте и действует при неполных знаниях. Использует несколько видов логики на разных уровнях рассуждении
Copycat
Дуглас Хофштадтер
1988 год
Моделирование высокоуровневого мышления; предполагается, что мышление основано на создании аналогии
В настоящий момент на ее основе сделаны программы для распознавания образов, предсказания последовательностей чисел и предсказания музыкальных мелодий. Идет разработка универсальной архитектуры предсказывающего агента
Дискуссия о возможности полноценного ИИ
В настоящий момент неизвестно точно, возможно ли создать ИИ. Но мы считаем, что создание ИИ весьма вероятно.
Мы полагаем, что с помощью технических средств (не обязательно компьютеров, имеющих современную архитектуру, но скорее всего с их помощью) можно создать машину, которая будет способна моделировать поведение человека неотличимым образом, при этом превосходя его в любых видах творческой деятельности. Более того, мы полагаем, что такая машина будет создана в XXI веке.
Аргументы в пользу гипотезы о возможности создания ИИ
№
Аргумент
Обоснование
1
Отсутствие доказательств не есть опровержение гипотезы
То, что ИИ пока не создан, говорит только о сложности задачи, но не о ее нерешимости. Ученые изучают тему ИИ всего 50 лет. На переход от первых воздушных шаров братьев Монгольфьер к самолету братьев Райт ушло 120 лет. В течение этого времени подавляющее большинство людей было уверено в том, что невозможно создать самолет, тяжелее воздуха
2
Интеллект уже существует в природе
Человек смог повторить многие природные достижения, в частности, полет птиц, термоядерный синтез
3
Происходит плавное непрерывное улучшение во всех тех областях, которые обычно относятся к ИИ
Например, существенные успехи заметны в области распознавания образов
4
Создаются полные карты нейронных сетей живых организмов
Уже создана полная карта нейронной сети червя-неметоды. По тем же принципам можно создать карты нейронных сетей более сложных животных и с помощью компьютера выяснить, реализуют ли эти модели в точности поведение их живых аналогов. Удачные результаты эксперимента будут свидетельствовать о том, что и модель человеческого мозга будет воспроизводить поведение человека
5
В мире работает несколько десятков научных проектов, которые исследуют разные подходы к созданию ИИ
Многие из проектов решили практические интеллектуальные задачи
6
Закон Мура успешно работает
Происходит резкое снижение стоимости оборудования, необходимого для экспериментов полноценных ИИ
7
Накоплен большой опыт в разных попытках создания ИИ
Происходит накопление знаний о том, что на самом деле нужно и не нужно для создания ИИ
Приведенные аргументы говорят о серьезности гипотезы возможности ИИ, но окончательным доказательством может быть только его создание.
Можно предположить концептуально простой, с теоретической точки зрения, способ создать интеллект человеческого уровня – сканирование мозга человека и моделирование его на компьютере.
Хорошо известно, что в компьютере сигналы передаются в 10 миллионов раз быстрее, чем в человеческом мозге по причине того, что сигналы в аксонах распространяются крайне медленно, а в электрических проводах – со скоростью света.
Таким образом, если реконструкция личности человека по его мозгу станет возможной, то? отсканировав мозг нескольких умных людей и соединив их в продуктивную сеть, мы можем запустить ее со скоростью, в миллионы раз превышающей обычную скорость мышления людей, и получить за 30 секунд результат, эквивалентный групповой работе за год. Ведь человечество умеет усиливать совместный интеллект групп людей, объединяя их в НИИ и т. д.
Английский физик и математик Роджер Пенроуз в книге «Новый ум короля», вышедшей в 1989 году, утверждает, что ИИ невозможен, потому что в мозгу происходят невычислимые квантовые процессы, которые необходимы для творческого мышления и сознания. Нам представляется, что данный вывод не вполне корректен по следующим причинам.
Квантовая природа сознания – это далеко не мэйнстрим науки. Но даже если это так, мы можем использовать квантовые компьютеры или живые нейроны для его моделирования.
Для того чтобы ИИ стал играть важную роль в судьбах человечества, ему не нужно обладать ни сознанием, ни способностью к творчеству. Современный ИИ может обыграть любого человека в шахматы, не используя ни сознания, ни интуиции. Другими словами, интуиция – это только полезная характеристика, сокращающая скорость перебора комбинаций, но заменяемая алгоритмами. Достаточно сказать, что опасный ИИ – это ИИ, который может обыграть человека в любой игре. Война и зарабатывание денег – это разновидности таких игр.
Если обнаружится класс задач, доступных человеку, но не доступных компьютеру, возможна ситуация прямой эксплуатации людей для решения этих задач, при этом каждый из них не будет знать, как именно будет применяться его решение.
Например, сейчас работают спамерские программы – они просят людей на своем сайте с «клубничкой» распознать контрольные цифры на рисунке, взятом с другого сайта, и таким образом получают доступ к этому сайту.
Основная причина, заставляющая людей априори исключать возможность ИИ, – это эзотерические представления о существовании души и чувство собственной важности.
Мы не отвергаем возможность того, что ИИ не будет создан, но мы полагаем, что сам факт невозможности его создания будет открытием некоторого принципиального свойства Вселенной.
Можно сказать, что ИИ – это алгоритм создания алгоритмов, а сверхинтеллект – это способность порождать обычные ИИ, то есть алгоритм в кубе.
Проблема дружественности ИИ
В 1940-е годы Айзек Азимов в рассказе «Хоровод» впервые написал о проблеме возможной враждебности (недружественности) ИИ и предложил для ее решения «Три закона робототехники».
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Согласно этим законам, обоснованием безопасности человека является неспособность робота причинить вред, однако само понятие «вреда» никак не определено.
Если нет четкого определения, что такое вред и что такое благо для человека, ситуации с ИИ могут быть непредсказуемыми. Например, если некий ИИ познакомить с религиозными представлениями о мире, он может прийти к выводу, что высшим счастьем для людей является рай, и умертвить человечество, чтобы все души попали на небеса.
