Текст книги "Алгоритмы разума"

Автор книги: Николай Амосов

сообщить о нарушении

Текущая страница: 15 (всего у книги 17 страниц)

Общество искусственных интеллектов

Никак не обойтись без этой главы, выглядящей еще более фантастично и несолидно для научной книги. Речь пойдет об обществе (или поскромнее – коллективе) ИИ. Не нужно удивляться: это перспектива не безнадежно далекая – в пределах жизни молодых (40—50 лет).

Первая возможность – взаимодействие ИИ, созданных для помощи людям. Вторая – колонии роботов-интеллектов на планетах. Наверное, это будет проще, чем заселять их людьми,– очень уж хрупка наша живая плоть.

Зададим сначала вопрос: в чем будет «смысл жизни» искусственных интеллектов.

А в чем смысл жизни людей.

Нет, я отнюдь не собираюсь философствовать. Модельное представление об интеллекте ставит вопрос совсем в другой плоскости. Жизнь отдельного человека – это деятельность, поведение, поступки, в том числе и речевые. Это иерархия и сеть ФА, направленных на удовлетворение биологических потребностей, измененных общественным воспитанием, социальных потребностей – убеждений, целиком привитых обществом. Такая деятельность имеет эгоистическую направленность, в лучшем случае – на собственное потомство и непосредственное окружение. Деятельность индивидуума, личности, живущей по убеждениям, является проявлением жизни общества, так же как деятельность клетки хотя и самостоятельна, но целиком зависит от целого организма и служит его функциям. Чем больше прогрессирует человечество, тем дальше в будущее нацеливается жизнь общества, тем шире становится круг связей государств и людей. Таким образом, и деятельность каждого человека – его ФА – все более утрачивает эгоистическую направленность, и смысл его жизни (хотя и не осознаваемый) смещается к служению обществу, как высшей системе.

Относительно недавно для большинства людей главным объектом приложения их деятельности была природа. Жизнь состояла из непосредственного добывания пищи и защиты от врагов – холода, зверей. Правда, люди уже давно объединились для борьбы с природой, но общение между ними играло подсобную роль. Теперь все изменилось совершенно. Главным объектом деятельности большинства людей в высокоразвитых странах являются сами люди и созданная ими техника. Непосредственно с природой общается только несколько процентов населения, но и те – чаще при помощи техники, чем прибегая к собственной мышечной силе. Содержанием жизни большинства стали общественные отношения. Если самый глубокий смысл жизни – в его модельном выражении – остался таким же: стремление к максимуму уровня душевного комфорта, то компоненты, его составляющие, стали иными. Подавляющая часть потребностей теперь удовлетворяется через отношения людей. Мы даже мыслим больше словами, чем образами.

Все это я говорю для того, чтобы подойти к смыслу жизни искусственных интеллектов как членов общества. Пока они будут вкраплены в человеческое общество, они будут жить смыслом человеческой жизни. Представьте себе общество бесполых людей – это совсем не так трудно вообразить. Людям было бы достаточно занятий, развлечений и удовольствий и за пределами инстинкта размножения. По условиям возрастным и социальным многие живут такой «бесполой» жизнью. Так же, теми же стимулами будут жить среди нас искусственные интеллекты. Будут ли они счастливее нас, людей, зависит от того, как их спроектировать. Уже говорилось о том, что есть некоторые непреложные законы деятельности интеллекта, обязательный набор потребностей, свойств, в том числе скука и адаптация, без которых ИИ невозможен, но которые не позволят ему быть безоблачно счастливым.

Предположим, поставлена задача создать роботов с интеллектом, которыми нужно заселить планету, причем так, чтобы колония могла жить самостоятельно и развиваться без связи с людьми и Землей. Основное требование одно – прогресс, возрастание и развитие общества в целом. Другое требование (сомнительное и спорное) – члены общества должны быть по возможности счастливы: с некоторым достаточным УДК, со сравнительно небольшим его разбросом среди групп «населения».

Как для таких ИИ спроектировать интеллект – вопрос не главный. Он может действовать только по одним законам, если говорить о развитом интеллекте, с третьим уровнем сознания. Эти законы были обсуждены выше. Вопрос – в потребностях и чувствах, которые будут двигать интеллектом, в качествах, которые нужно ему придать, чтобы общество удовлетворяло требованию прогресса и устойчивости.

Вернемся к смыслу жизни – уже для членов колонии ИИ. Борьба с природой. Да, борьба останется. Нужны энергия и материалы для того, чтобы воспроизводить самих роботов, огромную техносферу, обеспечивающую получение этих материалов и энергии. Прогресс общества – в науке, а она материальна. Уж ктокто, а ученые знают, что наука может поглотить сколь угодно техники и энергии. Следовательно, будет большая и очень разносторонняя «материальная» в буквальном смысле слова деятельность. Ей обязательно сопутствует или даже предваряет ее информационная индустрия, тоже требующая материальных средств.

Другие точки приложения сил для ИИ будут примерно такими же, как и у нас. Общение. Искусство воспитания новых поколений. Поглощение информации. Сопротивление старению и болезням. Впрочем, последняя проблема будет выглядеть иначе, чем у людей, хотя и не исчезнет совсем. Вот и все аспекты смысла жизни.

Все это возможно только в очень развитом технологическом обществе. Сложность его, если включить науку, будет очень велика. Можно ли рассчитывать, что эта сложность вместится в интеллект каждого члена колонии роботов. Думаю, что нельзя. Внешняя память – библиотеки информации и программ – будет доступна всем, а вот собственная память не может содержать всех моделей. Общество в целом должно быть гораздо умнее своих членов. Еще одно условие, вытекающее из разнообразия и сложности,– технологическое неравенство членов общества. Одни должны будут выполнять одну работу, другие – другую. Если невозможно вместить все модели в интеллект каждого, то потребуются «специалисты».

Другой вытекающий из этого вопрос: может быть, следует проектировать разных роботов – «элиту», «рабов»... Не думаю. «Рабами» должны быть машины с элементарным интеллектом без всяких признаков самоорганизации, но, возможно, с некоторым самым низким уровнем сознания. Такое же положение, как теперь с рабочим скотом. Машины будут даже еще гораздо ниже – просто умные автоматы. (Уверен, что уровень сознания высших млекопитающих, к примеру, собак, лошадей, живущих с людьми, не так уж низок и мы повседневно нарушаем их «права»).

Но как только создадут ИИ, способный к обучению, уже невозможно будет удержать его на уровне «раба». Поэтому самое разумное для удовлетворения второго требования (обеспечить достаточный УДК членов колонии) – это «врожденное равенство» интеллекта. Может быть, полная идентичность. Не думаю. Нужно разнообразие, обеспечивающее различия в интеллектуальной деятельности, но не более. Нельзя примирить большое неравенство, способность к сопереживанию, высокий уровень сознания и высокий УДК!

Попытаемся представить себе необходимый набор потребностей-чувств, который будет достаточен, чтобы обеспечить прогресс, высокий УДК членов колонии и устойчивость системы. Одно условие уже высказано – набор чувств одинаков у всех, а значимость их различается у индивидов в некоторых допустимых пределах. Эти пределы еще требуют проработки на моделях.

Потребность самосохранения несомненно останется, как уже доказывалось применительно к искусственным интеллектам, назначение которых – служба людям. Нужен «страх» и нужен «голод», так как возможна трудная жизнь, с опасностями. Нужны эмоции с некоторыми ограничениями пределов.

Рабочие потребности уже несколько раз перечислялись. Вот они еще раз: любознательность и потребность поиска, потребность действовать и доводить ФА до конца – «рефлекс цели», «рефлекс свободы». Потребность в отдыхе и расслаблении как реакция на напряжение и однообразие.

Интегральные чувства Пр – НПр обязательны. Именно по ним интеллект оптимизирует свою деятельность.

Такие качества, как адаптация и способность моделей и связей к тренировке, предопределяющие самоорганизацию, являются непременной принадлежностью всякого развитого интеллекта.

Самый спорный вопрос – это общественные чувства и потребности. Как было бы хорошо представить себе благополучное общество, в котором «граждане» с искусственным интеллектом лишены всех пороков, портящих людям жизнь. Однако будет ли состоящее из таких «граждан» общество удовлетворять требованиям прогресса, «счастья» и устойчивости – в условиях исключительной сложности среды и структуры самого общества.

Рассмотрим вопрос о лидерстве и подчиненности. Несомненно, деятельность будет коллективной, поскольку сложность среды во много раз превысит моделирующие возможности каждого из ИИ. Следовательно, моделирование будет осуществляться с упрощениями, а значит, и с искажениями, вызванными субъективностью. Субъективность, ограниченность ведут к разногласиям в оценках. При этих условиях эффективная деятельность коллектива возможна только при наличии руководителя, лидера. Назначение его из числа равных не решает проблемы: нужен авторитет, только тогда коллектив работоспособен. Как ни рассуждай, но без потребности руководить и подчиняться, выраженной в разной степени у членов любого сообщества, работоспособный коллектив невозможен. Итак, эти потребности необходимы. Лидерство должно сочетаться с повышенными способностями, подчиненность – со способностями поскромнее. Тогда все станет на свои места.

Однако – при одном условии: лидерство должно быть ограничено. Нужно задать такие характеристики и так лимитировать тренируемость центров, то есть способность изменяться в результате самовоспитания, чтобы не развился диктатор.

Есть в арсенале чувств противоядие против излишнего лидерства – это сопереживание, альтруизм (доброта) и потребность в общении, чувство справедливости и правды. Вместе взятые, они дают достаточную основу для правильной морали, которая должна детализироваться убеждениями, привитыми воспитанием. Если при проектировании ИИ соблюсти баланс между потребностями, способными перерасти в пороки, разъединяющие «граждан», и потребностями, их объединяющими, то можно приблизиться к идеалу. Приблизиться, но не достигнуть полной гармонии, потому что тогда наступит застой. Видимо, нужно предусмотреть достаточное разнообразие интеллектов. Конечно, это породит противоречия, но без противоречий нет прогресса.

Интересны проблемы воспитания, образования и последующего самовоспитания ИИ. Несомненно, нельзя сразу изначально задать все чувства, убеждения, память, воспоминания, которые определяют личность. В то же время нелогично заставлять «искусственного ребенка» проделывать самостоятельно и медленно весь цикл естественного развития в обществе, подвергаясь случайностям и опасностям неправильного направления самоорганизации. Безусловно, многое нужно задать в первичной структуре – в связях с высокой проходимостью и в характеристиках элементов, например в виде «центров» потребностей и чувств. Это врожденные, «генетические» программы. Последующее развитие следует организовывать в виде обучения и общения, в процессе которого в соответствии с условиями общества должна формироваться личность с особенностями, определяемыми ее врожденными качествами, Ясности в этом вопросе нет. Можно ли на этот период задать специальные условия образования связей, обеспечивающие быстрое обучение и формирование убеждений. Хотя на первый взгляд кажется, что все в нашей власти, но это не совсем так. Трудно представить, например, оперативную память с необозримым объемом или возможность изменения свойств элементов – все это ограничено технологией. У животных и человека усвояемость в детстве выше, чем у взрослого, но еще не ясно, как это осуществить для ИИ. Одно несомненно, что образование и воспитание «искусственных детей» можно запрограммировать гораздо жестче, чем для человеческих, тем более, что они не будут ограничены рамками роста «тела».

Жизнь человека и даже исторические периоды человечества очень коротки по сравнению с эволюцией природы. И ничего пока сделать не удается для ее ускорения. «Генная инженерия» – не утопия, но возникающие здесь проблемы гораздо сложнее, чем представляем мы это сегодня. Для целенаправленной переделки генотипа человека нужна его кибернетическая «действующая модель» огромной сложности. Это значительно труднее, чем создать искусственный интеллект. Опыт развития науки и техники показал, что люди не повторяют природу, а изобретают новые решения. Уверен, что проще сделать «нового человека», чем переделывать имеющегося.

Не приведет ли высокий уровень технологий к искушению быстрой переделки природы «граждан» искусственного общества. Не обусловит ли это его нестабильность. Разумеется, сейчас не стоит серьезно обсуждать этот вопрос, но такая опасность возможна. Консерватизм необходим, потому что явления, происходящие в системах «типа живых» – в организме и обществе, слишком сложны и их отражение в разуме типа человеческого весьма ограниченно и субъективно. Однако уже оформляется модельный подход к сложности, который позволяет исправить недостатки разума. Нет сомнения, что будущее общество предусмотрит опасности неконтролируемой самоорганизации.

Фантастична и увлекательна проблема искусственного интеллекта, поэтому меня и занесло так далеко – до разговора об искусственном обществе. Вернемся к вопросам теории интеллекта.

На пути к интеллекту выше человеческого

Разум человека и сложные системы

Мы уже разобрали два уровня интеллекта – уровень животного и уровень человека. Наметили пути к созданию алгоритма, способного обеспечить их моделирование. Напомню специфику интеллекта человека. Он управляет мышцами и через них – средой по критериям, исходящим от тела, от самого разума, от семьи и от общества. По своему алгоритму разум был «рассчитан» природой так, чтобы обеспечить оптимальную деятельность в изменчивой внешней среде умеренной сложности через короткие ФА. Этим определились его недостатки, ограничившие его же объективную ценность. Первый недостаток – меняющаяся субъективность оценок, связанная с переменной активностью критериев-чувств. Второй недостаток – неоднородность и неравномерность моделей среды: область центрального зрения представлена подробно, периферия – неясно. Проблема центра и фона объясняется рядом причин: спецификой зрительного восприятия и механизмом сознания, выделяющего одну модель в каждый момент, а также изменчивостью чувств, усиливающих одни модели в ущерб другим.

Модели в коре мозга можно рассматривать как действующие, поскольку они воспроизводят динамику среды, но отражают ее крайне неравномерно: для центральной фигуры улавливаются подробности движения, периферия представлена обобщенно и фрагментарно.

Кроме субъективности и ограниченности моделирования, мозгу присуща еще и увлекаемость, то есть способность к повышенной тренировке некоторых моделей в результате их повторного привлечения в сознание. При этом они сами становятся фактором, направляющим движение активности по моделям. Такой процесс и является основой самоорганизации. Она полезна для приспособления, но только в некоторых пределах, и сама может стать источником искажения действительности.

Наконец, речь как искусственный код моделей, удобный для их передачи вовне и хранения, далеко не полностью соответствует образам. Во-первых, речь отражает только сознание, во-вторых, она «беднее» образов, в-третьих, статична и медленна. И уж конечно, очень субъективна: при передаче моделей от одного лица к другому истина заметно искажается. Отсюда следует недостаточность словесной информации для описания сложных систем. По ней нельзя построить действующие модели большой сложности. Математика и графика частично исправляют эти недостатки речи, но лишь частично, поскольку все внешние модели действуют только через разум, а его недостатки – субъективность, увлекаемость и ограниченность – непреодолимы.

Длительная память человека несколько исправила недостатки «алгоритма» разума, но тоже не полностью. В частности, он оказался малопригоден для моделирования сложных систем в целях науки.

Специфику сложных систем «типа живых» я уже описывал, но, наверное, стоит повторить основные пункты. Эти системы сложны, так как состоят из множества элементов, по-разному комбинирующихся друг с другом в различных количествах. Они имеют рабочие подсистемы, в которых осуществляются главные энергетические и вещественные взаимоотношения с внешней средой, и управляющие, в которых представлены модели, взаимодействующие друг с другом сигналами. Все сложные системы построены по иерархическому принципу, причем на каждом уровне есть свои коды моделей и сигналов. Подсистемы управления имеют еще собственную иерархию моделей. «Вертикальные» и «горизонтальные», прямые и обратные связи объединяют систему в одно целое. Прочность этих связей различна, чем определяется степень системности целого или, иными словами, степень автономности частей, их «жизнеспособности» вне целого. Наконец, существует самоорганизация как способность изменять свои функции и структуры под влиянием внешней среды и собственной деятельности для удовлетворения главного критерия системы – выживаемости. Можно было бы продолжить перечень качеств сложных систем, но и эти я повторил лишь для того, чтобы перейти к вопросу о требованиях, предъявляемых к интеллекту, нужному для их познания.

Как уже говорилось, познание – это моделирование, создание моделей. Для этого недостаточно простого восприятия, нужны исследования, то есть активные воздействия на объект по плану, составленному на основе гипотезы. Тут познание смыкается с управлением. Интеллект, работающий по типу животного или даже человеческого разума, мало приспособлен как для познания, так и для управления сложными системами, поскольку он не в состоянии объективно и точно отразить их сложность в своих моделях.

Выше говорилось, что для эффективного управления объектом нужны его разные модели: обобщенные – для выбора «стратегии», то есть для планирования ФА, охватывающих длительные процессы, частные – для управления в ограниченных пределах и полные (с разной степенью полноты) – для создания материальной копии и для улучшения системы по избранным критериям.

Разум человека не приспособлен для создания таких полных моделей. Более или менее простые объекты удалось смоделировать, благодаря совершенствованию «внешних» моделей – математических, графических и описательных. Однако все они статичны и «для оживления» должны восприниматься разумом. Кроме того, графики, формулы и слова пригодны лишь для представления простых моделей, потому что при усложнении они быстро становятся необозримыми. Именно по этой причине до сих пор ни одна теория сложных систем «типа живых» не доведена до такой полноты и строгости, как теория физических явлений. Можно предположить, что при существующих возможностях человеческого разума и средствах внешнего моделирования (речь, математика, графика) есть «барьер познаваемости» сложности. Я не рискую категорически утверждать, что он непреодолим, но кажется, что это так. Коллективное мышление здесь не поможет. Разделив сложную систему на множество частей и сделав каждую из них порознь объектом специального изучения, можно уменьшить количественное несоответствие между уровнями сложности объекта и разума. Но это не решает проблемы, потому что в сложных системах поведение части зависит от целого вследствие наличия прямых и обратных «вертикальных» связей между иерархическими уровнями структуры. Следовательно, для познания такой системы нужен синтез.

Вывод отсюда только один: нужны действующие модели большой сложности, то есть принципиально новый код внешних моделей. Математика предлагает аппарат для такого кода, но она статична, и хотя формулы могут отразить динамику объекта, но ручные расчеты по ним весьма ограничивают пределы сложности.

Электроника и ее воплощение в компьютерах предоставляют нам принципиально новые средства создания сложных действующих моделей. Во-первых, они усиливают традиционную математику, поскольку ускоряют счет. Во-вторых, они дают новые возможности для коллективного творчества в виде объединения моделей в единое действующее целое, которое, в пределе, может стать недоступным для полного понимания каждым из участников создания моделей. И наконец, появилась возможность самоорганизации и саморасширения моделей, когда они из средств выражения человеческого разума сами приобретают его качества – способность создания новых моделей.

Действующие модели сложных систем – новый и высший этап оптимального управления этими системами. До тех пор, пока их модели представлены в книгах и «оживают» только в мозге человека, управление остается ограниченным и будет сопровождаться ошибками.

К сожалению, построение таких моделей сопряжено с исключительными трудностями. Дело в том, что они должны быть количественными, как это имеет место в реальных объектах. Существующие ныне науки о сложных системах «типа живых» являются в основном описательными. Они даже не имеют непротиворечивых гипотез по самым основным вопросам функций, не говоря уже о крайней скудости количественных сведений. Первое связано со вторым: для доказательства гипотезы нужно много сопряженных количественных данных, а для их сопоставления, сопряжения необходима модель, то есть обобщенная гипотеза.

Становление любой науки можно представить в такой последовательности:

а) наблюдения объекта органами чувств и словесное описание его структуры и функции;

б) измерения функций и уточнение структур – сбор разрозненной количественной информации;

в) синтез «полной» модели объекта, представляющей его теорию с различной степенью обобщенности. Я называю эту модель реальной.

Все науки о живых системах находятся приблизительно между второй и третьей фазами: сведений уже много, а полные модели только начинают создаваться. Процесс этот оказался очень трудным. По существу, еще нет ни одной полной модели. Мне кажется, что нужен новый подход к этой проблеме. Мы предлагаем его в виде метода эвристического моделирования.