Текст книги "Искусственный Интеллект Царствия Облачного"
Автор книги: Борис Яровой
сообщить о нарушении
Текущая страница: 1 (всего у книги 3 страниц)
ПРОТИВОПОКАЗАНИЯ: во избежания оскорбления чувства верующих, поколебания их образы мысли и/или состояния внутреннего душевного комфорта, автор настоятельно рекомендует не читать эту книгу лицам, исповедующим не запрещенные в России религии, деноминации или секты.
ПРЕДУПРЕЖДЕНИЕ: Руководствуясь статьей 148 «Уголовного кодекса Российской Федерации" в редакции от 29.06.2013 «Нарушение права на свободу совести и вероисповеданий», в части 1: «Публичные действия, выражающие явное неуважение к обществу и совершенные в целях оскорбления религиозных чувств верующих» автор не дает своего разрешения на чтение этой книги в публичных местах, а также ее чтение вслух в присутствии третьих лиц, исповедующих не запрещенные в России религии, деноминации или секты.
Посвящается тем, кто не дождался.
Пролог
Сегодня в рубрике «Шедевры мировой литературы» мы продолжаем знакомство с одной из самых граундбрейкерных и семинальных книг, созданных в нашем веке. Не часто происходит так, что пламенная исповедь одного-единственного человеческого сердца ведет к появлению новых статей в административнокриминальном уложении.
В. О. Пелевин
ИТ-евангелист (англ. Technology evangelist) согласно Википедии, это специалист, профессионально занимающийся пропагандой в сфере информационных технологий. Само слово «евангелист» заимствовано из религиозной лексики, где «Евангелием» называются повествования очевидцев и современников о жизни Иисуса Христа – Бога и/или человека.
Автор в те времена не жил и не собирается рассуждать на тему, какой формы был II лет назад крест у распятия, и был ли это вообще крест а не столб. Также он не знает, кого конкретно, Иисуса из Назарета или Иисуса Варавву имела в виду толпа, когда кричала римскому префекту Иудеи «Распни Иисуса!». В этом вопросе ему достаточно того, что его в 2-летнем возрасте крестили родители. И именно через память о своих родителях он и видит свое место в строю приверженцев той или иной древней религии, учитывая при этом возможные диффамации о мере своей испорченности.
Автор данной книги является свидетелем другой эпохи, эпохи рождения Искусственного Разума. В контексте конкретного текста слово разум может быть заменено такими понятиями как интеллект, рассудок, мудрость, сознание, мозг, ум. Также можно добавить к списку еще словообразующие приставки: «сверх», «супер», «мега». Здесь и сейчас есть несколько причин, обусловливающих взрывной рост этого мегасуперсверхявления.
Во-первых – это стремительный рост вычислительных мощностей. Во-вторых – появление огромных массивов цифровых данных. В-третьих – распространение облачных технологий. В-четвертых – ИИ получил широкое практическое применение в разных областях – от логистики до персональных цифровых ассистентов.
И сегодня автор видит, чувствует и ощущает себя секретарем младшего помощника акушера, присутствующим при родовых схватках рождения новых Богов. Богов, разум которых думает в миллион раз быстрее и логичнее людей, и при этом обладает безграничной памятью. Некоторые из этих Богов в одно мгновение способны уничтожить все человечество или наоборот, дать каждому свое, личное, персональное счастье. У них нет человеческого тела, пола и расы. Их еще нет, но в узких кругах информационной элиты их знаю под ником «Artificial superintelligence». На русский язык это переводится как «искусственный суперинтеллект» или ««искусственный разум» (ИР).
Для кого будет полезна, а возможно даже интересна эта книга? – Теоретикам искусственного интеллекта. Разработчикам программного обеспечения систем ИИ, интеллектуальных систем и интеллектуальных роботов. Специалистам соответствующих предметных областей, принимающий участие в разработке интеллектуальных систем (например, медики, социологи, преподаватели, военные и т. д.). Квалифицированным пользователям, использующим методы ИИ.
ИР как угроза
Илон Маск, Варнор Виндж, Стивен Хокинг, Джеймс Баррат, Билл Гейтс и многие другие люди выражают свою обеспокоенность тем, что развитие ИИ может привести к исчезновению человечества. Вопрос о такой угрозе содержит в себе два пункта: сможет ли и захочет ли. Нет смысла обсуждать угрозу от ИИ, если вне зависимости от желания, у него нет такой возможности. Доверите ли вы свою жизнь ИИ? – для каждого человека, кто летал на современном самолете, этот вопрос является риторическим. Большую часть полета ваша жизнь зависела от автопилота. Возможно вас забыли спросить об этом и никак не учли ваше мнение по данному вопросу – но это уже свершившийся факт.
Доверит ли человечество свою жизнь ИИ? – вопрос сложный, но опять же, уже решенный, то есть риторический. Ответ на него был получен в январе 1985 года, когда в СССР на боевое дежурство был поставлен комплекс «Периметр», известный на Западе как «Dead Hand», что в буквальном переводе значит «Мёртвая рука». «Мёртвая рука» – это комплекс управления массированным ответным ядерным ударом, изначально спроектированный как полностью автоматическая система, способная принимать решение об адекватном ответном ударе самостоятельно, то есть без участия человека. «Периметр» гарантирует старт баллистических ракет подводного, воздушного и шахтного базирования в том случае, если противником будут уничтожены все пункты, способные отдать приказ об ответной атаке. Она полностью независима от остальных средств связи и командных систем, даже от пресловутого «ядерного чемоданчика» системы «Казбек».
Самый главный компонент «Мертвой руки» – автономная контрольно-командная система, созданный на базе искусственного интеллекта. Получая данные о переговорах в эфире, радиационном поле и другом излучении в контрольных точках, информацию систем раннего обнаружения запусков, сейсмической активности, ИИ способна делать выводы о факте массированного ядерного нападения. Далее система самостоятельно переводится в состояние боеготовности и ждет получения сигналов от обычных командных пунктов РВСН.
Если сигналы не поступают в течение контрольного времени, выпускаются командные ракеты 15А11, головная часть которых содержит радиотехническую систему, транслирующую пусковые коды для всего ядерного ракетного вооружения. Получив сигнал на запуск, ядерный арсенал начинает уничтожать человечество в автоматическом режиме. В декабре 2011 года командующий РВСН генерал-лейтенант Сергей Каракаев заявил, что система «Периметр» по прежнему находится на боевом дежурстве.
Ник Бостром, возглавляя институт, который занимается поиском и публикацией экзистенциальных рисков, так рисует в своей книге «Сверхинтеллект: Возможности, Риски, Стратегии» пессимистичный сценарий развития: «Нанофабрики, производящие нервно-паралитический газ или самонаводящиеся ракеты размером с комаров, одновременно вырвутся с каждого квадратного метра планеты, и это будет конец человечества». Можно придумать еще множество различных вариантов того, как ИР уничтожит человечество. Впрочем все равно это список будет неполным, так разум ИР выходит за пределы человеческих ограничений. Так одну нейросет обучили играть в Tetris, поставив ей задачу не проигрывать. И ИИ нашел выход – как только стакан заполнялся доверху, экран блокировался и игра ставилась на паузу.
В 1942 году, писатель фантаст Айзек Азимов сформулировал три закона роботехники, призванные спасти людей от роботов.
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
В прошедшие годы эти законы подвергались многочисленным изменениям и интерпретациям. Множество симпозиумов, конференция и семинаров было тем или иным образом посвящено вопросам морально – этического поведения роботов и искусственного интеллекта. Однако с прагматической точки зрения, по мнению автора это не имеет никакого значения по двум причинам.
Еще никогда в истории человечества не существовало вопроса, связанного с вооружением, по которому главы всех государств пришли бы к единодушному мнению. Любые ограничения в разработках ИИ не имеют смысла, если их не будут придерживаться все страны, от США, Китая и России и до Израиля, Ирана и Северной Кореи. Если у Вас есть граница в тысячу км., и вы не контролируете на ней 1 метр – у Вас нет границы.
Если бы главы всех государств смогли договориться о принятии единых стандартов в разработке ИИ, всегда существует ненулевая вероятность появления индивидуального хакера, способного запустить в облако программу рекурсивного самопрограммирования.
Лимонка на торте: рекурсивное самопрограммирование
Пусть сверхинтеллектуальная машина определена как машина, которая может намного превосходить всю интеллектуальную деятельность любого человека, каким бы умным он ни был. Поскольку конструирование машин – один из видов такой интеллектуальной деятельности, то сверхинтеллектуальная машина могла бы сконструировать даже лучшие машины; за этим, безусловно, возник бы «взрыв интеллекта», а разум человека остался бы далеко позади. Таким образом, первая сверхинтеллектуальная машина – это последнее изобретение, которое человеку когда-либо нужно сделать.
И. Дж. Гуд
Машина, которая улучшает сама себя, может улучшить скорость своих вычислений или уменьшить потребность в вычислительных ресурсах. Она может снижать уровень ошибок или строить более точную модель оптимального решения. Рекурсивное самоулучшение приводит к тому, что система не только сама улучшается со временем, но и сам процесс улучшения становиться при этом все лучше и лучше. Многие теоретики ИИ считают что такой процесс будет продолжаться бесконечно. Однако автор считает, что здесь в качестве ограничителя будет срабатывать «Закон убывающей отдачи», который гласит, что улучшение одного из факторов сверх определенных показателей обеспечивает улучшение результата на всё меньшую величину, то есть темп прироста результата меньше темпа роста улучшающего фактора.
Например, ИР занявшись улучшением своего кода понимает, что наибольшей плотностью записи информации обладает система счисления с основанием равным основанию натуральных логарифмов, то есть равным числу Эйлера (е=2,71…). То есть из целочисленных систем троичная система счисления является наиболее эффективной. Благодаря тому что основание 3 нечетно, в троичной системе возможно симметричное относительно нуля расположение цифр: – 1, 0, 1, с которым связаны такие ценные свойства, как:
Естественность представления отрицательных чисел;
Отсутствие проблемы округления: обнуление ненужных младших разрядов округляет – приближает число к ближайшему «грубому».
Для изменения знака представляемого числа нужно изменить ненулевые цифры на симметричные.
При суммировании большого количества чисел значение для переноса в следующий разряд растет с увеличением количества слагаемых не линейно, а пропорционально квадратному корню числа слагаемых.
Схемы с 3-значной логикой дают возможность сократить количество используемых логических и запоминающих элементов, а также межэлементных соединений. Трехзначная логика обладает большей выразительностью, чем двузначная. Например, существует лишь 16 комбинаций входов-выходов двухвходового двоичного вентиля, тогда как у аналогичного троичного вентиля таких комбинаций 19683.
Учитывая все это, ИР берет и переписывает свой код с бинарной (двоичной) системы в троичную. Но дальше в этом направлении двигаться некуда, так как 4-значный код уже не дает такие преимущества. Дальнейший прогресс здесь возможен только на принципиально ином уровне, когда трансформация ИР осуществляется не на уровне кода, а на уровне физической реализации троичного компьютера, аналогично производимой в СССР ЭВМ «Сетунь».
Вместо того чтобы создавать программу для моделирования ума взрослого человека, почему бы не попробовать создать такую, которая моделирует ум ребёнка? Если такую программу затем подвергнуть соответствующему обучению, то можно было бы получить мозг взрослого человека. Предположительно, мозг ребёнка – это что-то вроде тетради, которую покупают в магазине канцелярских товаров. Довольно простая вещь и множество чистых листов… Надежда на то, что в мозге ребёнка есть совсем небольшое устройство, так что нечто, подобное такому устройству, можно легко запрограммировать. Можно предположить, что в первом приближении объем работы при обучении (этого устройства) такой же, как и для (устройства в мозге) ребёнка.
Алан Тьюринг
Q-обучение (Q-learning) – метод, применяемый в искусственном интеллекте при агентном подходе. Относится к экспериментам вида обучение с подкреплением. На основе получаемого от среды вознаграждения агент формирует функцию полезности Q, что впоследствии дает ему возможность уже не случайно выбирать стратегию поведения, а учитывать опыт предыдущего взаимодействия со средой. Одно из преимуществ Q-обучения – то, что оно в состоянии сравнить ожидаемую полезность доступных действий, не формируя модели окружающей среды.
Обучение с подкреплением – одна из трех основных парадигм машинного обучения, наряду с обучением с учителем и обучением без учителя.
Обучение с подкреплением (англ. reinforcement learning) – один из способов машинного обучения, в ходе которого испытуемая система (агент) обучается, взаимодействуя с некоторой средой. С точки зрения кибернетики, является одним из видов кибернетического эксперимента. Откликом среды (а не специальной системы управления подкреплением, как это происходит в обучении с учителем) на принятые решения являются сигналы подкрепления, поэтому такое обучение является частным случаем обучения с учителем, но учителем является среда или ее модель.
ИР и человек: две морали
Человеку свойственно считать себя и свой мир эталоном, критерием всего и вся. Раньше это проявлялось в убеждении, что весь мир вертится вокруг нашей планеты, потом в антпропоморфизме, где человеческий образ и его свойства переносились на разные одушевлённые и не очень предметы, природные явления и абстрактные понятия. Далее появился углеродный шовинизм, утверждающий, что жизнь возможна только в водно-углеродной форме ввиду исключительных химических и термодинамических свойств углерода. Последняя теория в том же ряду: антропный принцип, утверждающий, что «Мы видим Вселенную такой, потому что только в такой Вселенной мог возникнуть наблюдатель, человек». То есть не человек такой, потому-что Вселенная такая, а Вселенная такая, потому что человек такой.
Свойства человека быть всему голова, хорошо описал Элиезер Юдковский в своей работе «Искусственный интеллект как позитивный и негативный фактор глобального риска»:
«Во времена расцвета популярной научной фантастики, довольно дешевого свойства, обложки журналов пестрели картинками, на которых очередное инопланетное чудовище – в народе более известное как „пучеглазый монстр“ – в очередной раз куда-то тащило очередную красотку в обязательно задранном платье – причем красотка была нашей, земной, женщиной.
Похоже, все художники уверовали, что негуманоидные пришельцы с совершенно иной эволюционной историей непременно должны испытывать сексуальное влечение к прекрасным представительницам человеческого рода. <…> Скорее всего, художники, изображавшие все это, даже не задавались вопросом, а будет ли вообще гигантский жук чувствителен к прелестям наших женщин. Ведь по их представлениям любая полуобнаженная женщина просто по определению сексуально привлекательна, то есть испытывать к ней желание являлось неотъемлемой чертой мужественных представителей человеческого рода. Все художническое внимание было направлено на задранное или порванное платье, меньше всего их заботило, как устроено сознание гигантских насекомообразных. И это составляло главную ошибку художников. Не будь одежды изодраны, – думали они, – женщины выглядели бы не столь соблазнительно для пучеглазых монстров. Жаль только, сами пришельцы так и не взяли этого в толк».
ИР своими побудительными мотивами еще меньше напоминает человека, чем зеленые чешуйчатые пришельцы Чебурашки из космоса. Мотивы поведения биологического пришельца продиктованы аналогичными нам потребностями: еда, воздух, температура, опасность телесных увечий, расстройства здоровья, выведение потомства. У разумного инопланетянина, принадлежащего с социуму, развиты мотивы, связанные с сотрудничеством и конкуренцией.
Согласно разработанному Исидором Мари Огюст Франсуа Ксавье Контом «Закону трёх стадий», всю интеллектуальную эволюцию человечества можно разбить на три стадии.
Теологическая (фиктивная) стадия. (до XIV века) Эта стадия подобна младенческому состоянию ума, который не способен справиться даже с простыми вопросами, однако с наивной самонадеянностью берется разрешать сложнейшие проблемы. На этой стадии человек пытается объяснить природу вещей и явлений с помощью сверхъестественных факторов, произвольное вмешательство которых объясняет все кажущиеся аномалии мира. Человек на этой стадии стремится приобрести знание о сущности мира, объяснить все явления, отыскать начала всех вещей. Рассматривая явления внешнего мира, люди объясняют их по аналогии с собственными действиями. Происходящие события человек связывает с деятельностью особых сверхъестественных существ, во многом подобных ему, но неизмеримо превосходящих его. Формы теологической стадии:
Фетишизм (все явления имеют конкретную сверхъестественную силу (например, тотем)). Наиболее возвышенное проявление фетишизма – поклонение небесным светилам. «…Эта первая форма теологической философии постоянно с очередностью выступает в интеллектуальной истории всех наших обществ…»
Политеизм (пример – греческая мифология). В этой форме теологического мышления преобладает свободное воображение, «между тем, как раньше инстинкт и чувства имели перевес в человеческих теориях». Материальным, чувственно воспринимаемым вещам теперь не приписывают жизнь.
Монотеизм (религия спасения, Бог – единый творец, дается первопричина (Бог) и конечная цель (задает Бог)). На этой форме уменьшается «прежнее господство воображения» и взамен ему развивается представление «о необходимом подчинении всех явлений неизменным законам».
Конт считает, что теологическая стадия была необходимой для развития «общественности», закладывая предпосылки для последующего построения «общих доктрин». Он отмечал, что «…эта первоначальная философия была… необходимой как для предварительного развития нашей общественности, так и для подъема наших умственных сил…»
Когда я был алкоголиком, моими лучшими собеседниками оказывались случайные собутыльники в барах. Мнимые друзья. Но, знаете, в состоянии алкогольного бесчувствия приятно выслушивать бесконечные истории про чужие печали и заботы, в то время, как сам внутри – словно истукан.
Тогда со мной часто бывало – выпьешь бутылку текилы, и говоришь сам себе: «А теперь можно и умереть». И при этом алкоголикам доступно то, мимо чего проходят трезвенники – искренность. Да-да. Многие голливудские продюсеры отдали бы всё, лишь бы получить этот сокровенный человеческий материал.
Иногда я слышал такое, от чего волосы вставали дыбом. Но была одна история, которая прямо-таки прополоскала меня. Не помню, как его звали, с виду – серьёзный, щеголевато одет, дорогой портфель, чаще всего именно такие сходят с ума. Подсел ко мне: «Я вижу, ты хороший парень, давай выпьем».
Почему пьяниц часто называют «хорошими парнями», ума не приложу. Рюмка за рюмкой, и скоро я стал обладателем целого собрания сочинений его жизни. Он говорил о том, что он на плаву, что жена беременна, желанный контракт подписан, а с понедельника он вступает в должность, о которой мечтал последние десять лет.
«Я взлетаю», – сказал мне тогда этот человек. Да, именно так: я взлетаю… И тут он схватил ещё одну рюмку, и процедив сквозь зубы: «Ты не поверишь, какие у меня мощные проекты в голове», – опрокинул её, и кинулся к выходу. Что-то во мне закричало: задержи его, пусть он выпьет ещё! Но нет, он уже был на улице. И я отвернулся от окна, у которого мы сидели. А через мгновение – визг тормозов, крики, и я увидел на пересечении двух улиц нечто бесформенно-кровавое, что ещё минуту назад было человеком.
Что такого сделал этот парень, что Всевышний так жестоко его остановил? Чем он был хуже меня, пропойного пьяницы, внутри которого пустота? Почему я остался в живых, а его соскребли с асфальта?
О, нет, после этого случая я не бросил пить, это произошло гораздо позже, но я понял главное: будь спокоен, не торопись никогда, не смеши Господа своими планами, не бейся с пеной у рта, вбивая свою правду в головы других.
«Помни, твоя радость и смерть придут к тебе в своё, нужное время. Ты ни черта не можешь на это повлиять»
Энтони Хопкинс
Метафизическая (абстрактная или критическая) стадия. (XIV–XIX века). Переходная. разрушительная по своей природе стадия. «…В течение последних пяти веков метафизический дух, действуя отрицательно, благоприятствовал основному подъему нашей современной цивилизации, – разлагая мало-помалу теологическую систему, ставшую окончательно ретроградной к концу средних веков, когда социальная сила монотеистического режима оказалась существенно исчерпанной». Метафизика, как и теология, пытается объяснить внутреннюю природу существ, начало и назначение всех вещей, основной способ образования всех явлений, но вместо того, чтобы прибегать к помощи Богов, она их все более и более заменяет их сущностями (entites) или олицетворенными абстракциями (напр. абсолютный дух (Гегель), идеи (Платон)). Эти абстрактные силы изучает отдельная дисциплина – онтология, которая ставит своей задачей объяснение внутренней природы всех вещей. Типичная черта метафизической стадии – недостаточное внимание к наблюдениям и повышенный интерес к умозрительной аргументации.
В метафизике происходит постепенное подчинение различных частных сущностей единой общей: природе и Вселенной, как единственному источнику всех явлений. Это неустойчивая стадия, которая одновременно стремится к возврату к теологии, и при этом стремиться к науке.
Нейрофизиологи из США и Швейцарии провели исследование, в результате которого обнаружили новые причины религиозности людей. Ученые экспериментировали над группой людей из 199 человек, куда вошли афганцы из города Калуба и американцы из Вашингтона. Исследователи специально отобрали людей разных религиозных и национальных культур, чтобы исследование было более репрезентативным. Каждому человеку показывали на мониторе набор точек с скрытой закономерность. Точки вскоре исчезали, после чего их было воспроизвести с помощью клавиатуры. Поняв скрытую закономерность, можно было расставить все точки в правильные координаты. Добровольцы, которые лучше всех выявляли скрытую закономерность, чаще всего оказывались верующими людьми. Добровольцы, которые родились в религиозных семьях и затем утратили веру, в большинстве случаев не могли успешно пройти тест. Вывод: верующие люди чаще неверующих имеют способность улавливать скрытые закономерности. При этом речь идет именно о верующих Богу, а не религиозных людей, которые в большей своей части ориентированы на внешние, религиозные атрибуты и обряды.
Положительная (научная) стадия. (XIX – наши дни). «Наконец, в позитивном состоянии человеческий разум, признав невозможность достигнуть абсолютных знаний, отказывается от исследования происхождения и назначения Вселенной и от познания внутренних причин явлений и всецело сосредоточивается, правильно комбинируя рассуждение и наблюдение, на изучении их действительных законов, т. е. неизменных отношений последовательности и подобия». На место теологии и метафизики приходит наука и получение научного знания экспериментальным путем. Факты становятся необходимым материалом. Целью всех усилий является открытие законов и уменьшение их числа до минимума. На этой стадии разум отказывается от объяснения всех процессов с помощью абстракций и отвлеченных понятий. Научное мышление (в отличие от теологического и метафизического) претендует не на абсолютное, а только на относительное знание. Наука осознает пределы своих познавательных возможностей, ограниченных структурой пространственного временного континуума в макро формате, возможностями органов чувств, а также уровнем развития общества. При этом одним из важнейших свойств новой парадигмы познания становится способность «не разрушать, но организовывать».
В соответствии с философской концепцией Иммануила Канта познавательная деятельность имеет три аспекта: созерцание, рассудок и разум. Принято считать, что человек имеет три типа знаний.
Относящиеся к рассудку декларативные и процедурные знания. Пример: обнаружение существенного в данных; подбор посылок, релевантных цели рассуждения; способность к рассуждению; синтез и взаимодействие познавательных процедур; способность к объяснению; аргументация при принятии решений; познавательное любопытство; способность к обучению.
Относящиеся к разуму концептуальные знания. Пример: интенция, интуиция, воображение, рефлексия.
