Текст книги "Машины создания"
Автор книги: Эрик Дрекслер
сообщить о нарушении
Текущая страница: 16 (всего у книги 21 страниц)
Но что можно сказать об ошибках конструкции? Наличие десятка избыточных частей не даст никакой пользы, если они делят общую критическую ошибку в конструкции. Разнообразие конструкции – один ответ; хорошее тестирование – другой. Мы можем надёжно разрабатывать хорошие конструкции не будучи хорошими в надёжности конструкторами: нам только нужно уметь хорошо тестировать, исправлять ошибки и быть терпеливыми. Природа разработала работающие молекулярные машины целиком через безголовую починку и тестирование. Имея разум, мы можем делать не хуже или лучше.
Мы найдём несложным разработать надёжные технические средства, если мы сможем разработать надёжные автоматические системы разработки. Но это ставит более широкий вопрос о разработке систем искусственного интеллекта, которым можно доверять. У нас будет мало проблем в создании систем ИИ с надёжной аппаратной базой, но как насчёт их программных средств?
Подобно сегодняшним системам ИИ и человеческому разуму, продвинуты системы ИИ будут синергетическими комбинациями большого количества простых частей. Каждая часть будет более специализирована и менее интеллектуальна, чем система в целом. Некоторые части будут искать структуры в картинках, звуках и других данных, и подсказывать, что они могут обозначать. Другие части будут сравнивать и оценивать подсказки этих частей. Также как распознаватель структур в человеческой зрительной системе страдает от ошибок и зрительных иллюзий, также страдают и распознаватели в системах ИИ. (действительно, некоторые продвинутые системы машинного зрения уже страдают от знакомых зрительных иллюзий.) И также как другие части человеческого разума могут часто идентифицировать и компенсировать иллюзии, также будут способны и другие части систем ИИ.
Как в человеческом разуме, интеллект будет включать части ума, которые будут производить приблизительные догадки, а другие части будут откидывать наиболее плохие догадки до того, как они привлекут слишком много внимания или повлияют на важные решения. Умственные части, которые отвергают идеи действия по этическим основаниям, соответствуют тому, что мы называем совестью. Системы ИИ со многими частями будут иметь место для избыточности и разнообразия конструкции, делая надёжность возможной.
Настоящая гибкая система ИИ должна развивать идеи. Чтобы это делать, она должна находить или формировать гипотезы, генерировать варианты, тестировать их, и далее модифицировать или отбрасывать те, которые она находит неадекватными. Исключение некоторых из этих способностей сделало бы её глупой, упрямой или невменяемой ("Тупая машина не может думать и не будет учиться на своих ошибках – выброси её!"). Чтобы избежать ловушки начальных заблуждений, ей придётся рассматривать противоречивые взгляды, смотря, насколько хорошо каждый объясняет данные, и смотря, может ли один взгляд объяснить другой.
Научное сообщество проходит через подобный процесс. В статье с названием "Метафора научного сообщества", Вильям А. Корнфельд и Карл Хьювитт из лаборатории искусственного интеллекта MIT высказывают мысль, что исследователи ИИ моделируют модели своих программ ещё более близко к развившейся структуре научного сообщества. Они указывают на плюрализм науки, на её разнообразие конкурирующих создателей теорий, сторонников и критиков. Без создателей теорий, идеи не могут появиться; без сторонников, она не может расти; а без критиков, которые пропалывают их, плохие идеи могут вытеснить хорошие. Это остаётся верным для науки, технологии, в системах ИИ, а также между частями наших умов.
Наличие мира, полного разнообразия и изобилующего авторами теорий, сторонниками и критиками – это то, что делает продвижение науки и технологии вперёд надёжным. Если будет больше авторов теорий, будет больше хороших теорий; если будет больше критиков – плохие теории будут более уязвимыми. Лучшие и более многочисленные идеи будут результатом. Подобная форма избыточности может помочь системам ИИ разрабатывать достоверные идеи.
Люди иногда направляют свои действия стандартами истины и этики, и нам нужно быть в состоянии разработать системы ИИ, чтобы они делали то же самое, но более надёжно. Способные думать в миллионы раз быстрее чем мы, они будут иметь больше времени для дополнительных размышлений. Похоже, что системы ИИ можно сделать такими, чтобы им можно было доверять, по крайней мере по человеческим стандартам.
Я часто сравнивал системы ИИ с отдельными человеческими умами, но подобие не обязательно должно быть близким. Система, которая способна подражать человеку, возможно должна быть подобна человеку, но система автоматической разработки – вероятно не обязательно. Одно предложение (называемое системой Агора, в честь греческого слова, обозначающего встречу и рыночную площадь) состояло бы в том, чтобы много независимых кусочков программ, которые взаимодействуют, предлагая друг другу услуги в обмен на деньги. Большинство кусочков было бы простоватыми узколобыми специалистами, некоторые способные подсказывать изменение конструкции, а другие – анализировать его. Во многом также, как земная экология разработала экстраординарные организмы, также эта компьютерная экономика могла бы разрабатывать экстраординарные конструкции – и, возможно, сравнительно безмозглым способом. Что более важно, поскольку система была бы распределена по многим машинам и имела бы части написанные многими людьми, она могла бы быть разнообразной, устойчивой и затруднённой для любой группы чтобы захватить и использовать во вред.
В конце концов так или иначе, системы автоматической разработки будут способны разрабатывать вещи более надёжно чем любая группа людей-инженеров может сегодня. Наша большая задача будет сконструировать их правильно. Нам нужны человеческие институты, которые надёжно разрабатывают надёжные системы.
Человеческие институты – это развившиеся искусственные системы, и они могут часто решать проблемы, которые отдельные члены – не могут. Это делает их чем-то вроде "искусственных интеллектуальных систем." Корпорации, армии, и исследовательские лаборатории – это всё примеры, также как более свободные структуры рынка или научного сообщества. Даже правительства могут рассматриваться как системы искусственного интеллекта – большие, медлительные, одурманенные, однако сверхчеловеческие в своих реальных способностях. И что есть конституциональный контроль и баланс, как не попытка увеличить надёжность правительства через институциональное разнообразие и избыточность? Когда мы строим интеллектуальные машины, мы будет использовать их, чтобы проверять и создавать баланс одной над другой.
Применяя эти разумные принципы, мы можем быть в состоянии разработать надёжные техники ориентированные институты, имеющие сильный контроль ошибок и балансы, и тогда использовать их, чтобы руководить разработкой систем, которые нам понадобятся, чтобы управляться с будущими прорывами.
Тактика ассемблерной революции
Некоторая сила в мире (заслуживающая доверия или нет) возьмёт первенство в разработке ассемблеров; назовём её «ведущей силой». Из-за стратегической важности ассемблеров, ведущая сила предположительно будет некоторой организацией или институтом, который эффективно контролируется каким-то правительством или группой правительств. Чтобы упросить вопрос, предположим на минуту, что мы (хорошие ребята, пытающиеся быть мудрыми) можем определить способ поведения для ведущей силы. Для граждан демократических государств, принять это – кажется хорошей позицией.
Что нам следует делать, чтобы улучшить наши шансы достижения такого будущего, в котором стоит жить? Что мы можем сделать?
Начнём с того, что не должно случиться: мы должны не позволить отдельному воспроизводящемуся ассемблеру неправильного типа выйти на свободу в неподготовленный мир. Эффективные приготовления кажутся возможными (как я это опишу ниже), но, по-видимому, они должны быть основаны на построенных ассемблерами системах, которые могут быть построены только после того, как опасные репликаторы уже смогут быть возможными. Разработка с опережением может помочь ведущей силе подготовиться, однако даже энергичные предусмотрительные действия кажутся неадекватными, чтобы предотвратить момент опасности. Аргумент простой: опасные репликаторы будет намного проще разработать, чем системы, которые могут помешать им, также как бактерия намного проще иммунной системы. Нам будет нужна тактика для сдерживания нанотехнологии, пока мы не научимся её приручать.
Одна очевидная тактика – изоляция: ведущая сила будет способна содержать репликаторные системы за многочисленными стенами или в космических лабораториях. Простые репликаторы не будут иметь интеллекта, и они не будут разрабатываться, чтобы убежать и пойти буйствовать. Сдерживание их не кажется слишком сложной задачей.
Но лучше, чтобы мы могли разработать репликаторы, которые не могут убежать и начать буйствовать. Мы можем построить их со счётчиками (такими как в клетках), которые ограничивают их до фиксированного числа копий. Мы можем строить их так, чтобы они нуждались в особом синтетическом «витамине», или в очень специфической среде, которую можно обеспечить только в лаборатории. Хотя репликаторы можно было бы делать более стойкими и более прожорливыми, чем любые современные насекомые, мы также можем сделать их полезными, но безопасными. Поскольку мы будет разрабатывать их с нуля, репликаторы не обязательно должны иметь элементарные способности к выживанию, которые эволюция встроила в живые клетки.
Далее, им не обязательно нужно быть способными эволюционировать. Мы можем дать репликаторам избыточные копии их «генетических» инструкций, вместе с механизмами ремонта, чтобы исправлять любые мутации. Мы можем разработать их так, чтобы они переставали работать задолго до того, как накопится достаточно повреждений, чтобы сделать продолжительную мутацию значимой возможностью. Наконец, мы можем разработать их так, чтобы эволюция не происходила даже если мутации могли бы случаться.
Эксперименты показывают, что большинство компьютерных программ (иных, чем специально разработанные программы ИИ, такие как Эвриско доктора Лената) редко отвечают на мутации при небольшом изменении; вместо этого они просто перестают работать. Поскольку они не могут разнообразиться полезными способами, они не могут эволюционировать. Если они не разработаны специально для этого, репликаторы, направляемые нанокомпьютерами, будут разделять этот недостаток. Современные организмы достаточно хорошо способны эволюционировать отчасти потому что они произошли от предшественников, которые эволюционировали. Они научились в процессе эволюции эволюционировать; это – одна причина сложностей полового воспроизводства и перемешивания сегментов хромосом во время производства клеток спермы и яйцеклеток. Мы можем просто отказаться дать репликаторам подобные способности.
Для ведущей силы будет легко сделать воспроизводящиеся ассемблеры полезными, безопасными, и устойчивыми. Оберегая ассемблеры от того, чтобы их украли и использовали во вред – другая и более серьёзная проблема, потому что это будет игра с разумными противниками. Как одна из тактик, мы можем снизить побудительный мотив украсть ассемблеры, делая их доступными в безопасных формах. Это также снизит желание других групп разрабатывать ассемблеры независимо. За ведущей силой, в конце концов последуют силы, следующие за ней.
Ограниченные ассемблеры
В главе 4 я описал, как система ассемблеров в чане могла бы построить великолепный ракетный двигатель. Также я отметил, что мы будем способны сделать системы ассемблеров, которые действуют подобно семенам, поглощая солнечный свет и обычные материалы и вырастая почти во что угодно. Эти специализированные системы не будут реплицировать себя, или будут это делать только ограниченное число раз. Они будут делать только то, что они были запрограммированы делать, когда им говорят это сделать. Любой, у кого нет специальных инструментов, построенных ассемблерами, был бы неспособен перепрограммировать их, чтобы они служили другим целям.
Используя ограниченные ассемблеры этого типа, люди будут способны сделать всё что они хотят и сколько хотят, но в пределах ограничений, встроенных в эти машины. Если никакие из них не будут запрограммированы, чтобы делать ядерное оружие, никакие и не будут; если никакие из них не будут запрограммированы, чтобы делать опасные репликаторы, никакие и не будут. Если некоторые из них запрограммированы, чтобы делать дома, машины, компьютеры, зубные щётки и что угодно ещё, то эти продукты станут дешёвыми и изобильными. Машины, построенные ограниченными ассемблерами, дадут нам возможность открыть космос, вылечить биосферу и восстановить человеческие клетки. Ограниченные ассемблеры смогут принести почти неограниченное богатство людям в мире.
Эта тактика облегчит моральное давление, чтобы делать неограниченные ассемблеры доступными немедленно. Но ограниченные ассемблеры будут всё ещё оставаться легитимные потребности необеспеченными. Учёным будут нужны свободно программируемые ассемблеры, чтобы проводить исследования; инженерам будут они нужны, чтобы тестировать конструкции. Эти потребности будут обслуживаться запечатанными ассемблерными лабораториями.
Запечатанные ассемблерные лаборатории
Представьте компьютерное устройство размером с ваш большой палец, с современным разъёмом на его нижней части. Его поверхность выглядит как обычный серый пластик, с пропечатанным серийным номером, однако эта запечатанная ассемблерная лаборатория – построенный ассемблерами объект, который содержит много чего. Внутри, прямо над разъёмом, находится большой наноэлектронный компьютер, на котором работает продвинутое программное обеспечение для молекулярного моделирования (основанное на программах, разработанных во время разработки ассемблеров). С этой ассемблерной лабораторией, присоединённой и включенной, ваш построенный с помощью ассемблеров домашний компьютер показывает трёх-мерную картинку чего угодно, что лабораторный компьютер моделирует, представляя атомы как цветные сферы. С помощью джойстика вы можете направлять смоделированные ассемблерные манипуляторы на построение вещей. Программы могут двигать манипуляторы быстрее, строя тщательно проработанные структуры на экране в мгновение ока. Это моделирование всегда работает идеально, потому что нанокомпьютер жульничает: тогда как вы заставляете смоделированный манипулятор передвигать смоделированные молекулы, компьютер направляет реальный манипулятор передвигать реальные молекулы. Далее он проверяет результаты везде, где необходимо проверить его вычисления.
Кончик этого объекта размером с большой палец содержит сферу, построенную из многих концентрических слоёв. Отличные провода подводят энергию и сигналы через слои; они позволяют нанокомпьютеру внизу сообщаться с устройствами в центре сфер. Самый дальний от центра слой состоит из сенсоров. Любая попытка удалить или проколоть его передаёт сигнал слою, близкому к сердцевине. Следующий уровень – толстая сферическая раковина из предварительно подвергнутого высокому давлению цельному алмазу, у которого внешние слои растянуты, а внутренние – сжаты. Это окружает слой теплового изолятора, который в свою очередь окружает сферическую оболочку размером с зёрнышко перца, сделанную из микроскопических, тщательно упорядоченных блоков металла и окислителя. Они сшиты электрическими воспламенителями. Заряд разрушения металла и окислителя далее сжигает за долю секунды, производят газ из металлического оксида, плотнее воды и почти такой же горячий как поверхность Солнца. Но пламя крошечное; оно стремительно остывает и алмазная сфера сдерживает его огромное давление.
Этот разрушительный заряд окружает более маленькую цельную оболочку, которая окружает ещё один слой сенсоров, который также вызывает разрушительный заряд. Эти сенсоры окружают полость, которая содержит саму запечатанную ассемблерную лабораторию.
Эти тщательно сделанные предосторожности оправдывают термин «запечатанная». Кто-либо из вне не может открыть пространство лаборатории, не разрушив её содержимое, и никакой ассемблер или построенные ассемблерами структуры не могут выйти из неё. Система разработана, чтобы выпускать информацию, но не опасные репликаторы и опасные инструменты. Каждый слой сенсоров состоит из многих избыточных слоёв сенсоров, каждый предназначенный для определения любого возможного проникновения, и каждый компенсируя возможные дефекты в других. Проникновение, включая заряд уничтожения, поднимает температуру в лаборатории выше точки плавления любого возможного вещества и делает выживание любых опасных устройств невозможным. Эти защитные механизмы объединяются воедино против чего-то около одной миллионной их размера – то есть, чтобы не помещалось в лаборатории, что обеспечивает сферическое рабочее пространство не шире человеческого волоса.
Хотя по обычным стандартам маленькое, это рабочее пространство содержит достаточно места для миллионов ассемблеров и тысяч триллионов атомов. Эти запечатанные лаборатории позволят людям строить и тестировать устройства, даже прожорливые репликаторы в полной безопасности. Дети будут использовать атомы внутри их как конструкторы почти с неограниченным количеством деталей. Любители будут обмениваться программами, чтобы строить различные устройства. Инженеры будут строить и тестировать новые нанотехнологии. Химики, материаловеды и биологи будет строить аппараты и проводить эксперименты. В лабораториях, построенных вокруг биологических экземпляров, биомедицинские инженеры будут разрабатывать и тестировать ранние машины ремонта клеток.
В ходе этой работы люди естественно будут разрабатывать полезные конструкции, будь то для компьютерных схем, прочных материалов, медицинских устройств или чего-то угодно ещё. После того как публика поймёт их безопасность, эти вещи могут стать доступными вне запечатанных лабораторий с помощью программирования ограниченных ассемблеров на их производство. Запечатанные лаборатории и ограниченные ассемблеры образуют взаимодополняющую пару: первые позволят нам свободно изобретать; вторые дадут нам возможность наслаждаться плодами нашего изобретения в безопасности. Возможность сделать паузу между разработкой и выходом поможет нам избежать смертоносных сюрпризов.
Запечатанные ассемблерные лаборатории дадут возможность целым обществам применять свои творческие способности для решения проблем нанотехнологии. И это ускорит наши приготовления ко времени, когда независимые силы узнают, как строить что-то опасное.
Сокрытие информации
В другой тактике, чтобы выиграть время, ведущая сила может попытаться сжечь мосты, которые она построила от балк-технологии к молекулярной. Это означает уничтожить записи о том, как первые ассемблеры были сделаны (или сделать их абсолютно недоступными). Ведущая сила может быть способна разработать первые, грубые ассемблеры таким образом, что никто не знает детали большего чем маленькая часть целой системы. Представьте, что мы разрабатываем ассемблеры тем путём, как описано в главе 1. Белковые машины, которые мы используем для построения первых грубых ассемблеров затем быстро станут устаревшими. Если мы уничтожим записи о конструкции белков, это затруднит усилия их скопировать, однако не предотвратит дальнейший прогресс в нанотехнологии.
Если запечатанные лаборатории и ограниченные ассемблеры широко доступны, у людей будет мало научной или экономической мотивации повторно разрабатывать нанотехнологию независимо, и сжигание мостов от балк-технологии сделает независимую разработку более сложной. Однако это могут быть не более чем тактики задержки. Они не остановят независимую разработку; человеческое стремление к власти будет подталкивать усилия, которые в конце концов приведут к успеху. Только детальная всеобщая слежка в тоталитарных масштабах могла бы остановить независимую разработку на неограниченное время. Если такая слежка проводилась бы чем-то вроде современного правительства, это было бы лечение, примерно такое же опасное как сама болезнь. И даже тогда, сохраняли бы люди идеальную бдительность навсегда?
По-видимому, мы должны в конце концов научиться жить в мире с репликаторами, которым нельзя доверять. Один тип тактики заключался бы в том, чтобы скрыть за стеной или далеко убежать. Но это – хрупкие методы: опасные репликаторы могли бы слопать стену или пересечь пространство и принести невообразимые несчастья. И хотя стены могут защитить от маленьких репликаторов, никакая неподвижная стена не гарантирует против крупномасштабного организованного злого умысла. Нам потребуется более надёжный, гибкий подход.
Активные щиты
Представляется, мы можем построить наномашины, которые действуют примерно так, как белые клетки крови человеческой иммунной системы: устройства, которые могут бороться не только с бактериями и вирусами, но с опасными репликаторами всех сортов. Назовём автоматическую защиту этого рода активным щитом, чтобы отличить от неподвижной стены.
В отличие от обычных технических систем, надёжные активные щиты должны делать больше, чем просто взаимодействовать с природой и неуклюжими пользователями. Они должны также уметь управляться с намного более существенной задачей – с целым рядом угроз, которые разумные силы могут сконструировать и построить при более благоприятных обстоятельствах. Построение и улучшение прототипа щитов будет сродни проведению обеими сторонами гонки вооружений в лабораторном масштабе. Но цель здесь будет поиск минимальных требований для защиты, которая надёжно преобладает.
В главе 5 я описал, как доктор Ленат и его программа Евриско разработали успешные виды флота, чтобы сражаться по правилам игры-симулятора морской битвы. Аналогичным образом мы можем превратит в игру смертельно серьёзные усилия по разработке надёжных щитов, используя запечатанные ассемблерные лаборатории различных размеров как игровые поля. Мы можем пригласить множество инженеров, компьютерных хакеров, биологов, любителей и систем автоматического инжиниринга, стравливать свои системы друг против друга в играх, ограниченных только начальными условиями, законами природы и стенами запечатанных лабораторий. Эти конкуренты будут разрабатывать угрозы и щиты в серии микро-сражений с открытым концом. Когда размножающиеся ассемблеры принесут изобилие, люди будут иметь достаточно времени для такой важной игры. В конце концов мы можем тестировать многообещающие системы щитов в космосе в средах, подобных земным. Успех сделает возможным систему, способную защитить человеческую жизнь и земную биосферу от самого худшего, что целые толпы свободных репликаторов могут сделать.
Возможен ли успех?
С нашими сегодняшними неопределённостями мы не можем пока описать ни угрозы, ни щиты с какой-либо точностью. Значит ли это, что мы не можем иметь уверенности, что эффективные щиты возможны? Очевидно мы можем; в конце концов есть разница между знанием, что что-то возможно и знанием как это сделать. А в этом случае мир содержит примеры аналогичного успеха.
Нет ничего фундаментально нового в защите против вторгшихся репликаторов; жизнь это делает на протяжении веков. Размножающиеся ассемблеры, хотя и необычно мощные, будут физическими системами не отличающимися принципиально от тех, что нам уже известны. Опыт подсказывает, что их можно контролировать.
Вирусы – молекулярные машины, которые вторгаются в клетки; клетки используют молекулярные машины (такие как ограничительные ферменты и антитела), чтобы против них защищаться. Бактерии – это клетки, которые вторгаются в организмы; организмы используют клетки (такие как белые кровяные тельца), чтобы против них защищаться. Аналогично общества используют полицию, чтобы защищаться против криминальных элементов и армии, чтобы защищаться против захватчиков. На менее физическом уровне умы используют мимические системы, такие как научный метод, чтобы защищаться против абсурда, а общества используют институты, такие как суды, чтобы защищаться против власти других институтов.
Биологические примеры в предыдущем абзаце показывают, как даже после гонки вооружений в течение миллиарда лет молекулярные машины оказались способны поддерживать защиту против молекулярных репликаторов. Неудачи также широко распространены, но успехи всё же показывают, что защита возможна. Эти успехи подсказывают, что мы можем действительно использовать наномашины, чтобы защищать себя против наномашин. Хотя ассемблеры принесут с собой успехи во многих областях, не видно причин, почему они должны навсегда опрокинуть баланс в защите.
Примеры, приведённые выше – какие-либо вторгающиеся вирусы, какие-либо вторгающиеся институты – достаточно разнообразны, чтобы подсказывать, что успешная защита базируется на общих принципах. Кто-то может спросить: почему все эти защиты оказываются успешны? Но перевернём вопрос: почему они должны не иметь успеха? Каждый конфликт сталкивает аналогичные системы друг с другом, не давая атакующей никакого очевидного преимущества. Более того, в каждом конфликте атакующий сталкивается с защитой, которая уже установилась и проверена временем. Защищающийся сражается на собственной территории, дающей ему преимущества, такие как подготовленные позиции, детальное знание местности, заготовленные ресурсы, и многочисленные союзники – когда иммунная система распознаёт микроб, он может мобилизовать ресурсы всего организма. Все эти преимущества являются общими и фундаментальными, имея мало общего с деталями технологии. Мы можем придать нашим активным щитам те же преимущества перед опасными репликаторами. И им не обязательно нужно сидеть сложа руки, когда опасные виды оружия накапливаются, ничуть не больше, чем иммунная система сидит сложа руки, когда размножаются бактерии.
Было бы сложно предсказать исход гонки вооружений с открытым концом между силами, вооружёнными самовоспроизводящимися ассемблерами. Но до того, как эта ситуация может возникнуть, ведущая сила, кажется вероятным, что приобретёт временное, но принципиальное военное преимущество. Если исход гонки вооружений – под сомнением, то ведущая сила вероятно использует свою силу, чтобы гарантировать, что никаким противникам не будет позволено её догнать. Если она это сделает, то активные щиты не будут должны противостоять атакам, обеспечиваемым ресурсами половины континента или половины солнечной системы; вместо этого они будут походить на силы полиции или иммунную систему, встречающие атаки, обеспечиваемые какими бы то ни было ресурсами, которые могут быть собраны в тайне в пределах защищаемой территории.
В каждом случае успешной обороны, которые я упомянул выше, атакующие и щиты развивались по во многом схожим процессам. Иммунная система, сформированная генетической эволюцией, встречает угрозы также сформированные генетической эволюцией. Армии, сформированные человеческими умами, также встречают аналогичные угрозы. Подобным образом и активные щиты, и опасные репликаторы будут сформированы эволюцией мимов. Но если ведущая сила может разработать системы автоматического инжиниринга, которые будут работать в миллионы раз быстрее людей-инженеров, и если она может использовать их в течение всего одного года, то она сможет построить активные щиты, основанные на усилиях, эквивалентных миллионам лет технического прогресса. С такими системами мы можем быть способны исследовать пределы возможного достаточно хорошо, чтобы построить щит против всех физически возможных угроз.
Даже если мы не знаем детали угроз и щитов, кажется разумным считать, что щиты возможны. И примеры мимов, контролирующих мимы, и институтов, контролирующих институты также подсказывают, что системы ИИ могут контролировать системы ИИ.
В построении активных щитов, мы будем способны использовать мощь репликаторов и систем ИИ, чтобы умножать традиционные преимущества защищающейся силы: мы можем дать ей преобладающую силу благодаря изобилию построенных репликаторами технических средств с конструкциями, основанными на эквиваленте миллион-летнего преимущества в технологии. Мы можем строить активные щиты, имеющие силу и надёжность, которая посрамит системы прошлого.
Нанотехнология и искусственный интеллект могли бы принести конечные инструменты разрушения, но они не являются разрушительными по своей сути. С осторожностью мы можем их использовать, чтобы построить окончательные инструменты мира.
