Человеческий интеллект дал нам кучу преимуществ перед другими видами. Одним из самых значительных стала наша способность изобретать новые технологии. Если гонка приведёт к созданию ИИ умнее человека, можно ожидать, что значительная часть его мощи будет потрачена, чтобы раздвигать научные и технологические горизонты. Но как это выглядит на практике? Какие ещё не изобретённые технологии ждут своего открытия?

Тут сложно дать хоть сколько нибудь общий ответ. Учёному 1850 года было бы очень трудно угадать многие изобретения следующего века.

Но что-то сказать он бы мог. Учёные предсказывали многие изобретения за десятилетия или столетия до их создания. Иногда технологию можно теоретически осмыслить до того, как инженеры соберут всё воедино.^*

Мы считаем, что один из самых перспективных технологических рубежей, который, вероятно, будет исследовать ИИ, — создание чрезвычайно маленьких инструментов и машин. Ниже мы подробнее разберём эту тему и главные доводы, почему.

Пример биологии

Каждая клетка каждого живого организма содержит кучу разных сложных механизмов.

«Механизмы» тут — не просто метафора. Они маленькие, поэтому работают немного не так, как машины, окружающие нас в повседневной жизни. Но у многих крупных машин есть аналоги в наших телах. АТФ-синтаза вырабатывает энергию в организме подобно водяному колесу. Она использует поток протонов для вращения самого настоящего ротора. Вот анимация из Википедии.

Бактериальный жгутик подобен винту лодки. Он вращается полноценным мотором и продвигает бактерию сквозь жидкости.

Другой пример, упомянутый в книге, — кинезин, крошечный белок, работающий как грузовой робот. Кинезины «шагают» по самособирающимся волокнам, пронизывающим нейроны, и тащат нейромедиаторы куда надо.

Как правило, чем меньше машина, тем быстрее она может работать. Машины размером с молекулу действуют очень быстро. Кинезины делают до 200 шагов в секунду: одна «нога» шагает вперёд, а другая в это время крепко держится за микротрубочку.^†

ИИ умнее человека способен освоить создание, проектирование или перепрофилирование машин в этих крохотных масштабах. Это можно отнести к «биотехнологии», «нанотехнологии» или чему-то среднему. Классификация зависит от масштаба, сходства с существующими биологическими структурами, и от того, «мокрые» конструкции (зависят от воды, как механизмы в живых клетках) или «сухие» (могут работать на открытом воздухе).

Биологические организмы можно рассматривать как творения наноинженерии. Это помогает предположить, чего сможет достичь ИИ умнее человека с помощью более продвинутых науки и технологий, чем всё, что у нас есть сегодня.

(Отдельный вопрос — сколько времени потребуется на изобретение и доработку такой технологии. Cм. обсуждение в Главе 1 книги о том, что машинные суперинтеллекты уже на существующем «железе», вероятно, смогут думать как минимум в 10 000 раз быстрее людей. См. также раздел «А ИИ не будут ограничены своей способностью планировать и проводить эксперименты?» выше. ИИ придётся потратить некоторое время на физические тесты и эксперименты. Но это, вероятно, не станет большой помехой.)

Глядя на сегодняшние достижения инженеров, может показаться невероятным, что, например, сверхчеловеческий ИИ, управляющий биолабораторией, сможет построить микроскопические фабрики, которые используют солнечный свет для бесконечного самокопирования. Ещё более фантастической может показаться идея универсальных микрофабрик, способных принимать инструкции по сборке практически любой машины из доступных ресурсов.

Но такие машины не просто возможны — они уже существуют. Одноклеточные водоросли — это микронные, работающие на солнечной энергии, самовоспроизводящиеся фабрики, способные удваивать своё число менее чем за сутки. А ещё в них есть рибосомы — биологическая версия универсального 3D-принтера или универсальной сборочной линии (универсальной, по крайней мере, когда речь идёт о строительных блоках жизни).

Получив правильный набор инструкций (закодированных в матричной РНК), рибосомы могут напечатать любую структуру, которую можно собрать из белков. Это основа великой сложности и разнообразия биологического мира. Всё многообразие жизни на Земле в конечном счёте собирается этими универсальными фабриками. Они практически в неизменном виде есть во всём — от дикобразов до плодовых мушек и бактерий.

С помощью рибосом можно собирать даже структуры, которые сами не состоят из белка. Белки работают как посредники. Пример такой структуры — кость. Рибосомы производят белки, которые сворачиваются в слабосвязанные ферменты и катализируют превращение кальция и фосфора в особые реагенты. Они затем образуют коллагеновую матрицу. Она направляет кальций и фосфор на свои места, и получается твёрдая, кристаллическая кость.

Природа самим фактом своего существования доказывает, что возможны поистине впечатляющие машины. Их можно создать. Нужно только быть достаточно умным, чтобы использовать рибосомы так, как люди ещё не умеют. Или чтобы с помощью рибосом построить их же улучшенные аналоги.

Но то, что мы видим в биологическом мире, — лишь нижняя граница возможного. Биологические организмы далеки от теоретических пределов энергоэффективности и прочности материалов. Возможно, будучи намного умнее людей, сделать ещё лучше относительно несложно.

Внизу полным-полно места

Вам кажется странным использовать творения природы для оценки, чего смогут достигнуть технологии? В истории науки это обычное дело. Птицы летают, поэтому изобретатели веками пытались это повторить.

Физик Ричард Фейнман продемонстрировал силу этого подхода в лекции 1959 года «Внизу полным-полно места». Фейнман оценил, до каких интересных штук может довести миниатюризация.

Сегодня наблюдения Фейнмана кажутся поразительно прозорливыми. Он рассуждал, что компьютеры могли бы стать куда мощнее, будь в них больше элементов. Но этому мешает то, какими большими они тогда должны были бы стать. Надо миниатюризировать!

Фейнман подсчитал, что для хранения всех написанных человечеством книг потребуется около одного петабита (1 000 000 000 000 000 бит):

Отведём на каждый бит 100 атомов. И, оказывается, вся информация, тщательно накопленная людьми во всех книгах мира, реально записать в кубике материала шириной в одну двухсотую дюйма. Это мельчайшая пылинка, которую можно разглядеть человеческим глазом. Так что внизу ещё полно места! Не говорите мне про микрофильмы!

Мы всё ещё до этого не дошли! Элемент хранения в microSD-карте на 2 терабайта до сих пор размером в 0,6 миллиметра. 1/200 дюйма — это 0,125 мм. А SD-карта вмещает всего 17,6 триллиона бит. Это лишь 1/57 от того, что, по расчётам Фейнмана, понадобилось бы для хранения всех знаний человечества на 1959 год.

Возможно, Фейнман ошибался насчёт пределов реалистичной инженерии. В последнее время прогресс миниатюризации вычислений значительно замедлился. Если что-то физически возможно — это ещё не значит, что инженеры обязательно смогут так сделать.

То, что Фейнман подобрался к будущим достижениям на три порядка, уже можно считать настоящим предсказательным подвигом. Он прочитал свою лекцию за шесть лет до того, как Гордон Мур впервые высказал идею, которую мы теперь называем законом Мура. Люди тогда ещё не считали миниатюризацию неумолимым трендом. Нам не известно, чтобы кто-то ещё в дни Фейнмана предполагал, что однажды может появиться элемент хранения размером с песчинку, который сможет вместить в десять миллионов раз больше информации, чем самые большие ламповые компьютеры 1950-х годов.

Источник: IBM

Но на самом деле Фейнман не ошибся. И он уже тогда знал, что его оценка — с запасом:

Факт, что огромное количество информации можно переносить в чрезвычайно малом пространстве, конечно, хорошо известен биологам [...] вся эта информация содержится в очень крошечной части клетки в виде длинных цепочек ДНК. Там на один бит информации о клетке используется примерно пятьдесят атомов.

Современные компьютеры ещё не миниатюризированы до масштаба ДНК. Но мы удивительно близко подошли к этому за шестьдесят лет. Ширина логических вентилей в передовых коммерческих чипах теперь меньше ста атомов. Они создаются с помощью технологии, позволяющей наносить слои материала толщиной в один атом.

Оказалось, что природные аналоги и физические расчёты «на коленке» — необычайно хороший ориентир для предсказания достижений ближайших десятилетий. А такие вещи могут продвигаться куда быстрее, если научной и инженерной работой занимаются ИИ.

Превзойти биологию

Почему плоть не может быть такой же прочной, как сталь?

Атомы есть атомы. Металлические связи атомов железа прочны, но ковалентные связи атомов углерода в алмазе не хуже. Почему в ходе эволюции у нас не появилась алмазная кольчуга, пронизывающая кожу и помогающая дожить до репродуктивного возраста?

И вообще, если железо такое прочное, что б не эволюционировать так, чтобы питаться железной рудой и отращивать железные шкуры? Инженеры-люди могут, так почему природа не сделала это первой?

Возможно, есть какая-то ситуативная причина, почему именно железные шкуры — не лучшая идея.

Но если не это, почему не что-то другое?

Общий важный вопрос: почему природа далека от границ возможного, рассчитанных из физики или продемонстрированных человеческой инженерией? Есть ли тут глубокий и общий ответ, а не узкий и поверхностный?

Фейнман использовал примеры из биологии, чтобы установить нижние границы возможного при достаточных научных знаниях. Но человеческие технологии много где уже превзошли биологию. Как так, у эволюции же были миллиарды лет на усовершенствование растений и животных? Понимание этого общего явления проясняет, почему нанотехнологии, скорее всего, могут сильно обогнать всё, что встречается в природе.

Можно представить мир, где секвойи хотя бы вполовину так высоки, как самые высокие здания. Можно представить мир с животными, чья кожа хотя бы вполовину так прочна, как самые прочные известные материалы. Но мы живём не в таком мире. Почему природа за несколько миллиардов лет эволюции не приблизилась к физическим пределам вплотную?

Это достаточно глубокий вопрос. Не получится кратко изложить всё, что о нём известно. Но в общих чертах: некоторые области пространства возможных инженерных решений труднодоступны для естественного отбора. И до многих из них гораздо легче добраться инженеру-человеку.

Вот, вроде бы, три основных фактора, почему:

1. Давление естественного отбора ограничено. Ему нужны сотни поколений, чтобы распространить новую мутацию. Те биологические особенности, которые не очень-очень древние, частенько выглядят так, будто созданы в спешке, в условиях нехватки времени.
2. Все творения естественного отбора начинаются как мутация — случайная ошибка в какой-то ранней конструкции. Эволюции трудно исследовать части пространства инженерных решений, далёкие от того, что у организмов уже есть. Ей сложно совершать скачки через пропасти.
3. Естественному отбору трудно создавать новые структуры или исправлять старые, если для этого нужны одновременные, а не последовательные изменения. Это резко ограничивает доступные эволюции конструкции и придаёт творениям биологии «заплаточный», «костыльный», невероятно запутанный по меркам человеческой инженерии вид. Например, вот сложность (известных частей) человеческого метаболизма:

Источник:Reddit

Или вот ещё пример несовершенства эволюции: глаз. Так уж вышло, что у позвоночных нервы в глазу (2 на картинке ниже) расположены поверх светочувствительных клеток (1). Этим нервам нужно выходить из глаза через отверстие сзади (3). А раз там отверстие, то нет светочувствительных клеток. Получается слепое пятно (4). Оно есть у всех позвоночных, включая людей. Мозг прибегает к хитрым уловкам, чтобы «заполнить» эту дыру (например, информацией из другого глаза).

Глаза осьминогов развивались независимо. По случайности у них вышла более разумная конструкция: нервы проходят за светочувствительными клетками. Это позволяет «кабелям» выходить из глаза, не создавая слепого пятна.

Источник:Wikipedia

Или рассмотрим возвратный гортанный нерв жирафа. Он соединяет гортань с мозгом. Вместо того чтобы идти напрямую, этот нерв тянется от гортани вниз по всей длине шеи, неуклюже огибает аорту, возвращается обратно вверх по шее и только потом соединяется с мозгом.

Получается нерв в 4,5 метра (чёрная петля на картинке ниже). В результате, сигнал тратит в десять-двадцать раз больше времени, чтобы пройти от мозга жирафа до его гортани, чем если бы он шёл напрямую.^‡

Источник:Wikipedia

У рыб такая конструкция имела смысл. Их версия гортанного нерва прямой линией соединяла мозг с жабрами. Но если взять эту конструкцию, добавить животному шею и удлинять её, не переделывая «проводку» с нуля, то получится очень корявое решение. Жить можно, но неэффективно.

Со временем эволюция создаёт изумительные конструкции. Но люди и ИИ могут придумывать гораздо более разнообразные и гибкие решения. Причём очень быстро.

Насколько нам известно, первые многоклеточные организмы с дифференцированными и специализированными клетками появились около 800 миллионов лет назад. По человеческим меркам это кажется вечностью. Но эволюция работает гораздо медленнее человеческой цивилизации.^§

Новой мутации, дающей трёхпроцентное преимущество в репродуктивной приспособленности (что относительно много!), в среднем потребуется 768 поколений, чтобы распространиться в популяции из 100 000 скрещивающихся организмов. Если организмов миллион (людей во времена охотников-собирателей, по оценкам, было около того), потребуется 2 763 поколения. И вероятность, что мутация вообще закрепится, а не исчезнет случайным образом — всего шесть процентов.^¶

Грубая оценка из популяционной генетики: «одна мутация — одна смерть». Если ошибки копирования ДНК в каждом поколении вносят десять копий вредной мутации, то в каждом поколении десять её носителей должны умереть или не дать потомства, чтобы просто уравновесить случайный генетический шум.

Это не такая большая плата за сохранение генетической информации, как кажется. У вида с половым размножением один погибший (или один не давший потомства, или один выкидыш) — может унести с собой много вредных мутаций сразу. И за раз удалится больше одного мутировавшего гена. Но это всё равно стандартное объяснение, почему люди лишены многих полезных адаптаций, которые есть у шимпанзе и других приматов. Пока естественный отбор был занят, например, повышением интеллекта, у него оставалось меньше возможностей для сохранения, скажем, всяких обонятельных генов, обеспечивающих тонкое чувство запаха. Они были полезны для выживания. Но не настолько, чтобы сохраниться, пока «внимание» эволюции было направлено в другую сторону.

Большинство жирафов не умирает из-за своего смехотворно длинного гортанного нерва. Наверное, какие-то жирафы давятся веточками, хотя могли бы выжить, реагируй мозг быстрее. Но, вероятно, не особенно часто. А у естественного отбора не так много оптимизационного давления на всё про всё. И не такой уж это высокий приоритет. Сделанная наспех конструкция жирафа в основном работает? Ну и ладно.

Эволюция вообще не может переработать свои конструкции или начать с нуля. Только вносить небольшие изменения. Но даже существуй конструкция получше, для естественного отбора переработка странных лишних усложнений и устранение технического долга — не приоритет.

И естественный отбор никогда не думает наперёд. Так что это не стало бы приоритетом, даже если бы менее дурацкая схема открывала дорогу к другим большим улучшениям жирафа. Естественный отбор не планирует. Это просто застывшая история того, какие гены и организмы уже смогли на практике размножиться.

Способность заметить плохую конструкцию не обязательно означает, что вы сами создали бы жирафа получше. Но люди очень быстро добились поразительного прогресса. Мы изобрели сотни тысяч машин, которые делают то, на что природа не способна. Если и когда ИИ опередят людей в проектировании и смогут выполнять ту же мыслительную работу в сотни тысяч раз быстрее, для них это будет верно вдвойне.

«Проектирование» жирафа естественным отбором ограничено мутациями и рекомбинацией. Ему трудно пробраться к тем частям пространства инженерных решений, к которым не ведёт серия одиночных мутаций. Причём каждая из этих мутаций должна быть выгодна сама по себе. Ему трудно и достичь цели группой мутаций, если каждая из них недостаточно выгодна сама по себе, чтобы распространиться на приличную часть генофонда ещё до их сбора вместе.

Рассмотрим генный комплекс из пяти генов. Пусть каждый из них независимо встречается у десяти процентов популяции. Они имеют лишь один шанс из 100 000 собраться внутри одного организма. Пусть этот комплекс даёт огромное преимущество. Но лишь в одном случае из 100 000. У него почти нет шансов закрепиться в ходе эволюции.

Это не значит, что естественный отбор не может создавать сложные машины. Только то, что его путь к сложным механизмам строится из постепенных выгодных шагов. Чтобы перепроложить нерв жирафа, потребовалось бы несколько одновременных изменений его генома. А каждое по отдельности было бы бесполезно. Поэтому анатомия жирафа остаётся какая есть.

Чудо эволюции не в скорости работы. Она перебирает куда больше, чем инженер-человек, изучающий конкретные примеры. Чудо естественного отбора не в элегантной простоте его конструкций. Один взгляд на схему любого биохимического процесса излечивает от такого заблуждения. Чудо естественного отбора не в надёжной системе исправления ошибок, охватывающей все возможные сбои. Теперь, когда мы реже умираем от голода и травм, бо́льшая часть современной медицины лечит случайные поломки. Те, которые не вызваны внешними повреждениями.

Чудо эволюции — что этот чисто случайный процесс поиска вообще работает.

Слабость белка

Вот ещё один способ, как технология, вероятно, может превзойти биологию.

Плоть состоит из невидимых невооружённым глазом клеток. А клетки состоят из белков, крохотных уже по сравнению с клетками.

Структура свёрнутого белка в основном удерживается молекулярным эквивалентом статического электричества — силами Ван-дер-Ваальса. Они в десятки или сотни раз слабее металлических связей, как у железа, или даже ковалентных, как у алмаза.

Почему биология использует в качестве своего основного строительного блока такой слабый материал? Потому что с более прочным материалом эволюции было бы труднее работать. (А если слишком усложнить эволюции задачу, то никогда не появятся существа, задающие такие вопросы.)

Белки сворачиваются под действием относительно слабых молекулярных сил. Их форма в основном поддерживается статическим прилипанием. Это даёт естественному отбору кучу близких вариантов для исследования. Случайные мутации могут изменять белок и в итоге наткнуться на новую конструкцию, которая делает почти то же самое, но немного лучше.

Если бы организмы вместо этого состояли из молекул, скреплённых прочными связями, изменение одного компонента реже приводило бы к интересно отличающейся (и потенциально полезной) новой структуре. Такое всё ещё бывало бы! Но куда менее часто. А эволюции и без этого надо два миллиарда лет, чтобы изобрести клеточные колонии, и ещё миллиард, чтобы изобрести дифференцированные типы клеток. Так что «куда менее часто» означало бы, что ближайшая звезда раздуется и поглотит вашу планету раньше.

Каждый белок существует благодаря ошибке копирования какого-то белка-предшественника. Этот предшественник не был крепко сцеплен множеством прочных связей. Так ему было бы сложнее эволюционировать. Вот и у нового белка, вероятно, прочных связей тоже немного.

Биохимия иногда всё же добирается до прочных связей. Ранее мы приводили пример с костью. Другой пример встречается у растений. У них эволюционировали белки, которые сворачиваются в ферменты. Эти ферменты катализируют синтез молекулярных строительных блоков. А они окисляются до полимера с плотной ковалентной сшивкой. Это лигнин, строительный материал древесины.^‖

Но это особые случаи. У естественного отбора не хватает «внимания», чтобы таких примеров стало много.

Атомы углерода и других распространённых органических элементов могут составлять что-то прочное. Но эволюции дольше такое искать. У естественного отбора нет времени повсеместно этим заниматься. Только на редкие особые случаи, вкраплённые в остальную анатомию. Кость, лигнин в древесине, кератин в ногтях и когтях.

Правильно подобрав ключевые слова, вы можете спросить, скажем, ChatGPT-o1 (вероятно, когда вы это читаете, LLM такой мощности уже бесплатны) о прочности отдельных углерод-углеродных связей в алмазе, или железо-железных связей в обычном железе, или ковалентных полимерных связей в лигнине, или дисульфидных связей в кератине, или ионных связей в кости. И спросить, как всё это связано со структурной прочностью материала в целом. (В 2023 году вам не стоило этого делать, потому что GPT-4 ошиблась бы во всех расчётах. Но сейчас, в 2024 году, o1, кажется, справляется лучше.)

Вы бы узнали, что прочность связи между двумя атомами углерода составляет порядка половины аттоджоуля. Прочность связи между двумя атомами железа примерно такая же. Сера-серная сшивка в кератине лишь ненамного слабее (0,4 аттоджоуля). Полимеризованные ковалентные связи в лигнине древесины — тоже.

Силы статического прилипания, которые сворачивают белки? Как посмотреть — в лучшем случае в десять раз слабее, а потенциально — в сотни или тысячи раз.

И даже когда растения катализируют вещества вроде лигнина, сшивки там, как правило, реже, чем углерод-углеродные связи в алмазе. Алмаз примерно на три порядка прочнее древесины. Это в основном из-за разницы в плотности и регулярности связей, а не в прочности отдельных.^#

Эволюция как конструктор ограничена. Белки ограничены как строительные материалы. Жизнь действует в рамках, из которых инженеры-люди и ИИ могут выйти. Птицы — чудо инженерной мысли. Но созданные человеком летательные аппараты могут перевозить в десять тысяч раз больше груза и двигаться в десятки раз быстрее самых быстрых и сильных птиц. Биологические нейроны — чудо инженерной мысли. Но созданные человеком транзисторы включаются и выключаются в десятки миллионов раз быстрее. А наши сегодняшние технологии — лишь капля в море достижимого.

Фрейтас и эритроциты

Мы говорили, что биология и близко не подошла к пределу физически возможного. Так что же это за предел?

Для иллюстрации, как можно об этом думать, рассмотрим эритроциты — красные кровяные тельца.

Последние 1,5 миллиарда лет во всех многоклеточных организмах, от людей до ящериц, кислород переносится гемоглобином. Этот белок состоит из 574 аминокислот и ещё четырёх особых гемов, удерживающих по атому железа. В эритроците человека — около 280 миллионов молекул гемоглобина. А его длина — примерно семь микрон. Три миллиона таких клеток могли бы уместиться на головке булавки. А в вашем теле их около 30 триллионов.

Насколько эритроциты близки к пределу возможностей переносить кислород?

Роб Фрейтас, автор книги «Наномедицина», в 1998 году довольно подробно продумал теоретическую конструкцию искусственного эритроцита. Он применял ковалентно связанные материалы. Диаметр спроектированной клетки составлял один микрон, чтобы она легче проходила через закупоренные артерии.

Фрейтас не просто искал другой способ хранения молекул кислорода. Он думал о замене всех функций эритроцита. Опираясь на ранние исследования, он учёл необходимость извлекать из крови глюкозу для питания искусственной клетки. Он размышлял о датчиках необходимого клетке размера и о крошечных компьютерах из твёрдых стержней, стыкующихся друг с другом для выполнения простых вычислений. Он оценивал, не будет ли искусственная клетка оседать в жидкости быстрее наших эритроцитов.

Биосовместимость может быть огромной проблемой для всего, что попадает в человеческое тело. Но алмазные поверхности достаточно инертны. Поэтому в некоторых медицинских устройствах, вводимых в организм, используются плёночные покрытия с алмазоподобной структурой. На уровне теоретизирования Фрейтаса ему хватало сказать, что поверхность искусственной клетки может быть похожа на алмаз и быть биосовместима.

Источник:Nanomedicine

Вишенкой на торте этого проекта был расчёт Фрейтаса, согласно которому сосуд под давлением из монокристаллического корунда или алмаза микронного размера по консервативной оценке выдержит давление в миллион атмосфер. Возьмём комфортный стократный запас прочности и закачаем молекулы под давлением всего в тысячу атмосфер. Это позволит искусственным эритроцитам доставлять в ткани в 236 раз больше кислорода на единицу объёма, чем обычные эритроциты. И хранить аналогичное количество углекислого газа для доставки наружу. Грубо говоря, вы могли бы задерживать дыхание на четыре часа.

Но вот действительно создать такие искусственные эритроциты — совсем другое дело. Поэтому такую медицинскую процедуру в вашей местной поликлинике пока не сделаешь.

Очень легко описать на бумаге, скажем, килограммовую сферу из идеального алмаза. А синтезировать её сложно. Так и тут. Фрейтас помог нам обоснованно предположить, насколько по этой части биология далека от теоретических пределов.^** Она впечатляет, но далека от оптимальности.

Вполне правдоподобно, что по той или иной причине конкретный проект Фрейтаса не сработал бы. И уж наверняка он не оптимален. Первая идея очень новой сложной конструкции почти гарантированно чего-то не учитывает.

Но скептицизм о том, что сработало бы именно предложение Фрейтаса, не означает, что невозможна никакая альтернатива эритроцитам, которая доставляла бы кислород в сотни раз эффективнее биологических эритроцитов.

Инженерия — поиск способа заставить что-то работать. Даже если тысяча путей к созданию чего-то потерпит неудачу, достаточно, чтобы преуспел один. Мириады нерабочих конструкций самолёта в семнадцатом веке означали, что самолёты невозможны. Просто среди потенциальных вариантов их было трудно найти.

Скептики часто правы, что та или иная технология появится позже, чем верят самые восторженные оптимисты. Но скептики, как правило, ошибаются, говоря, что технологическое достижение не состоится никогда. Если решается конкретная задача, мы не знаем, как именно, но известно, что это не противоречит законам физики, история подсказывает: скорее всего как-то добиться успеха можно. Даже если сначала не очевидно, как.

Или, словами писателя и изобретателя Артура Кларка:

Когда уважаемый, но пожилой учёный утверждает, что что-то возможно, то он почти наверняка прав. Когда он утверждает, что что-то невозможно, — он, весьма вероятно, ошибается.

Наносистемы

Коротко повторим:

• Биологический мир состоит из невероятного множества молекулярных машин.

• Изучая биологию, можно понять, до чего технология может дойти в микромире.

• Но биология — лишь нижняя планка возможного. Она далека от пределов. Эволюция — очень ограниченный конструктор, а белок — не самый лучший стройматериал.

«Наносистемы» (1992) Эрика Дрекслера — классическая книга, исследующая, чего может добиться инженерия на малых масштабах. Книга дала толчок революции в наноматериалах 1990-х. Она вызвала немало споров, учёные активно обсуждали доводы Дрекслера. Полную онлайн-копию «Наносистем» можно найти здесь.

«Наносистемы» — глубокий и всесторонний труд. Но, несмотря на техническую тему, на удивление доступный. Ключевой вклад книги — обзор, к чему открывают дорогу новые методы создания мелкомасштабных структур.

Очень маленькие вещи можно создавать химическими реакциями: столкновением молекул в определённых условиях (например, при экстремальном нагреве), чтобы они развалились, и атомы пересобрались в новые молекулы.

Это уже мощный подход. Так создают пластмассы, стали и керамику. Но он меркнет в сравнении с другими методами. Химические реакции — это как собирать что-то из LEGO, насыпав детальки в пакет и хорошенько тряся. Можно что-то получить и так. Но набор возможных конструкций ограничен, и остаётся много отходов.

Синтез белка похож на сборку больших конструкций LEGO из маленьких, уже готовых. Он гораздо точнее. Каждый кусок можно разместить именно там, где нужно. Но всё равно получается странно и неуклюже: приходится собирать всё из заранее подготовленных частей. Это и делают рибосомы: они соединяют цепочки аминокислот в белки, которые затем выполняют множество разных функций.

Инсулин, гемоглобин и АТФ-синтаза в человеческом теле — это всё примеры белковых комплексов, собранных из нескольких соединённых цепочек: двух в случае инсулина, четырёх у гемоглобина и двадцати девяти у АТФ-синтазы.

Аминокислоты — строительные блоки белков. Это молекулы, обычно состоящие из десяти-двадцати пяти атомов. У аминокислот много достоинств в качестве строительных материалов:

• У каждой аминокислоты есть остов, к которому крепится (потенциально длинная) боковая цепь из атомов углерода, водорода, кислорода, азота и серы. Вариантов боковых цепей сотни. Они по-разному себя ведут. Это делает аминокислоты очень гибкими инструментами.

• Остов аминокислоты можно присоединить к остову другой аминокислоты. Как детали LEGO. Это можно повторять снова и снова. Типичный белок состоит из сотен соединённых аминокислот. Это делает аминокислоты ещё более гибкими инструментами (или строительными блоками для них). Заодно сложность белков часто даёт им претерпевать небольшие изменения (через мутации ДНК), не искажаясь радикально и не становясь совершенно бесполезными. Это облегчает эволюцию новых белков.

• Белки состоят из линейных цепей аминокислот. Так что можно однозначно задать белок, перечислив аминокислоты по порядку. Этим пользуется ДНК: «алфавит» из четырёх букв (нуклеотидов) применяется для составления трёхбуквенных «слов» (кодонов). Каждый кодон обозначает свою аминокислоту. Эти «слова» можно выстроить в линейное «предложение» (белок, состоящий именно из этой последовательности аминокислот). (Видео-иллюстрация ДНК.)

• Как показал эксперимент Миллера — Юри, аминокислоты могут самопроизвольно образовываться из простых химических реакций. Это создаёт путь для зарождения жизни (и предшественников рибосом и синтеза белка).

Организмы получают два десятка аминокислот, необходимых для сборки белков, из пищи, или синтезируя их сами, или извлекая из старых белков. Рибосомы получают от ДНК инструкции, по сути, такие: «Используй эту аминокислоту, потом вот эту, потом ещё вот эту, ..., стоп». Затем маленькие молекулярные машины (транспортная РНК) доставляют аминокислоты к рибосоме. И она строит белок по частям.

[embed video or gif: https://www.youtube.com/watch?v=2dV5s6v2v8Q]

Отметим, что особенности из списка выше очень ценны для эволюции, но гораздо менее — для целенаправленного проектирования. Эволюции нужна относительно простая, но гибкая структура, которую можно получить обычными химическими реакциями. Инженер-человек или ИИ волен выбирать из множества несвязанных, не обязательно близкородственных молекул. Ещё ему доступны строительные блоки, которые в природе встречаются редко. И собирать их можно сложными путями, «сверху вниз».

Это подтолкнуло к исследованиям третьего способа создания очень маленьких вещей: механосинтеза. При нём структуры строятся путём прямого перемещения атомов в нужное место. Возможно, с помощью рибосомоподобной машины. Она могла бы собирать гораздо более разнообразные конструкции, чем просто разные белки. В аналогии с LEGO механосинтез — это наконец-то получить возможность работать с отдельными кубиками и ставить каждый именно туда, куда хочется.

В «Наносистемах» обсуждается, какие новые машины можно сделать при помощи механосинтеза. Пример конструкции, которую рассматривает Дрекслер, — планетарная передача, уменьшенная до около 3500 атомов:

[ИЗОБРАЖЕНИЕ гифка https://chem.beloit.edu/classes/nanotech/nanorex/a8_qm_animation5.gif ]

[Источник: https://chem.beloit.edu/classes/nanotech/nanorex/index.html ]

Гемоглобин состоит примерно из 10 000 атомов. Не так уж далеко от шестерни Дрекслера. А некоторые белки обходятся и гораздо меньшим. Инсулин состоит всего из пятидесяти одной аминокислоты. В общей сложности — около 800 атомов.

Но конструкции Дрекслера — большой шаг вниз по масштабу в сравнении с более сложными машинами из живых организмов. Например, рибосомы и АТФ-синтаза состоят более чем из 100 000 атомов. А мотор бактериального жгутика — более чем из миллиона.

«Наносистемы» всё же не пытается исследовать пределы технологически возможного. Но она сосредоточена на примерах, которые относительно легко проанализировать. И они показывают, что механосинтез позволил бы создать технологии, превосходящие то, что мы видим в мире живого.

Расчёты «Наносистем» намеренно консервативны. Дрекслер, например, рассматривает компьютеры из движущихся алмазных стержней. Это не предел технологий. Но в 1992 году их было легче проанализировать, чем вычисления на основе электричества. Это отчасти вдохновило Фрейтаса на его анализ эритроцитов. Четыре года спустя Эрик Дрекслер и Ральф Меркл (более известный как изобретатель криптографического хеширования и соавтор криптографии с открытым ключом) попытались проанализировать систему немного ближе к пределам возможного для обратимых вычислений. У них получилось, что тепловыделение на операцию будет в 10 000 раз меньше, чем оценивалось в «Наносистемах». Впрочем, это уже не такой осторожный консервативный вывод.

В другом месте «Наносистем» есть грубый набросок манипулятора с шестью степенями свободы из миллионов атомов. Позднейшая попытка набросать подобную машину атом за атомом показала — хватит и 2596.

Создание атомарно точных структур на масштабах, о которых говорит Дрекслер, сопряжено с большими инженерными трудностями. Одна из главных проблем — нужны невероятно маленькие и точные манипуляторы. Но существование рибосом открывает потенциальный путь решения этой задачи.

Рибосомы могут строить только белки. Но белки могут катализировать и перемещать реагенты, которые сами не являются аминокислотами. Как в случае с костью и древесиной. Рибосомы — мощные и универсальные фабрики. Их продукцию можно использовать для постепенного создания всё меньших и более точных инструментов. Включая те, что напрямую строят меньшие устройства из более прочных материалов.

Будь то прямо или косвенно, но почти наверняка от генома можно дойти до крошечных приводов, способных манипулировать отдельными атомами для создания разных штук, уже не состоящих из белков. Что важно — это не тот механизм, на который может случайно наткнуться естественный отбор. Даже сравнительно простая рука-манипулятор бесполезна, пока не собрана полностью.

Созданные эволюцией сложные структуры должны быть полезны на каждом этапе пути. Разумным инженерам доступно многое, что недоступно эволюции. Даже среди относительно простых конструкций. Например, свободно вращающиеся колёса — невероятно простое изобретение с огромным разнообразием применений. Но, по-видимому, за всю историю жизни на Земле они эволюционировали всего три раза: в уже упомянутых нами АТФ-синтазе и бактериальном жгутике, и в жгутике архея, который, похоже, развился независимо.^††

Несмотря на консервативные методы, заданная «Наносистемами» нижняя планка уже очень высока. Суперинтеллект с описанными Дрекслером технологиями смог бы создать крошечные самовоспроизводящиеся фабрики, похожие на рибосомы. Они бы удваивали свою численность каждый час (некоторые организмы размножаются ещё быстрее, но расчёты консервативны) и могли бы объединяться для постройки более крупных макроскопических структур, вроде электростанций.

Такие наносистемы могут самовоспроизводиться, используя в качестве сырья солнечный свет и воздух. Это позволяет им очень быстро и надёжно расширяться. Деревья же могут собирать строительные материалы буквально из воздуха, извлекая углерод и запасая его в виде древесины. Мы думаем о воздухе как о «пустом пространстве», но углерод, водород, кислород и азот — это строительные материалы, которые можно перестроить в твёрдые вещества и использовать для самых разных целей.

Самовоспроизводящиеся машины в духе «Наносистем», будучи сделанными из материалов вроде железа или алмаза, а не из белка, могли бы прогрызать биологические клетки как газонокосилка срезает траву.

Им несложно было бы синтезировать что-то вроде ботулотоксина — белка, вызывающего ботулизм. Смертельная доза ботулотоксина — это миллионная доля грамма — в двадцать тысяч раз меньше одного рисового зёрнышка. Тщательно спроектированные репликаторы могли бы невидимо распространяться по воздуху, пока почти каждый человек (кроме, например, месяц безвылазно торчавших на подводной лодке) скорее всего не вдохнул хотя бы один. В этот момент устройства могли бы (по таймеру) синхронно высвободить крошечную дозу токсина. Это немедленно и одновременно убило бы почти всех людей.

Или построенные ИИ наносистемы могли бы уничтожить людей случайно. Просто по ходу сбора и переиспользования ресурсов Земли. В одной статье Фрейтас подсчитал: машины микрометрового диаметра, использующие для энергии только солнечный свет, а для сырья — водород, углерод, кислород и азот из воздуха, можно спроектировать, чтобы они размножались столь быстро, что через три дня заслонили бы небо. А попутно поглотили бы всю биосферу.^‡‡ Так что если первый ИИ, достигший подобных технологий, обладает форой в несколько месяцев. Ему, вероятно, хватит её, чтобы уничтожить всех конкурентов. Будь то люди или другие ИИ. Эта технология даёт перманентное и решающее стратегическое преимущество первому обладателю.

Нанотехнологии в духе Дрекслера достижимы в принципе. Но это ещё не значит, что ранние ИИ умнее людей действительно смогли бы приблизиться к этим физическим пределам. Мы думаем, суперинтеллекту это вполне по силам. Решение подобных инженерных задач кажется в основном мыслительной проблемой. Её можно решить, подумав. А фаза экспериментов и тестов тут вряд ли займёт много времени (см. раздел «А ИИ не будут ограничены своей способностью планировать и проводить эксперименты?» выше).

В любом случае, нет никакой гарантии, что суперинтеллект будет использовать нанотехнологии для создания собственной инфраструктуры и захвата мировых ресурсов. Вероятно, он разработает методы и технологии, которые позволят ему достичь своих целей ещё быстрее и эффективнее.

Но если ИИ умнее человека действительно сможет создавать системы, рядом с которыми клетки — как птицы рядом с самолётами, и распространить свою инфраструктуру по всей Земле — то избранный им в итоге вариант даст как минимум столь же решающее преимущество.

Смысл всего этого анализа: человеческие технологии далеки от пределов возможного. Есть много важных технологий, на которые человечеству, вероятно, потребуются десятилетия, века или тысячелетия, но сильным искусственным интеллектам — куда меньше.

«Нанотехнологии» хорошо иллюстрируют, что суперинтеллект, вероятно, смог бы найти технологическое решение для захвата планеты. И довольно быстро.

Наиболее вероятный исход создания суперинтеллекта — он придумает что-то, как минимум, настолько же мощное, как нанотехнологии. А затем человечество проиграет.

Основной вывод книги от этого не зависит. Человечество проиграет суперинтеллекту, даже если нет никаких технологий «мгновенной победы». Поэтому в самой книге мы не углубляемся в этот анализ.

Во второй части мы специально рассмотрели сценарий захвата, в котором у ИИ нет ничего вроде универсальной поатомной сборки. Ни рибосомами, ни механосинтезом. Суперинтеллект не обязан обладать абсолютно подавляющим технологическим преимуществом, чтобы завоевать контроль над будущим. Поэтому в книге мы не уделяем этой возможности слишком много внимания.

Но стоит отметить, что, вероятно, абсолютно подавляющее технологическое преимущество у него будет.