С компьютерами самое сложное — вообще заставить их решить ту или иную задачу. Масштаб и скорость — дело быстрое.

Интуиция подсказывает: «чтобы захватить мир, нужна цивилизация». Для людей это верно. Но совсем не очевидно, насколько эта идея применима к ИИ. ИИ не похожи на людей. Они могут быть куда способнее любого человека. А один экземпляр ИИ не обязательно сопоставим с одним человеком.

Стоит не забывать и что суперинтеллект как раз может чрезвычайно быстро обзавестись аналогом целой цивилизации.

Для большинства доступных компьютерам задач переход от «компьютеры могут это делать» до «компьютеры могут это делать в огромных масштабах и намного быстрее любого человека» очень быстрый. Подумайте, скажем, о калькуляторах.

Некогда только самые мощные компьютеры могли распознавать речь, обрабатывать видео или отображать 3D-графику в реальном времени. Но это было недолго.

ИИ, как и обычные программы, можно быстро скопировать на все доступные компьютеры. Новые компьютеры можно делать с промышленными скоростями.

Сравните с людьми. Создание и воспитание нового человека требует значительных ресурсов и десятилетий. А вот как только у вас есть ИИ с определённым уровнем способностей, вы можете немедленно его скопировать. Уже обученный, «взрослый», сколько угодно раз, с минимальными затратами.

В некотором смысле, аналог целой (небольшой) ИИ-цивилизации появляется сразу же, когда компания выкатывает новую модель в свои дата-центры и запускает столько её копий, сколько нужно для удовлетворения спроса.^* Сегодня они не работают скоординировано. Но когда компании стремятся к максимальной производительности любой ценой, они используют группы параллельных агентов.

Получается, скорее всего, не так много времени пройдёт между «ИИ достаточно умны, чтобы миллион копий мог захватить мир» и «миллион копий действительно запущен». Рост популяции, занимающий у людей века, у ИИ может произойти за минуты.

Что же касается физической инфраструктуры цивилизации. Мы полагаем, что ИИ сможет продуктивно использовать человеческую инфраструктуру, пока не разработает способы более переустраивать материю по своему усмотрению. Ему не нужно с нуля сооружать себе цепочки поставок и вычислительную инфраструктуру. Он может использовать наши компьютеры. Ему не нужно с нуля изобретать промышленные станки. Он может взять под контроль те, что мы уже любезно предоставили. И он может использовать нашу инфраструктуру для перехода к своей собственной, существующих роботов — для постройки новых, более эффективных роботизированных заводов, а существующие лаборатории синтеза ДНК — для создания собственных биотехнологий. Пока не станет полностью самодостаточен.

Люди начали кучкой голых особей в саванне и дотащили себя до технологической цивилизации. И мы не такие уж умные. Для суперинтеллекта не так сложно было бы повторить этот подвиг. Особенно — если он начинает с уже существующей промышленной базой человечества.