Мы не эксперты в международном праве. Это невероятно сложная тема. Нужны огромные усилия профильных специалистов по ней. Однако, чтобы сдвинуть дело с мёртвой точки, мы вместе с нашей командой по техническому регулированию и внешними консультантами набросали несколько идей и предположений о мерах, которые могли бы сработать.

Так мы хотим запустить обсуждение, споры, критику и доработку. Ни в коем случае не считайте эти черновики окончательными или авторитетными.

Для начала, давайте разберёмся с ограничениями и сутью задачи. Об этом можно было бы написать отдельную книгу. Глобальная цель — предотвратить создание машинного суперинтеллекта на десятилетия. Мы не знаем, где проходят критические пороги. Так что, по сути это означает полную остановку исследований и разработок ИИ.

Нынешний прогресс ИИ держится на сочетании трёх факторов: создании лучших чипов, использовании большего количества чипов для более длительного обучения и на улучшении алгоритмов. Мы разберём каждый из них по очереди. Посмотрим, какие рычаги помогут остановить движение к искусственному суперинтеллекту.

Предотвратить появление более многочисленных и мощных чипов для ИИ.

Развитие способностей современных ИИ требует огромных вложений вычислительной мощности и электроэнергии. Государства могут выявлять и отслеживать все места, где это реально делать. Предотвратить появление новых ИИ можно, почти не трогая потребительское «железо».

Цепочка поставок для производства передовых чипов очень конкретна. Некоторые её звенья обеспечиваются всего одной компанией в мире. Обычно, в традиционно союзных США странах, производить сами чипы для ИИ может лишь несколько фирм. В основном — тайваньская TSMC. А кое-что необходимое для этого делает только голландская ASML. Речь о машине экстремальной ультрафиолетовой литографии. Она размером со школьный автобус, весит 200 тонн и стоит сотни миллионов долларов.

Эта цепочка — результат десятилетий инноваций и инвестиций. Скорее всего, её будет весьма трудно воспроизвести. Вероятно, даже у технологически развитых стран на это уйдёт больше десяти лет.

Ещё самые продвинутые ИИ-чипы весьма специализированы. Их отслеживание почти не вызовет побочных эффектов. NVIDIA H100, один из самых распространённых ИИ-чипов на середину 2025 года, стоит около \$30 000. Он создан для работы в дата-центре и требования к охлаждению и питанию у него соответствующие. Он оптимизирован для численных операций при обучении и запуске ИИ. Такие чипы в десятки, а то и тысячи раз производительнее потребительских компьютеров в этих задачах.^*

Концентрация и сложность цепочки поставок сильно упрощают остановку разработки передового ИИ. Остановить производство новых ИИ-чипов довольно просто. Чтобы не допустить создания тайных цепочек, потребуется лишь минимальный контроль небольшого числа ключевых поставщиков.

Часть инфраструктуры у ИИ-чипов — общая с другими передовыми микросхемами (например, для телефонов). Но есть заметные различия. Вполне реально остановить производство передовых ИИ-чипов, но выпускать чипы, не специализированные для ИИ.

Уже существующие ИИ-чипы можно отслеживать. Оставить их для работы нынешних ИИ вроде ChatGPT. Гарантировать, что их используют только для слабых ИИ (а не для новых исследований) — непросто, но вполне возможно. Можно мониторить, где они. Есть предложения механизмов, которые позволят мониторить, для чего чипы используются. Это потребует физического доступа (инспекторы будут посещать дата-центры с проверками). Для новых чипов, сразу произведённых с защитными механизмами с расчётом на мониторинг, может хватить и удалённого. Как мы обсудим дальше, опасная концентрация чипов (при алгоритмах августа 2025 года) так велика, что государствам будет нетрудно найти все такие объекты и регулярно их инспектировать.

Предотвратить использование для ИИ более мощных чипов.

Перейдём от производства к использованию. Сейчас крупнейшие дата-центры для ИИ вмещают сотни тысяч чипов стоимостью в миллиарды долларов. Чтобы обучить топовый современный ИИ, эти чипы нужно использовать месяцами напролёт.

Каждый чип потребляет энергии как средний американский дом. Дата-центр с сотнями тысяч чипов — как небольшой город. Ему нужна специальная энергетическая инфраструктура, начиная с ЛЭП. А ещё это довольно крупные здания. У них характерный тепловой след — там же непрерывно работает огромное количество энергоёмких чипов.

Внутри здания тысячи чипов стоят в серверных стойках с мощной системой охлаждения, чтобы не перегревались. Зайдя внутрь, сразу поймёшь: это дата-центр. Скрыть их назначение от международных инспекторов не выйдет. Особенно если те проверят чипы и увидят, что они специализированы для ИИ.

Крупные дата-центры и их энергетическая инфраструктура огромны и распознаются со спутников. Пожелай государства их найти, у них, скорее всего, получится. И в своих границах, и в других странах. Публичные данные ограничены, но отследить большинство топовых ИИ-чипов можно даже так.

Государства могут пытаться спрятать дата-центры, чтобы их было не обнаружить со спутников. Например, укрыть в горе (как комплекс Шайенн-Маунтин, где сидит NORAD). Но и этим способом будет трудно спрятать инфраструктуру.

Больше всего центры выдают огромные потребности в электричестве. ЛЭП почти всегда расположены над землёй. Их можно закопать, но это куда дороже и дольше. Да и сами земляные работы сложно скрыть.^†

Пока для обучения передового ИИ нужно больше сотни тысяч чипов, государства вполне могут обнаружить и отследить каждый значимый дата-центр.

Предотвратить прогресс алгоритмов.

Более эффективные алгоритмы могут снизить, сколько вычислений нужно для обучения ИИ. Или позволить создавать более продвинутые ИИ на тех же вычислительных мощностях. Или и то, и другое.

Исследования и инженерия, продвигающие алгоритмы, сейчас зависят от навыков и усилий людей.^‡ Это весьма редкие навыки. Потому у ведущих исследователей в этой сфере такие огромные зарплаты.

Эти навыки редки сейчас. Но неясно, как всё изменится, когда в сферу придёт больше исследователей, а знания станут доступнее. Смотря как считать. И таких людей сотни, или, может, несколько тысяч (судя по штату исследователей и инженеров в ведущих ИИ-компаниях). Консервативные оценки могут быть и куда выше. Например, в мире десятки миллионов программистов.

Законотворческие и социальные меры, вероятно, могут резко замедлить алгоритмический прогресс. Большинство людей не хотят нарушать закон. Особенно когда есть реальные последствия. Если сделать публикацию исследований или эксперименты незаконными из-за катастрофических рисков мощного ИИ, это, вероятно, остановит почти всех потенциальных исследователей. (См. раздел «Зачем запрещать исследования? Это уж слишком радикально.» выше.) Ещё государства могут ввести экспортный контроль. Тогда незаконным станет делиться такими исследованиями или публиковать их без лицензии и одобрения.

Социальные табу тоже помогли бы. Пример — Асиломарская конференция по рекомбинантной ДНК 1975-о года. Она привела к добровольному мораторию на биологические эксперименты, сочтённые слишком рискованными. Теоретически учёные могут сделать то же с развитием ИИ. Но тогда им надо воспринять всерьёз опасность ИИ умнее человека. А это отход от статуса-кво. Сейчас во многих кругах развитие ИИ восхваляют. Учитывая краткосрочные денежные стимулы и поведение лабораторий, без внешних ограничений законом не обойтись. Разве что культура области радикально (и быстро) изменится.^§

Чтобы даже несовершенный запрет стал достаточно эффективным, очень важно, чтобы мировые лидеры действительно понимали — если продолжить давить на газ, погибнут лично они и их семьи. Самые вероятные сценарии нарушения — если государства решат, будто собственный суперинтеллект — это стратегический актив (или что это иллюзия, отвлекающая от прибыльных ИИ-инструментов). Если они не будут видеть в нём кнопку для всеобщего самоубийства. Вряд ли государства станут вести секретные разработки СИИ, понимая, что это равносильно тому, чтобы зарядить пистолет, приставить к виску и спустить курок.

Запреты исследований остановят не всех. Некоторые видные учёные и руководители компаний уже заявляли, что уничтожение человечества — приемлемая цена за прогресс. Но запреты всё равно нужны. Если такие люди будут лишены финансирования, а коллеги объявят им бойкот, алгоритмический прогресс хотя бы замедлится. Им придётся вести свои смертельные исследования подпольно и без сотрудничества более добросовестных учёных.

Чем дольше ждём, тем труднее будет

Если производство и сбыт ИИ-чипов продолжат идти нынешним курсом, обеспечить их централизацию и мониторинг станет только труднее. Даже если государства пока не убеждены в опасности, начало международного отслеживания ИИ-чипов сегодня сохранит возможность будущего вмешательства. Если не принять мер быстро, окно возможности может скоро закрыться.

Если исследователям будет позволено и дальше улучшать алгоритмы ИИ, количество чипов, достаточное для серьёзной угрозы, будет всё уменьшаться. Если и когда часть разработки ИИ можно будет автоматизировать теми же ИИ, это особенно затруднит контроль. Такие системы можно будет легко копировать и распространять. А их требования к железу могут стать незначительными. (Ведь для запуска ИИ они куда ниже, чем для обучения.)

В итоге остановка разработки суперинтеллектуальных систем может стать непосильной. Мы ещё не там. Но с каждым месяцем это всё сложнее. Наш план основан на остановке уже скоро. Есть и другие планы, без этого допущения. Но их сложнее реализовать. И они требуют больших жертв личными свободами. И шанс провала у них выше.