Примечания | Если кто-то его сделает, все умрут | If Anyone Builds It, Everyone Dies

Примечания

Как и другие международные органы, ISIA будет укомплектовано дипломатами и техническими экспертами из стран-подписантов. Основной смысл описанного выше: ISIA наделяется полномочиями реализовывать большую часть требований договора и обновлять некоторые аспекты договора с течением времени.

Этот подход ставит во главу угла предотвращение создания суперинтеллекта и поддержание силы договора до тех пор, пока мир не будет готов двигаться дальше. Так проект наделил бы эту многонациональную организацию полномочиями для большей части того, что надо делать. ISIA централизует выполнение нескольких ключевых функций договора, в том числе поддержку точных ограничений разрешенных исследований, разработки и развертывания ИИ. Еще Агентство — основной верификатор соблюдения договора. Оно же консолидирует конфиденциальную разведывательную информацию от подписантов. Критически важно, что совместная работа ISIA со временем укрепляет необходимое доверие между сторонами договора.

Однако это все не дается бесплатно. В первую очередь, большая централизация требует большего доверия от стран-подписантов. Желательные участники договора могут счесть политически неприемлемым передачу полномочий такого уровня международной организации. Или они могут не доверять организации, опасаясь, что она будет действовать недостаточно независимо от влияния ее наиболее могущественных членов.

Альтернативный механизм мог бы централизовать только самое необходимое. Например, поддержание и разъяснение ограничений на исследования, разработку и развертывание ИИ. При этом отдельные подписанты могли бы самостоятельно проверять соблюдение требований.

Еще один вопрос — насколько инклюзивным делать такой договор. В нашем примере создается многосторонняя организация. Всем государствам предлагается подписать договор и участвовать в его исполнении. Альтернатива — договор, ориентированный, например, только на Китай и США. Он создавал бы узконаправленный двусторонний режим проверки. Это было бы полезно для каждой стороны при как можно меньших жертвах автономией и прозрачностью. И каждой стороне была бы поставлена отдельная последующая задача по привлечению других государств.

Суть этого примера договора — продемонстрировать, как мог бы выглядеть международный контроль, если бы мировые лидеры осознали насущную опасность. Вот мы и обрисовываем структуру, которая работала бы со многими Сторонами. И каждая что-то выигрывала бы от присоединения к договору.

Потому наша структура Исполнительного совета ISIA включает всех постоянных членов Совета Безопасности ООН и смоделирована по образцу состава МАГАТЭ.

Учитывая статус TSMC как ведущего производителя ИИ-чипов, любой договор по ИИ должен учитывать вопрос Тайваня. Мы решили тут использовать прецедент ДНЯО. В идеале Тайвань реализовал бы формальные договоренности и/или декларации, заявляющие, что он считает себя связанным принципами этого Договора. Это означало бы фактическое соблюдение Договора. Самое важное, что Тайвань согласился бы на проведение на местах плановых инспекций и/или инспекций по запросу. Это нужно, чтобы гарантировать соблюдение им принципов договора.

Как именно Исполнительный совет и ISIA должны принимать решения и какие полномочия делегируются различным органам — открытые вопросы. Эта Статья предлагает один из вариантов. Тут значительная власть выдается Техническому секретариату. А Исполнительный совет получает надзорные полномочия.

Одно из преимуществ этой структуры — так технический орган может быстро принимать решения и обладает широкими полномочиями для выполнения своей миссии. Но любые изменения требуют одобрения простым большинством членов Исполнительного совета в течение 30 дней, а иначе перестают действовать. Мировым лидерам может быть некомфортно делегировать столько власти техническим экспертам. Но и технические эксперты, скорее всего, не будут доверять геополитическим игрокам в решении заковыристых технических вопросов, которые возникнут при реализации Договора. И еще в том, что политики будут достаточно адаптивны, чтобы вовремя реагировать на изменения технической ситуации. Мы привели лишь один вариант, как сбалансировать полномочия по принятию решений. Есть и много других.

Один из таких подходов: сильнее разделить обязанности, определения и типы гарантий, реализуемых ISIA. (Например: пороги FLOP для обучения, определение CCC, определение ИИ-чипа, считать ли конкретный объект заводом по производству чипов, протоколы проверки использования чипов, определение Ограниченных Исследований и т.д.) Можно установить разные процедуры голосования для этих изменений в зависимости от их важности.