Конкретные численные пороги из нашего черновика можно и нужно будет пересмотреть. Но вообще для международных договоров количественные ограничения — обычное дело. Они предотвращают споры о трактовке общих качественных указаний.

Договор об ограничении подземных испытаний ядерного оружия 1974 года установил потолок в 150 килотонн для США и СССР.^* Целью (и эффектом) договора было хоть немного, но помешать созданию более разрушительных боеголовок — «разрушителей городов». Параллель с ИИ очевидна. На середину 2025 года более мощным и обобщенным (а значит, и опасным) моделям нужно больше обучения. Ограничения в нашем договоре нужны, чтобы не дать намеренно создать такие ИИ. Дополнительная польза: это снижает риск случайного безвозвратного пересечения опасной границы.

Мы предложили начать с ограничения ниже уровня некоторых сегодняшних моделей. Это уместно, потому что новые модели при тех же затратах на обучение станут мощнее (см. статью VIII). В договорах о сокращении вооружений есть прецеденты ограничений ниже уже достигнутых значений. Вашингтонское морское соглашение 1922 года ограничило водоизмещение кораблей. Выполняя его, США и другие державы пустили на лом десятки линкоров.^† В Статье II договора СНВ-1 (1991 год)^‡ США и СССР (а позже — Российская Федерация) согласились ограничить ядерные арсеналы. Каждой стороне пришлось списать более четырех тысяч боеголовок.

Прецедент того, как ограничения помогают смягчить риски нарушений, мы обсудим после Статьи V.