Примечания | Если кто-то его сделает, все умрут | If Anyone Builds It, Everyone Dies

Примечания

Это определение ИИ адаптировано из Закона сенатора Чака Грассли о защите информаторов в сфере ИИ. Возможно, оно слишком широкое. Наверное, его нужно будет уточнить, чтобы исключить явно безопасные компьютерные системы, вроде проверки орфографии или распознавания изображений.

При текущей парадигме развития ИИ это определение, вероятно, вполне подойдет. Разработку ИИ довольно легко отличить от всего остального из-за использования огромных вычислительных ресурсов. Но окончательное определение ИИ должно распространяться не только на глубокое обучение и даже не только на ML. Машинное обучение сейчас доминирует, но Договор должен учитывать возможность изменения парадигмы. Иначе запрет только ML подтолкнет исследователей на развитие новых парадигм, чтобы создать более мощные и обобщенные ИИ. Это может привести к катастрофическим последствиям. При смене парадигмы Договор, вероятно, придется обновить. Особенно если она будет требовать меньше ИИ-чипов, чем глубокое обучение.

Мы используем эквивалент H100 как основную метрику вычислительной мощности. В Статье V это определяет размер крупнейшего разрешенного без мониторинга кластера чипов (16 эквивалентов H100).* Статья IV задает пороговые значения через общее количество операций для обучения ИИ. Так мы ограничиваем операции в секунду без мониторинга. Фактически, это делает незаконно большой запуск обучения без присмотра непосильно долгим.

Мы используем эквиваленты H100, чтобы учесть — разных ИИ-чипов много, но больше всего нас волнует, сколько операций они могут выполнить за определенное время. Есть и другие важные метрики чипов, например, память с высокой пропускной способностью. Но мы в целом считаем их менее важными, чем количество операций в секунду. Эквивалент H100 как единица измерения — довольно стандартен при обсуждениях вычислительной мощности.

Наше определение подпадающего под действие кластера чипов (CCC) — первая прикидка, как провести границу. В идеале она должна быть достаточно высокой, чтобы обычные люди не нарушали правила (пропускная способность 25 Гбит/с между шасси — это быстрее, чем интернет вне дата-центров; для частного лица владеть более чем 16 эквивалентами H100 — очень нетипично и дорого). Но и достаточно низкой, чтобы предотвратить опасную деятельность в области ИИ и затруднить обход правил (т.е. усложнить распределенное обучение на нескольких кластерах, которые еще не CCC). Мы подробнее это обсуждаем в комментарии к Статье V.

ИИ-чипы — подмножество передовых компьютерных чипов. Нет четкой границы, отличающей ИИ-чипы от остальных. Вместо того, чтобы определять это различие и полагаться на него, мы используем общую вычислительную мощность (операции в секунду) кластера в эквивалентах H100. Если чипы можно настроить для обучения или запуска ИИ, и они превышают заданный порог, Договор требует их мониторинга.

Заметьте, термин «Национальные технические средства» (НТС, в оригинале National Technical Means) некоторые правительства могут считать устаревшим. Мы используем его тут для удобства сравнения с прошлыми соглашениями о контроле над вооружениями.


* Это вдвое больше того, что мы в книге упоминали как явно безопасное. Это, скорее всего, все еще хоть какое-то время безопасно. Оценка (и изменение с течением времени) правильных ограничений — предмет Статьи III, Статьи V и Статьи XIII.