Страны захотят убедиться, что существующие ИИ-чипы не используются для опасного обучения ИИ. Но будут и законные причины использовать эти чипы для запуска существующих ИИ-сервисов (например, уже существующих версий ChatGPT). Чтобы разрешить это противоречие, ISIA может проверять, для чего ИИ-чипы используются. Так будет гарантия, что они не заняты в запрещенной деятельности.

Это положительный стимул для присоединения к Договору: тогда вы можете продолжать использовать ИИ-чипы. Но только пока надзор может подтвердить, что вы не используете их в нарушение Договора (например, для крупномасштабного обучения ИИ). Постоянный мониторинг ISIA может показаться нежелательным, но мы считаем, что это лучший путь.

Для предотвращения крупномасштабного обучения ИИ есть два основных подхода. Первый — гарантировать, что необходимого оборудования ни у кого нет. (т.е. ИИ-чипам нельзя существовать). Второй — гарантировать, что существующее оборудование не используют для крупномасштабного обучения (т.е. отслеживание чипов и проверка их использования, как описано в Статьях V, VI и VII). Это по сути аналогично мерам, которые применяет МАГАТЭ. Чтобы стране, не обладающей ядерным оружием, разрешили иметь ядерные материалы и объекты, МАГАТЭ проводит инспекции и гарантирует использование только в мирных целях.

Для эффективной проверки использования чипов, ISIA должны иметь возможность увериться, что чипы не используются запрещенными способами. Простой способ — выключить их все. Но тогда Стороны не смогут с пользой применять чипы в безопасных целях. Проверку можно облегчить техническими средствами. С оговоркой, что в нынешних технологиях, вероятно, есть уязвимости, которые позволили бы обходить мониторинг. Эти технологии сейчас в зачаточном состоянии. Так что проверка, вероятно, потребует либо постоянного мониторинга на месте, либо отключения чипов до появления технических средств получше. Вот тогда сильные аппаратно-реализованные механизмы управления смогут позволить уверенно контролировать чипы удаленно.^*

Некоторые ограничения облегчат мониторинг использования чипов. У разных рабочих нагрузок, например, обучения и использования ИИ, разные технические требования. Потенциально (если эти различия достаточно надежны), можно строить проверку на этом.

Например, одним из механизмов проверки могли бы быть ограничения межсоединений: объема связи чипов со внешним миром через сетевые кабели с низкой пропускной способностью. По сути, можно взять небольшой набор чипов (скажем, 8 H100) и ограничить их внешнюю коммуникацию так, чтобы их можно было эффективно использовать для вывода, но не крупномасштабного обучения ИИ. Обучение (при алгоритмах 2025 года) требует гораздо больше коммуникации, чем вывод. Когда запуск существующих ИИ приемлем, а обучение новых — нет, это может быть хороший план.

В этих и многих других потенциальных механизмах проверки есть еще много разных нюансов. Любопытные читатели могут ознакомиться с предыдущимиработамипо этой теме. Перед ISIA ставится широко определенная задача разработки и реализации лучших механизмов проверки. Мы считаем, что эта гибкость необходима из-за быстро меняющейся сферы ИИ. Да и сложно прогнозировать, что могло бы помешать проверкам. Исследования верификации ИИ тоже в зачаточном состоянии. Чтобы у ISIA появился надежный набор инструментов, нужны новые разработки.

Статья IV запрещает крупное обучение ИИ. Если высокоспособные (и, следовательно, опасные) ИИ еще не были обучены к моменту начала проверок, те могут сосредоточиться именно на обучении. А вот если достаточно способные ИИ уже созданы, может потребоваться отслеживать еще и то, не работают ли они на ИИ-чипах или чем занимаются. Тогда проверка не сможет быть сосредоточена только на предотвращении обучения. Существование достаточно опасных ИИ-систем (например, способных существенно способствовать разработке новых ИИ) сильно усложнит проверки. Удостовериться, что они не делают ничего запрещенного, куда сложнее, чем что не происходит крупномасштабного обучения. Отличить обучение от запуска, вероятно, куда проще, чем запуск для одной задачи от запуска для другой. Так что работа этого Договора была бы сильно проще, если развитие возможностей ИИ остановить в скором времени. Чем дальше движется прогресс, тем больше работы, расходов и ограничений может потребоваться.

Еще может быть желательно отслеживать выводы ИИ, для гарантии, что они не используются во вредных целях. Многие ИИ-компании это уже делают. Например, для обнаружения попыток пользователей применять ИИ для создания биологического оружия. Если получится снизить риски для конфиденциальности и безопасности, такой мониторинг можно применить и глобально.

Пункт 5 этой Статьи позволяет ISIA применять разные методы проверки для разных CCC. Одна из причин — практическая: для обоснованной уверенности, что не происходит опасная разработка ИИ, на разных CCC нужны разные подходы. Например, крупные дата-центры, которые уже использовались для обучения передового ИИ, тут особо опасны, и для них может потребоваться больше мониторинга.

Во-вторых, разные подходы к проверке позволяют менее инвазивный мониторинг для особо значимых для нацбезопасности CCC. Это делает Договор более приемлемым. Например, спецслужбы или военные не захотят, чтобы ISIA мониторило их дата-центры. Но проверить, что они не используются для опасной деятельности в области ИИ, все равно надо. Это положение помогает найти баланс. ISIA работало бы с этими группами, чтобы гарантировать получение необходимой информации удовлетворительными для владельцев CCC в аспектах конфиденциальности и безопасности способами. С другой стороны, разрешение разных протоколов может и навредить жизнеспособности договора, если это будет воспринято как несправедливость. Особенно если принятие таких решений будет несбалансированным.

Согласно этому договору все еще можно использовать и производить ИИ-чипы. Это даст миру выгоду их безобидных приложений. Альтернативный подход — закрыть производство новых чипов и/или уничтожить существующие. Если уничтожить чипы, это сильно увеличит время на нарушение договора — от начала опасной деятельности до успеха, если ее не остановить. Нарушителям пришлось бы сначала произвести много ИИ-чипов. Это, вероятно, было бы заметно и заняло бы годы или десятилетия, в зависимости от состояния цепочки поставок чипов. Так что этот вариант выгоден тем, что разработать опасный ИИ становится намного сложнее. Но и цена большая — мир не сможет пользоваться этими чипами во благо. Мы считаем, что отслеживать чипы и проверять их использование реально. Поэтому мы избрали для нашего проекта договора этот путь, а не путь ликвидации ИИ-чипов. Но у обоих свои достоинства.