Anmerkungen
Die Vertragsparteien möchten sicherstellen, dass vorhandene KI-Chips nicht für gefährliche KI-Trainingszwecke verwendet werden. Es gibt legitime Gründe, diese Chips für den Betrieb bestehender KI-Dienste wie (vorhandene Versionen von) ChatGPT zu verwenden. Die ISIA verlangt daher die Möglichkeit, zu überprüfen, dass KI-Chips nur für zulässige Aktivitäten verwendet werden.
Dieser Artikel schafft einen positiven Anreiz, dem Vertrag beizutreten: Ein Land kann KI-Chips weiterhin verwenden, solange durch Überwachung sichergestellt werden kann, dass ihre Verwendung keine Gefahr für die Welt darstellt. Angesichts des Ziels, groß angelegtes KI-Training zu verhindern, gibt es zwei Hauptansätze: Sicherstellen, dass niemand über die erforderliche Hardware verfügt (d. h. dass es keine KI-Chips gibt), oder sicherstellen, dass die Hardware nicht für die Entwicklung von Superintelligenz verwendet wird (d. h. durch Überwachung). Die Überwachung ermöglicht die weitere sichere Nutzung von KI-Chips. Dies ist konzeptionell analog zu den IAEO-Sicherungsmaßnahmen: Damit ein Nicht-Atomwaffenstaat Kernmaterial und kerntechnische Anlagen nutzen darf, muss die IAEO diese inspizieren und sicherstellen, dass sie nur für friedliche Zwecke genutzt werden.
Machbarkeit
Verschiedene technische Methoden könnten eingesetzt werden, um die Überprüfung zu vereinfachen. Beispielsweise erfordert das KI-Training mit den Algorithmen von 2025 eine viel höhere Bandbreite als die KI-Inferenz. Wenn die Chips also über Netzwerkkabel mit geringer Bandbreite verbunden sind, sind sie effektiv so eingeschränkt, dass sie zwar Inferenz, aber kein Training durchführen können. Diese und andere Mechanismen weisen verschiedene Nuancen auf; interessierte Leser verweisen wir auf frühere Arbeiten zu diesem Thema.
Dieser Artikel beauftragt die ISIA mit der Entwicklung und Umsetzung besserer Verifizierungsmechanismen im weitesten Sinne. Wir halten diese Flexibilität für notwendig, da sich die KI rasant weiterentwickelt und unerwartete Entwicklungen die Verifizierungsmethoden beeinträchtigen könnten. Die Forschung im Bereich der KI-Verifizierung steckt noch in den Kinderschuhen. Weitere technologische Entwicklungen im Bereich der Verifizierungstechnologie sind wichtig, um der ISIA ein solides Instrumentarium an die Hand zu geben.
Es ist viel einfacher zu überprüfen, ob eine neue KI geschaffen wird, als zu überprüfen, ob eine bestehende KI keine gefährlichen Inferenzaufgaben ausführt (wie z. B. Forschung, die die Schaffung von Superintelligenz vorantreibt). Im August 2025 scheinen bestehende KIs offensichtlich nicht in der Lage zu sein, durch ihre Inferenzaktivitäten die Schaffung von Superintelligenz wesentlich voranzutreiben, sodass die Überwachungsaufgabe, vor der die ISIA stehen würde, einfacher ist.
Es ist unklar, wie schwierig es wäre, die Inferenzaktivitäten von KI zu überwachen. Die Überwachung von Inferenz wird bereits heute von vielen KI-Unternehmen angewendet, beispielsweise um zu erkennen, ob Nutzer versuchen, KI zur Herstellung biologischer Waffen zu nutzen. Es ist jedoch unklar, ob diese Überwachung umfassend ist und ob sie weniger zuverlässig würde, wenn KI leistungsfähiger werden dürfte. Je länger die KI-Fähigkeiten weiterentwickelt werden dürfen, bevor ein Vertrag ähnlich unserem Entwurf in Kraft tritt, desto schwieriger würde die Überwachung werden. Die Überprüfung, dass Chips nur für zulässige Zwecke verwendet werden, würde schwieriger und teurer werden oder sogar unmöglich werden.
Weitere Überlegungen
Theoretisch könnte die Überprüfung durch technologische Mittel erleichtert werden, die eine Fernüberwachung ermöglichen. Die derzeitige Technologie weist jedoch wahrscheinlich Sicherheitslücken auf, die es Chipbesitzern ermöglichen würden, Überwachungsmaßnahmen zu umgehen. Daher würde die Überprüfung wahrscheinlich entweder eine kontinuierliche Überwachung vor Ort oder die Abschaltung der Chips erfordern, bis die technologischen Mittel ausgereift sind. Sobald die Überwachungstechnologie ausgereift ist, könnten starke hardwarebasierte Kontrollmechanismen eine zuverlässige Fernüberwachung der Chips ermöglichen.†
Absatz 5 dieses Artikels erlaubt es der ISIA, unterschiedliche Verifizierungsmethoden für verschiedene CCCs anzuwenden. Ein Grund für diese Unterscheidung ist praktischer Natur: Verschiedene CCCs würden unterschiedliche Verifizierungsansätze erfordern, um ein gerechtfertigtes Vertrauen zu schaffen, dass sie nicht für die Entwicklung gefährlicher KI genutzt werden. Beispielsweise hätten große Rechenzentren, die zuvor für die Ausbildung von KI an der Grenze genutzt wurden, die größte Fähigkeit, zu verbotenen Ausbildungsmaßnahmen beizutragen, und würden daher möglicherweise eine stärkere Überwachung erfordern.
Zweitens würde eine Unterscheidung bei den Verifizierungsansätzen den Vertrag akzeptabler machen, da für sensible CCCs eine weniger invasive Überwachung erforderlich wäre. Beispielsweise möchten Geheimdienste oder Militärs möglicherweise keine Überwachung ihrer Rechenzentren durch die ISIA (die trotz ihrer Nutzung für Zwecke, die nichts mit KI zu tun haben, möglicherweise über mehr Rechenleistung als 16 H100-Äquivalente verfügen), und diese Bestimmung trägt dazu bei, ein Gleichgewicht herzustellen. Es wäre weiterhin notwendig, zu überprüfen, ob diese Rechenzentren nicht für gefährliche KI-Aktivitäten genutzt werden, und die ISIA würde mit diesen Gruppen zusammenarbeiten, um sicherzustellen, dass sie die benötigten Informationen erhält und gleichzeitig die Datenschutz- und Sicherheitsanforderungen der CCC-Eigentümer erfüllt. Andererseits könnte die Zulassung unterschiedlicher Verifizierungsprotokolle die Durchführbarkeit des Vertrags beeinträchtigen, wenn dies als unfair angesehen wird, insbesondere wenn die Entscheidungsfindung im Zusammenhang mit diesen Prozessen unausgewogen ist.
Unser Vertragsentwurf erlaubt die weitere Verwendung und Produktion von Chips, damit die Welt von solchen Chips profitieren kann. Ein alternativer Ansatz wäre, die Produktion neuer Chips einzustellen und/oder bestehende Chips zu vernichten. Ohne algorithmische Fortschritte würde die Vernichtung von Chips die "Breakout-Zeit" verlängern, also die Zeit zwischen dem Zeitpunkt, zu dem eine Gruppe beginnt, eine Superintelligenz zu entwickeln, und dem Zeitpunkt, zu dem sie erfolgreich ist. Dies liegt daran, dass (anstelle von algorithmischen Fortschritten) ein böswilliger Akteur die Fähigkeit zur Herstellung von Chips entwickeln müsste, was ein langwieriger und auffälliger Prozess ist. Da wir jedoch der Meinung sind, dass es möglich ist, Chips zu verfolgen und ihre Verwendung zu überprüfen, glauben wir nicht, dass der Vorteil längerer Ausbruchzeiten die Kosten für die Abschaltung aller KI-Chips eindeutig rechtfertigt.