Ein vorläufiger Vertragsentwurf mit Anmerkungen | If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde | If Anyone Builds It, Everyone Dies

Ein vorläufiger Vertragsentwurf mit Anmerkungen

Im Folgenden finden Sie einen kommentierten Entwurf für einen Vertrag, der von den wichtigsten Regierungen weltweit umgesetzt werden könnte, wenn sie die Gefahren künstlicher Superintelligenz (ASI) erkennen und verhindern wollen, dass jemand ASI entwickelt.1

Wir sind keine politischen Entscheidungsträger und kennen uns mit internationalem Recht nicht gut aus. Wir präsentieren dies als anschauliches Beispiel für einige potenziell wertvolle Vertragsbestimmungen, die unter Verwendung von Mechanismen, die auf die jeweilige Situation zugeschnitten sind und auf historischen Präzedenzfällen beruhen, in Betracht gezogen werden könnten.

Dieser Entwurfstext umfasst viele verschiedene Mechanismen, die unserer Meinung nach erforderlich wären, um zu verhindern, dass KI-Entwickler die Menschheit ernsthaft gefährden. In der Praxis würden wir erwarten, dass verschiedene Aspekte wahrscheinlich durch verschiedene Verträge abgedeckt werden.2 Und natürlich sollte die internationale Gemeinschaft in der Realität den gesamten Vertrag sorgfältig ausarbeiten, vorbehaltlich der Verhandlungen und Überprüfung durch relevante Experten.

Für jeden Artikel im unten stehenden Beispielvertrag haben wir einen Kommentarabschnitt beigefügt, in dem wir erklären, warum wir wichtige Entscheidungen getroffen haben, sowie einen Abschnitt, in dem einige relevante Präzedenzfälle erörtert werden.

Ein echter Vertrag würde viele Details enthalten. Wir haben einige Beispiele für Details aufgenommen, aber die meisten sind in "Anhängen" enthalten (die wir nicht vollständig ausarbeiten). Viele der Mengen und numerischen Schwellenwerte, die wir in unserem Entwurf verwenden, sind unsere besten Schätzungen, sollten aber eben auch nur als Schätzungen betrachtet werden. Viele dieser Zahlen müssten vor ihrer endgültigen Festlegung noch weiter untersucht und überarbeitet werden. Diese Art von Details würde wahrscheinlich nicht in den Vertrag selbst aufgenommen werden, analog dazu, wie im Falle des Vertrags über die Nichtverbreitung von Kernwaffen (NVV) die spezifischen Details der Inspektionen und der sogenannten "Sicherungsmaßnahmen" zwischen den einzelnen Ländern und der IAEO vereinbart wurden, anstatt in den NVV selbst aufgenommen zu werden. Aus Gründen der Klarheit haben wir jedoch unsere bestmöglichen Schätzungen direkt in den Vertragstext aufgenommen, um ihn konkreter zu gestalten.

[1] Es könnte sein, dass Nationalstaaten, die sich Sorgen um künstliche Superintelligenz machen, es vorziehen würden, zunächst kleinere Schritte zu unternehmen, z. B. Schritte, die die KI-Forschung und -Entwicklung noch nicht einstellen, aber die Option offenhalten, KI-F&E in Zukunft einzustellen. Wir empfehlen diese Vorgehensweise nicht, da wir der Meinung sind, dass die Situation bereits eindeutig außer Kontrolle geraten ist und wir nicht davon ausgehen, dass sich die Lage deutlich klären wird, bevor es zu spät ist. Dennoch arbeitet das technische Governance-Team von MIRI an Vorschlägen für solche Szenarien, für den Fall, dass sie hilfreich sein könnten. Sie können ihre Arbeit hier verfolgen.

[2] Dies ist der Fall bei den Atomwaffenabkommen, bei denen separate Verträge die IAEO (1956, durch die Konferenz über die Satzung der Internationalen Atomenergie-Organisation, die im Hauptquartier der Vereinten Nationen stattfand), den NVV (1970, durch Verhandlungen im Achtzehn-Nationen-Ausschuss der Vereinten Nationen für Abrüstung) und die Rüstungskontrollabkommen wie der START-Vertrag (1991, nach neun Jahren intermittierender Verhandlungen zwischen den USA und der Sowjetunion) eingerichtet wurden.

Die Vertragsstaaten

Vertrag zur Verhinderung künstlicher Superintelligenz

PRÄAMBEL

Die Staaten, die diesen Vertrag schließen, im Folgenden als Vertragsparteien bezeichnet,

alarmiert durch die Aussicht, dass die Entwicklung künstlicher Superintelligenz zum Tod aller Menschen und zum Ende aller menschlichen Bestrebungen führen könnte,

in Bekräftigung der Notwendigkeit dringender, koordinierter und nachhaltiger internationaler Maßnahmen, um die Schaffung und den Einsatz künstlicher Superintelligenz unter den gegenwärtigen Bedingungen zu verhindern,

in der Überzeugung, dass Maßnahmen zur Verhinderung des Fortschritts künstlicher Intelligenz die Wahrscheinlichkeit des Aussterbens der Menschheit verringern werden,

in Anerkennung der Tatsache, dass die Stabilität dieses Vertrags von der Möglichkeit abhängt, die Einhaltung durch alle Vertragsparteien zu überprüfen,

unter Hinweis auf frühere Abkommen zur Rüstungskontrolle und Nichtverbreitung zur Bewältigung globaler Sicherheitsbedrohungen,

In der Verpflichtung, bei der Erleichterung der Überprüfung künstlicher Intelligenzaktivitäten weltweit zusammenzuarbeiten, solange diese Aktivitäten weit von künstlicher Superintelligenz entfernt sind, und sind bestrebt, den Zugang zu den Vorteilen künstlicher Intelligenzsysteme zu erhalten und gleichzeitig Gefahren zu vermeiden,

haben Folgendes vereinbart:

ARTIKEL I— Hauptzweck

Keine Vertragspartei darf künstliche Superintelligenz ("ASI") entwickeln, einsetzen oder versuchen, diese zu entwickeln oder einzusetzen. Jede Vertragspartei verbietet und verhindert alle derartigen Entwicklungen innerhalb ihrer Grenzen und Gerichtsbarkeiten und darf aufgrund der Ungewissheit, wann weitere Fortschritte zur Entstehung von ASI führen würden, keine Aktivitäten durchführen oder zulassen, die zu einer wesentlichen Weiterentwicklung in Richtung ASI im Sinne dieses Vertrags führen. Jede Vertragspartei unterstützt oder behindert nicht angemessene Maßnahmen anderer Vertragsparteien, um solche Entwicklungen durch und innerhalb von Nichtvertragsstaaten und -gerichtsbarkeiten zu verhindern. Jede Vertragspartei setzt alle anderen in diesem Vertrag festgelegten Verpflichtungen, Maßnahmen und Überprüfungsvereinbarungen um und führt sie durch.

Wenn bestimmte Klassen von KI-Infrastrukturen und -Fähigkeiten, die weit von ASI entfernt sind, nur unter Bedingungen internationaler Aufsicht als akzeptabel angesehen werden können, dürfen nur Vertragsparteien solche Aktivitäten durchführen oder KI-Chips und Fertigungskapazitäten besitzen oder betreiben, die ohne Aufsicht möglicherweise zur Entwicklung von ASI führen könnten. Nichtvertragsparteien wird dieser Zugang aus Gründen der Sicherheit der Vertragsparteien und allen Lebens auf der Erde verwehrt (Artikel V, Artikel VI, Artikel VII).

Die Vertragsparteien verpflichten sich zu einem Streitbeilegungsverfahren (Artikel XI), um unnötige Schutzmaßnahmen (Artikel XII) auf ein Minimum zu beschränken.

ARTIKEL II— Begriffsbestimmungen

Für die Zwecke dieses Vertrags gilt Folgendes:

  1. Künstliche Intelligenz (KI) bezeichnet ein Computersystem, das Aufgaben ausführt, die Kognition, Planung, Lernen oder Handlungen im physischen, sozialen oder cyberphysischen Bereich erfordern. Dazu gehören Systeme, die Aufgaben unter variablen und unvorhersehbaren Bedingungen ausführen oder aus Erfahrungen lernen und ihre Leistung verbessern können.
  2. Künstliche Superintelligenz (ASI) wird operativ definiert als jede KI mit einer übermenschlichen kognitiven Leistungsfähigkeit, die es ihr ermöglicht, die Vernichtung der Menschheit zu planen und erfolgreich durchzuführen.
  1. Für die Zwecke dieses Vertrags wird davon ausgegangen, dass KI-Entwicklungen, die nicht ausdrücklich durch das ISIA (Artikel III) genehmigt sind und gegen die in Artikel IV beschriebenen Beschränkungen verstoßen, das Ziel haben, künstliche Superintelligenz zu schaffen.
  1. Gefährliche KI-Aktivitäten sind solche Aktivitäten, die das Risiko der Schaffung einer künstlichen Superintelligenz erheblich erhöhen und sich nicht auf den letzten Schritt der Entwicklung einer ASI beschränken, sondern auch die in diesem Vertrag festgelegten Vorstufen umfassen. Der vollständige Umfang gefährlicher KI-Aktivitäten wird in den Artikeln IV bis IX konkretisiert und kann durch die Anwendung des Vertrags und die Aktivitäten der ISIA weiter ausgearbeitet und geändert werden.
  2. Floating-Point-Operationen (FLOP) sind die rechnerische Maßeinheit, die zur Quantifizierung des Umfangs des Trainings und des Post-Trainings auf der Grundlage der Anzahl der durchgeführten mathematischen Operationen verwendet wird. FLOP werden entweder als die dem Halbpräzisions-Floating-Point-Format (FP16) entsprechenden Operationen oder als die Gesamtzahl der Operationen (in dem verwendeten Format) gezählt, je nachdem, welcher Wert höher ist.
  3. Unter Trainingslauf versteht man jeden Rechenprozess, der die Parameter einer KI (Spezifikationen der Informationsverbreitung durch ein neuronales Netzwerk, z. B. Gewichte und Verzerrungen) unter Verwendung gradientenbasierter oder anderer Such-/Lernmethoden optimiert, einschließlich Pre-Training, Feinabstimmung, verstärktem Lernen, groß angelegten Hyperparametersuchen, die Parameter aktualisieren, und iterativem Selbstspiel oder Curriculum-Training.
  4. Pre-Training bezeichnet den Trainingslauf, bei dem die Parameter einer KI zunächst unter Verwendung großer Datensätze optimiert werden, um verallgemeinerbare Muster oder Darstellungen zu lernen, bevor eine aufgaben- oder domänenspezifische Anpassung erfolgt. Dazu gehören überwachte, unüberwachte, selbstüberwachte und verstärkungsbasierte Optimierungen, wenn sie vor einer solchen Anpassung durchgeführt werden.
  5. Post-Training bezeichnet einen Trainingslauf, der nach dem Pre-Training eines Modells durchgeführt wird. Darüber hinaus gilt jedes Training, das an einer KI durchgeführt wird, die vor Inkrafttreten dieses Vertrags erstellt wurde, als Post-Training.
  6. Fortschrittliche Computerchips sind integrierte Schaltkreise, die mit Verfahren hergestellt werden, die mindestens so fortschrittlich sind wie der 28-Nanometer-Prozessknoten.
  7. KI-Chips sind spezialisierte integrierte Schaltkreise, die in erster Linie für KI-Berechnungen entwickelt wurden, einschließlich, aber nicht beschränkt auf Trainings- und Inferenzoperationen für Modelle des maschinellen Lernens [dies müsste in einem Anhang genauer definiert werden]. Dazu gehören GPUs, TPUs, NPUs und andere KI-Beschleuniger. Dies kann auch Hardware umfassen, die ursprünglich nicht für KI-Anwendungen entwickelt wurde, aber effektiv umfunktioniert werden kann. KI-Chips sind eine Untergruppe der fortschrittlichen Computerchips.
  8. KI-Hardware bezeichnet die gesamte Computerhardware für das Training und den Betrieb von KI. Dazu gehören KI-Chips sowie Netzwerkgeräte, Stromversorgungen und Kühlgeräte.
  9. Ausrüstung zur Herstellung von KI-Chips bezeichnet Ausrüstung, die zur Herstellung, Prüfung, Montage oder Verpackung von KI-Chips verwendet wird, einschließlich, aber nicht beschränkt auf Lithografie-, Abscheidungs-, Ätz-, Messtechnik-, Test- und fortschrittliche Verpackungsausrüstung [eine vollständigere Liste müsste in einem Anhang definiert werden].
  10. H100-Äquivalent bezeichnet die Einheit der Rechenkapazität (FLOP pro Sekunde), die einem NVIDIA H100 SXM-Beschleuniger, 990 TFLOP/s in FP16 oder einer Gesamtverarbeitungsleistung (TPP) von 15.840 entspricht, wobei TPP wie folgt berechnet wird: TPP = 2 × nicht-spärliche MacTOPS × (Bitlänge der Multiplikationseingabe).
  11. Ein Covered Chip Cluster (CCC) bezeichnet jede Gruppe von KI-Chips oder vernetzten Clustern mit einer aggregierten effektiven Rechenkapazität von mehr als 16 H100-Äquivalenten. Ein vernetzter Cluster bezieht sich auf Chips, die entweder physisch an einem Standort untergebracht sind, eine aggregierte Bandbreite zwischen den Knoten (definiert als die Summe der Bandbreite zwischen verschiedenen Hosts/Gehäusen) von mehr als 25 Gbit/s aufweisen oder vernetzt sind, um gemeinsam Workloads auszuführen. Die aggregierte effektive Rechenkapazität von 16 H100-Chips beträgt 15.840 TFLOP/s oder 253.440 TPP und basiert auf der Summe der TPP pro Chip. Beispiele für CCCs sind: der GB200 NVL72-Server, drei 8-Wege-H100-HGX-Server, die sich im selben Gebäude befinden, CloudMatrix 384, ein Pod mit 32 TPUv6e-Chips, jeder Supercomputer.
  12. Zu den nationalen technischen Mitteln (NTM) gehören Satelliten-, Luft-, Cyber-, Signal-, Bild- (einschließlich thermische) und andere Fernerkundungsfähigkeiten, die von den Vertragsparteien zur Überprüfung im Einklang mit diesem Vertrag eingesetzt werden.
  13. Die Überprüfung der Chip-Nutzung umfasst Methoden, die Aufschluss darüber geben, welche Aktivitäten auf bestimmten Computerchips ausgeführt werden, um zwischen zulässigen und verbotenen Aktivitäten zu unterscheiden.
  14. Methoden zur Erstellung von Frontier-Modellen beziehen sich auf die breite Palette von Methoden, die bei der Entwicklung von KI verwendet werden. Dazu gehören unter anderem KI-Architekturen, Optimierer, Tokenizer-Methoden, Datenkuratierung, Datengenerierung, Parallelisierungsstrategien, Trainingsalgorithmen (z. B. RL-Algorithmen) und andere Trainingsmethoden. Dies umfasst auch das Post-Training, jedoch keine Methoden, die die Parameter eines trainierten Modells nicht verändern, wie z. B. Prompting. In Zukunft können neue Methoden entwickelt werden.
ARTIKEL III— ISIA
  1. Die Vertragsparteien gründen hiermit die International Superintelligence Agency (ISIA), um diesen Vertrag und seine Bestimmungen, einschließlich derjenigen zur internationalen Überprüfung seiner Einhaltung, umzusetzen und ein Forum für Konsultationen und Zusammenarbeit zwischen den Vertragsparteien zu schaffen.
  2. Als Organe der ISIA werden hiermit eingerichtet: die Konferenz der Vertragsparteien, der Exekutivrat und das Technische Sekretariat.
  3. Konferenz der Vertragsparteien
  1. Die Konferenz der Vertragsparteien setzt sich aus allen Vertragsparteien zusammen.
  2. Die Konferenz der Vertragsparteien hat folgende Aufgaben: Festlegung der allgemeinen Politik; Verabschiedung und Überwachung des Haushaltsplans; Wahl der Mitglieder des Exekutivrats; Prüfung der vom Exekutivrat gemeldeten Fragen der Einhaltung; Verabschiedung und Überarbeitung der Anhänge auf Empfehlung des Exekutivrats.
  3. Sie tritt mindestens einmal jährlich zu einer ordentlichen Sitzung zusammen, oder häufiger, wenn dies von der Konferenz beschlossen wird, zusätzlich zu erforderlichen Sondersitzungen. Jede Vertragspartei hat eine Stimme. Die Beschlussfähigkeit ist gegeben, wenn die Mehrheit der Vertragsparteien anwesend ist.
  1. Exekutivrat
  1. Der Exekutivrat hat 15 Mitglieder: (i) 5 Sitze für die ständigen Mitglieder des Sicherheitsrats der Vereinten Nationen und (ii) 10 Sitze, die nach dem Grundsatz der ausgewogenen geografischen Vertretung vergeben werden. Einzelheiten hierzu sind in Anhang A aufgeführt.
  2. Die gewählten Mitglieder haben eine Amtszeit von zwei Jahren. Jedes Jahr wird die Hälfte der Sitze neu besetzt.
  3. Der Exekutivrat hat folgende Aufgaben: Genehmigung von Challenge-Inspektionen; Empfehlung des Haushaltsplans und der Politik an die Konferenz; Ernennung des Generaldirektors; Aufsicht über das Technische Sekretariat und Genehmigung seiner Empfehlungen.
  4. Die Entscheidungsprozesse sind wie folgt:
  1. Der Exekutivrat wählt den Vorsitzenden und den stellvertretenden Vorsitzenden des Exekutivrats.
  2. Der Vorsitzende oder stellvertretende Vorsitzende kann als Sitzungsleiter fungieren.
  3. Die Abstimmung erfolgt nach dem Prinzip "ein Mitglied, eine Stimme".
  4. Die Zustimmung zu einer Überprüfung gemäß Artikel X erfordert eine Mehrheit.
  5. Die Abstimmung über die Abberufung oder Ernennung eines Generaldirektors erfordert eine Zweidrittelmehrheit.
  6. Alle anderen Entscheidungen erfordern eine Mehrheit.
  7. Die Beschlussfähigkeit erfordert zwei Drittel des Exekutivrats.
  1. Technisches Sekretariat und Generaldirektor
  1. Der Generaldirektor des Technischen Sekretariats ist dessen Leiter und oberster Verwaltungsbeamter.
  2. Der Generaldirektor wird vom Exekutivrat für eine Amtszeit von vier Jahren ernannt, die einmal verlängert werden kann. Der Exekutivrat kann den Generaldirektor abberufen.
  3. Das Technische Sekretariat umfasst zu Beginn technische Abteilungen für Chip-Tracking und Fertigungssicherheitsmaßnahmen, Chip-Verwendungsüberwachungsmaßnahmen, Forschungskontrollen, Informationskonsolidierung, technische Überprüfungen, Verwaltung und Finanzen sowie Recht und Compliance. Der Generaldirektor kann technische Abteilungen einrichten und auflösen.
  4. Das Technische Sekretariat schlägt über den Generaldirektor Änderungen an technischen Definitionen und Sicherungsprotokollen vor, die zur Umsetzung der Artikel IV, V, VI, VII, VIII, IX und X dieses Vertrags erforderlich sind.
  1. Zeitkritische Änderungen der FLOP-Schwellenwerte (Artikel IV), der Größe der erfassten Rechencluster (Artikel V) und der Grenzen der eingeschränkten Forschung (Artikel VIII) können vom Generaldirektor sofort umgesetzt werden, wenn Untätigkeit ein Sicherheitsrisiko darstellt. Solche Änderungen bleiben dreißig Tage lang in Kraft. Danach müssen die Änderungen vom Exekutivrat genehmigt werden, um in Kraft zu bleiben.
  2. Der Exekutivrat trifft Entscheidungen über wesentliche Angelegenheiten so weit wie möglich im Konsens; der Generaldirektor sollte sich um einen Konsens bemühen. Ist nach Ablauf von 24 Stunden kein Konsens möglich, wird eine Abstimmung durchgeführt, und der Exekutivrat nimmt die Änderungen an, wenn die Mehrheit der anwesenden und abstimmenden Mitglieder für die Annahme der Änderungen stimmt, und lehnt sie andernfalls ab.
  1. Der reguläre Haushalt der ISIA wird durch Beiträge der Vertragsparteien finanziert, wobei eine Skala zugrunde gelegt wird, die sich an der Beitragsskala der Vereinten Nationen orientiert und einer vom Exekutivrat festgelegten Unter- und Obergrenze unterliegt. Die Mitgliedstaaten haben auch die Möglichkeit, freiwillige Beiträge für die Forschung im Bereich der KI-Sicherheit zu leisten, die sich auf das Alignment, Interpretierbarkeit und Kapazitätsaufbauaktivitäten der Mitgliedstaaten beziehen, einschließlich der vorteilhaften Nutzung sicherer KI, der Entwicklung von Testumgebungen, bewährter Verfahren, des Informationsaustauschs und der Erleichterung der Zusammenarbeit und gemeinsamer Aktivitäten, die sich lose an das IAEO-Netzwerk der Zentren für nukleare Sicherheit anlehnen.

ARTIKEL IV— KI-Training
  1. Jede Vertragspartei verpflichtet sich, KI-Training oberhalb der folgenden Schwellenwerte zu verbieten und zu untersagen: Jedes Training, das 1e24 FLOP überschreitet, oder jedes Post-Training, das 1e23 FLOP überschreitet. Jede Vertragspartei verpflichtet sich, keine Trainings oberhalb dieser Schwellenwerte durchzuführen und keiner Einrichtung innerhalb ihres Hoheitsgebiets zu gestatten, Trainings oberhalb dieser Schwellenwerte durchzuführen.
  1. Das Technische Sekretariat kann diese Schwellenwerte gemäß dem in Artikel III beschriebenen Verfahren ändern.
  1. Jede Vertragspartei meldet der ISIA vor Beginn jedes Trainingslaufs zwischen 1e22 und 1e24 FLOP. Dies gilt für Trainingsläufe, die von der Vertragspartei oder einer Einrichtung in ihrem Hoheitsgebiet durchgeführt werden.
  1. Dieser Bericht muss unter anderem alle Trainingscodes und eine Schätzung der insgesamt zu verwendenden FLOP enthalten. Die Vertragspartei muss den Mitarbeitern der ISIA unter Aufsicht Zugang zu allen Daten gewähren, wobei der Zugang entsprechend der Sensibilität der Daten protokolliert und Schutzmaßnahmen gegen Vervielfältigung oder unbefugte Offenlegung getroffen werden müssen. Wird den Mitarbeitern der ISIA kein ausreichender Zugang zu den Daten gewährt, kann die ISIA nach eigenem Ermessen den Trainingslauf ablehnen. Die ISIA kann zusätzliche Unterlagen zum Trainingslauf anfordern. Die ISIA genehmigt außerdem im Voraus eine Reihe kleinerer Änderungen, die während des Trainings am Trainingsverfahren vorgenommen werden können. Alle derartigen Änderungen werden der ISIA gemeldet, sobald sie vorgenommen werden.
  2. Wenn die ISIA nach 30 Tagen nicht reagiert hat, gilt dies als Genehmigung, jedoch kann die ISIA diese Frist verlängern, indem sie mitteilt, dass sie zusätzliche Zeit für die Prüfung benötigt. Diese Verlängerungen sind nicht begrenzt, aber die Vertragsparteien können gegen übermäßige Verzögerungen beim Direktor oder beim Exekutivrat Einspruch einlegen.
  3. Die ISIA kann solche Trainingsläufe überwachen, und die Partei stellt der ISIA auf Anfrage Kontrollpunkte des Modells zur Verfügung, einschließlich des endgültigen trainierten Modells [die ersten Details für eine solche Überwachung müssten in einem Anhang beschrieben werden].
  4. Falls die Überwachung auf bedenkliche KI-Fähigkeiten oder -Verhaltensweisen hindeutet, kann die ISIA anordnen, einen Trainingslauf oder eine Klasse von Trainingsläufen zu unterbrechen, bis sie die Fortsetzung des Trainingslaufs für sicher erachtet.
  5. Die ISIA wird strenge Sicherheitsvorkehrungen treffen. Die ISIA wird keine Informationen über gemeldete Trainingsläufe weitergeben, es sei denn, sie stellt fest, dass das gemeldete Training gegen den Vertrag verstößt. In diesem Fall wird sie allen Vertragsparteien ausreichende Informationen zur Verfügung stellen, um festzustellen, ob ein Verstoß vorliegt.
  6. Falls eine Vertragspartei einen Trainingslauf entdeckt, der die festgelegten Schwellenwerte überschreitet, muss sie diesen Trainingslauf der ISIA melden und ihn (sofern er noch läuft) unterbrechen. Ein solcher Trainingslauf darf nur mit Genehmigung der ISIA wieder aufgenommen werden.
  1. Jede Vertragspartei und die ihrer Gerichtsbarkeit unterstehenden Stellen können Trainingsläufe mit weniger als 1e22 FLOP ohne Aufsicht oder Genehmigung durch die ISIA durchführen.
  2. Die ISIA kann mit einer Zweidrittelmehrheit des Exekutivrats spezifische Ausnahmen für Aktivitäten wie Sicherheitsbewertungen, selbstfahrende Fahrzeuge, Medizintechnik und andere Aktivitäten genehmigen, die vom Generaldirektor als sicher eingestuft werden. Diese Ausnahmen können Trainingsläufe mit mehr als 1e24 FLOP unter Aufsicht der ISIA oder eine vermutete Genehmigung der ISIA für Trainingsläufe zwischen 1e22 und 1e24 FLOP ermöglichen.

ARTIKEL V— Chip-Konsolidierung
  1. Jede Vertragspartei stellt sicher, dass innerhalb ihres Hoheitsgebiets alle erfassten Chip-Cluster (CCCs) im Sinne von Artikel II (d. h. eine Gruppe von Chips mit einer Kapazität von mehr als 16 H100-Äquivalenten) [Anmerkung: 16 H100 kosten zusammen im Jahr 2025 etwa 500.000 US-Dollar und befinden sich selten im Besitz von Privatpersonen] sich in Einrichtungen befinden, die der ISIA gemeldet sind, und dass diese KI-Chips der Überwachung durch die ISIA unterliegen.
  1. Die Vertragsparteien sollen darauf hinwirken, dass KI-Chips nicht zusammen mit nicht zugehöriger Nicht-KI-Computerhardware in diesen gemeldeten Einrichtungen untergebracht werden.
  2. Diese Einrichtungen müssen für physische Inspektionen zugänglich sein. Dies kann beispielsweise bedeuten, dass Verifizierungsteams jeden CCC von mindestens einem Flughafen mit Linienverkehr innerhalb von 12 Stunden erreichen können.
  3. Die Vertragsparteien dürfen KI-Chips nicht an so vielen verschiedenen Standorten unterbringen, dass es für die ISIA unmöglich ist, alle Standorte zu überwachen. Auf Ersuchen der ISIA müssen die Vertragsparteien ihre KI-Chips weiter in weniger überwachten Einrichtungen konsolidieren.
  1. Nicht überwachte KI-Chips, die nicht Teil eines CCC sind (d. h. die eine Kapazität von weniger als 16 H100-Äquivalenten haben), können außerhalb der von der ISIA gemeldeten Einrichtungen verbleiben, sofern diese Bestände nicht aggregiert oder vernetzt werden, um die CCC-Definition zu erfüllen, nicht zwischen Standorten rotiert werden, um die Überwachung zu umgehen, und nicht für verbotene Trainingen verwendet werden. Die Vertragsparteien unternehmen angemessene Anstrengungen, um den Verkauf und die Zusammenführung von KI-Chips zu überwachen, um sicherzustellen, dass neu geschaffene CCCs erkannt und überwacht werden.
  2. Innerhalb von 120 Tagen nach Inkrafttreten des Vertrags muss jede Vertragspartei alle CCC lokalisieren, inventarisieren und in der ISIA gemeldeten Einrichtungen zusammenfassen. Die Vertragsparteien dürfen Chips nicht aufteilen, verbergen oder anderweitig neu zuweisen, um dieser Anforderung zu entgehen oder um zu erreichen, dass eine Gruppe von Chips, die als CCC eingestuft worden wäre, nicht mehr als CCC eingestuft wird.
  3. Die ISIA überwacht den innerstaatlichen Konsolidierungsprozess, unter anderem durch Vor-Ort-Inspektionen, Überprüfung von Dokumenten und Beständen, Begleitung der innerstaatlichen Behörden bei Transfers und Inspektionen sowie Informationsaustausch mit den Vertragsparteien gemäß Artikel X. Die ISIA kann für Transfers Aufzeichnungen über die Kontrollkette verlangen und gemäß Artikel X Inspektionen auf Anfechtung durchführen. Die Vertragsparteien gewähren rechtzeitig Zugang zu den relevanten Einrichtungen, Verkehrsknotenpunkten und Aufzeichnungen. Die Schutzmaßnahmen und Anreize für Hinweisgeber gemäß Artikel X gelten für den Konsolidierungsprozess, und die ISIA unterhält geschützte Meldewege.
  4. Innerhalb von 120 Tagen nach Inkrafttreten des Vertrags legen die Vertragsparteien der ISIA ein Register ihrer CCCs vor. Das Register muss den Standort, den Typ, die Menge, die Seriennummern oder andere eindeutige Kennungen, sofern verfügbar, sowie die zugehörigen Verbindungen aller KI-Chips in den CCCs enthalten. Jede Vertragspartei legt der ISIA spätestens alle 90 Tage ein aktualisiertes und genaues Register vor.
  5. Die Vertragsparteien unterrichten die ISIA mindestens 14 Tage vor dem geplanten Transfer über jeden geplanten Transfer von KI-Chips, unabhängig davon, ob es sich um einen nationalen oder internationalen Transfer handelt. Ein Transfer darf nur erfolgen, wenn der ISIA die Möglichkeit gegeben wird, den Transfer zu beobachten. Bei internationalen Transfers stimmen sich sowohl die sendende als auch die empfangende Vertragspartei mit der ISIA über den Transportweg, die Verwahrung und den Empfang ab. Notfalltransfers, die aus Sicherheitsgründen durchgeführt werden, sind so schnell wie möglich zu melden und nachträglich zu überprüfen.
  6. Beschädigte, defekte, überschüssige oder anderweitig außer Betrieb genommene KI-Chips sind weiterhin als funktionsfähige Chips zu behandeln, bis die ISIA ihre Vernichtung bestätigt hat. Die Parteien dürfen KI-Chips nicht ohne Aufsicht der ISIA vernichten. Die Vernichtung oder dauerhafte Außerbetriebnahme von AI-Chips muss unter Aufsicht der ISIA mit von der ISIA genehmigten Methoden erfolgen und in einem Vernichtungszertifikat festgehalten werden [die Einzelheiten müssen in einem Anhang erläutert werden]. Die Verwertung oder der Weiterverkauf von Komponenten aus solcher Hardware ist ohne ausdrückliche Genehmigung der ISIA untersagt.

ARTIKEL VI— Überwachung der Produktion von KI-Chips
  1. Die ISIA wird die Überwachung von Produktionsstätten für KI-Chips und wichtigen Vorleistungen für die Chip-Produktion durchführen. Diese Überwachung wird sicherstellen, dass alle neu produzierten KI-Chips sofort verfolgt und überwacht werden, bis sie in deklarierten CCCs installiert sind, und dass keine unüberwachten Lieferketten entstehen.
  1. Die ISIA wird KI-Chip-Produktionsanlagen überwachen, von denen festgestellt wurde, dass sie KI-Chips und relevante Hardware produzieren oder potenziell produzieren könnten [die genauen Definitionen von KI-Chip-Produktionsanlagen, KI-Chips und relevanter Hardware müssten in einem Anhang näher beschrieben werden; auch die Überwachungsmethoden müssten in einem Anhang beschrieben werden].
  2. Die Überwachung neu produzierter KI-Chips umfasst die Überwachung der Produktion, des Verkaufs, des Transfers und der Installation. Die Überwachung der Chip-Produktion beginnt mit der Herstellung. Der vollständige Umfang der Aktivitäten umfasst die Herstellung von Hochbandbreitenspeichern (HBM), die Herstellung von Logikchips, das Testen, die Verpackung und die Montage [dieser Umfang der Aktivitäten müsste in einem Anhang näher beschrieben werden].
  1. In Anlagen, in denen eine Nachverfolgung und Überwachung durch die ISIA nicht möglich oder nicht umgesetzt ist, wird die Produktion von KI-Chips eingestellt. Die Produktion von KI-Chips kann fortgesetzt werden, wenn die ISIA erklärt, dass akzeptable Nachverfolgungs- und Überwachungsmaßnahmen umgesetzt wurden.
  2. Wenn eine überwachte Chip-Produktionsanlage stillgelegt oder umfunktioniert wird, überwacht die ISIA diesen Prozess, und wenn dies zur Zufriedenheit der ISIA erfolgt, endet die Überwachungspflicht.
  3. Keine Vertragspartei darf KI-Chips oder Ausrüstung zur Herstellung von KI-Chips verkaufen oder übertragen, es sei denn, dies wurde von der ISIA genehmigt und verfolgt.
  1. Der Verkauf oder die Weitergabe von KI-Chips innerhalb oder zwischen Vertragsparteien gilt als genehmigt und wird von der ISIA nachverfolgt.
  2. Der Verkauf oder die Weitergabe von Ausrüstung zur Herstellung von KI-Chips innerhalb oder zwischen Vertragsparteien gilt nicht als genehmigt. Die Genehmigung für eine solche Weitergabe basiert auf einer Bewertung des Risikos der Umleitung oder des Rücktritts der empfangenden Vertragspartei vom Vertrag.
  3. Der Verkauf oder die Weitergabe von KI-Chips und Anlagen zur Herstellung von KI-Chips an Nichtvertragsstaaten oder Einrichtungen außerhalb eines Vertragsstaates wird grundsätzlich abgelehnt.
  1. Keine Vertragspartei darf nicht-KI-basierte fortschrittliche Computerchips oder nicht-KI-basierte fortschrittliche Computerchip-Fertigungsanlagen an Nichtvertragsstaaten oder Einrichtungen außerhalb eines Vertragsstaates verkaufen oder übertragen, es sei denn, dies wurde von der ISIA genehmigt und verfolgt.
  2. Der Verkauf oder die Weitergabe von Nicht-KI-fortschrittlichen Computerchips oder Nicht-KI-fortschrittlichen Computerchip-Fertigungsanlagen innerhalb oder zwischen Vertragsparteien unterliegt keinen Beschränkungen gemäß diesem Artikel.

ARTIKEL VII— Überprüfung der Chipnutzung
  1. Die Vertragsparteien akzeptieren eine kontinuierliche Vor-Ort-Überprüfung der gesamten Chipnutzung durch die ISIA in den gemeldeten CCCs. Die für die Überprüfung verwendeten Methoden werden vom Technischen Sekretariat gemäß dem in Artikel III beschriebenen Verfahren festgelegt und aktualisiert. Diese Methoden können unter anderem Folgendes umfassen:
  1. Persönliche Inspektoren
  2. Manipulationssichere Kameras
  3. Messungen der Leistungs-, Wärme- und Netzwerkeigenschaften
  4. Hardwarebasierte Mechanismen auf dem Chip, einschließlich nachgerüsteter Mechanismen
  5. Erklärung der Arbeitslasten und Vorgänge der Chips durch den CCC-Betreiber
  6. Wiederholung der deklarierten Arbeitslasten in einer ISIA-Einrichtung zur Bestätigung der Richtigkeit der Deklarationen
  1. Das Ziel dieser Überprüfung ist es, sicherzustellen, dass Chips nicht für verbotene Aktivitäten verwendet werden, wie z. B. das in Artikel IV beschriebene groß angelegte KI-Training.
  2. In Fällen, in denen die ISIA zu der Einschätzung gelangt, dass die derzeitigen Verifizierungsmethoden keine ausreichende Gewähr dafür bieten, dass die KI-Hardware nicht für verbotene Aktivitäten verwendet wird, muss die KI-Hardware ausgeschaltet und ihr Nichtbetrieb kontinuierlich durch Inspektoren vor Ort oder andere von der ISIA genehmigte Verifizierungsmechanismen überprüft werden.
  3. Die ISIA kann verschiedene Einschränkungen für den Betrieb der Chips auferlegen, um eine ordnungsgemäße Überprüfung zu gewährleisten. Diese Einschränkungen können unter anderem Folgendes umfassen:
  1. Beschränkungen der Bandbreite und Latenz zwischen verschiedenen Chips oder zwischen Chips und ihrem Rechenzentrumsnetzwerk, um zulässige Inferenz von verbotenem Training zu unterscheiden.
  2. Beschränkungen hinsichtlich der Anzahl oder Rate von FLOP/s oder der Speicherbandbreite, mit der Chips betrieben werden können, um zulässige Inferenz von unzulässigem Training oder anderen unzulässigen Workloads zu unterscheiden.
  3. Beschränkungen hinsichtlich der numerischen Genauigkeit von Chip-Operationen, um KI-Workloads von Nicht-KI-Workloads zu unterscheiden.
  1. Die ISIA wird die Überprüfung verschiedener CCCs unterschiedlich angehen, je nach ihrer Wahrscheinlichkeit, für KI-Aktivitäten verwendet zu werden, und ihrer Sensibilität in Bezug auf die nationale Sicherheit.
  2. Die ISIA wird Forschung und Entwicklung vorantreiben, um bessere Technologien für die Überwachung und Verifizierung der Chipnutzung zu entwickeln. Die Parteien werden diese Bemühungen unterstützen [weitere Einzelheiten werden in einem Anhang aufgeführt].

ARTIKEL VIII— Eingeschränkte Forschung: KI-Algorithmen und Hardware
  1. Um bestimmte Forschungsarbeiten zu verhindern, die die Grenzen der KI-Fähigkeiten erweitern oder die Fähigkeit der Vertragsparteien zur Umsetzung der Maßnahmen dieses Vertrags untergraben, bezeichnet dieser Vertrag Forschungsarbeiten, die eine der folgenden Bedingungen erfüllen, als eingeschränkte Forschung:
  1. Verbesserungen der Methoden zur Erstellung von Frontier-Modellen gemäß Artikel II, die die Modellfähigkeiten oder die Effizienz der Entwicklung, des Einsatzes oder der Nutzung von KI verbessern würden
  2. Verteilte oder dezentrale Trainingsmethoden oder Trainingsmethoden, die für die Verwendung auf weit verbreiteter oder handelsüblicher Hardware optimiert sind
  3. Forschung zu Paradigmen der künstlichen Intelligenz von Computern, die über maschinelles Lernen hinausgehen
  4. Fortschritte bei der Herstellung von KI-relevanten Chips oder Chipkomponenten
  5. Entwurf leistungsfähigerer oder effizienterer KI-Chips
  1. Die Abteilung für Forschungskontrolle der ISIA stuft alle eingeschränkten Forschungsaktivitäten entweder als kontrolliert oder als verboten ein.
  1. Jede Vertragspartei überwacht alle kontrollierten Forschungsaktivitäten innerhalb ihres Hoheitsgebiets und ergreift Maßnahmen, um sicherzustellen, dass alle kontrollierten Forschungsaktivitäten überwacht und der Abteilung für Forschungskontrolle zu Überprüfungs- und Überwachungszwecken zur Verfügung gestellt werden.
  2. Keine Vertragspartei darf verbotene Forschung betreiben und muss verbotene Forschung durch Einrichtungen innerhalb ihres Hoheitsgebiets untersagen und verhindern.
  1. Keine Partei darf verbotene Forschung unterstützen, fördern oder daran beteiligt sein, einschließlich durch Finanzierung, Beschaffung, Beherbergung, Überwachung, Lehre, Veröffentlichung, Bereitstellung kontrollierter Werkzeuge oder Chips oder Erleichterung der Zusammenarbeit.
  2. Jede Vertragspartei entsendet einen Vertreter in die Abteilung für Forschungskontrolle der ISIA, die dem Technischen Sekretariat (gemäß Artikel III eingerichtet) untersteht. Diese Abteilung hat folgende Aufgaben:
  1. Auslegung und Klärung der Kategorien der eingeschränkten Forschung und Beantwortung von Fragen zu den Grenzen der eingeschränkten Forschung als Reaktion auf neue Informationen und auf Anfragen von Forschern, Organisationen oder Mitgliedern der Vertragsparteien.
  2. Auslegung und Klärung der Grenze zwischen kontrollierter Forschung und verbotener Forschung sowie Beantwortung von Fragen zu dieser Grenze als Reaktion auf neue Informationen und auf Anfrage von Forschern, Organisationen oder Mitgliedern der Vertragsparteien.
  3. Ändern Sie die Definition von "eingeschränkter Forschung" und deren Kategorien entsprechend den sich ändernden Bedingungen oder auf Anfrage von Forschern, Organisationen oder Parteimitgliedern.
  4. Änderung der Grenze zwischen kontrollierter Forschung und verbotener Forschung als Reaktion auf sich ändernde Bedingungen oder auf Anfrage von Forschern, Organisationen oder Parteimitgliedern.
  5. Das Technische Sekretariat kann die Kategorien, Grenzen und Definitionen der eingeschränkten Forschung gemäß dem in Artikel III beschriebenen Verfahren ändern.

ARTIKEL IX— Überprüfung der Forschungsbeschränkungen
  1. Jede Vertragspartei richtet eine nationale Behörde ein oder ermächtigt eine bestehende Behörde mit folgenden Aufgaben:
  1. Aufrechterhaltung des Bewusstseins für und der Beziehungen zu inländischen Forschern und Organisationen, die in Bereichen tätig sind, die an die eingeschränkte Forschung angrenzen, um die in Artikel VIII festgelegten Kategorien der eingeschränkten Forschung zu kommunizieren.
  2. Verhängung von Strafen, um inländische Forscher und Organisationen von der Durchführung verbotener Forschung abzuhalten. Diese Strafen müssen in einem angemessenen Verhältnis zur Schwere des Verstoßes stehen und so gestaltet sein, dass sie eine ausreichende Abschreckungswirkung haben. Jede Vertragspartei erlässt oder ändert gegebenenfalls Rechtsvorschriften, um die Verhängung dieser Strafen zu ermöglichen.
  3. Einrichtung einer sicheren Infrastruktur für die Meldung und Eindämmung unbeabsichtigter Entdeckungen, die die Bedingungen für eingeschränkte Forschung erfüllen. Diese Meldungen werden an die Abteilung für Forschungskontrolle weitergeleitet.
  1. Um die internationale Überprüfung von Forschungsverboten zu unterstützen, wird die Abteilung für Forschungskontrolle Überprüfungsmechanismen entwickeln und implementieren.
  1. Diese Mechanismen können unter anderem Folgendes umfassen:
  1. ISIA-Interviews mit Forschern, die zuvor an Themen mit eingeschränkter Forschung gearbeitet haben oder derzeit in angrenzenden Bereichen tätig sind.
  2. Überwachung des Beschäftigungsstatus und des Aufenthaltsorts von Forschern, die zuvor an Themen mit eingeschränkter Forschung gearbeitet haben oder derzeit in angrenzenden Bereichen tätig sind.
  3. Einsatz von ISIA-Auditoren in ausgewählten Organisationen mit hohem Risiko (z. B. Projekte, die schwer von verbotenen Forschungsgebieten zu unterscheiden sind, Organisationen, die zuvor KI-Forschungsorganisationen waren).
  1. Die Parteien werden bei der Umsetzung dieser Überprüfungsmechanismen behilflich sein.
  2. Die durch diese Überprüfungsmechanismen gewonnenen Informationen werden in Berichten für den Exekutivrat zusammengestellt, wobei sensible Informationen so weit wie möglich vertraulich behandelt werden, um die Privatsphäre und Geheimnisse von Personen und Parteien zu schützen.

ARTIKEL X— Informationskonsolidierung und Kontrollinspektionen
  1. Eine wichtige Informationsquelle für die ISIA sind die unabhängigen Informationsbeschaffungsbemühungen der Vertragsparteien. Daher wird die Abteilung für Informationskonsolidierung (Artikel III) bereit sein, diese Informationen entgegenzunehmen.
  1. Die Abteilung für Informationskonsolidierung trifft Vorkehrungen zum Schutz von Geschäfts-, Industrie-, Sicherheits- und Staatsgeheimnissen sowie anderen vertraulichen Informationen, von denen sie bei der Umsetzung des Vertrags Kenntnis erlangt, einschließlich der Aufrechterhaltung sicherer, vertraulicher und optional anonymer Meldewege.
  2. Zum Zwecke der Gewährleistung oder Einhaltung der Bestimmungen dieses Vertrags setzt jede Vertragspartei die ihr zur Verfügung stehenden nationalen technischen Verifizierungsmittel (NTM) in einer Weise ein, die mit den allgemein anerkannten Grundsätzen des Völkerrechts vereinbar ist.
  1. Jede Vertragspartei verpflichtet sich, die nationalen technischen Verifizierungsmittel anderer Vertragsparteien, die in Übereinstimmung mit den vorstehenden Bestimmungen eingesetzt werden, nicht zu beeinträchtigen.
  2. Jede Vertragspartei verpflichtet sich, keine absichtlichen Verschleierungsmaßnahmen zu ergreifen, die die Überprüfung der Einhaltung der Bestimmungen dieses Vertrags mit nationalen technischen Mitteln behindern.
  3. Die Vertragsparteien werden ermutigt, sind jedoch nicht verpflichtet, bei der Aufdeckung gefährlicher KI-Aktivitäten in Nichtvertragsstaaten zusammenzuarbeiten. Die Vertragsparteien werden ermutigt, sind jedoch nicht verpflichtet, die NTM der Vertragsparteien gegenüber Nichtvertragsparteien zu unterstützen, soweit dies für diesen Vertrag relevant ist.
  1. Eine wichtige Informationsquelle für die ISIA sind Personen, die der ISIA Beweise für gefährliche KI-Aktivitäten liefern. Diese Personen unterliegen dem Whistleblower-Schutz.
  1. Dieser Artikel legt Schutzmaßnahmen, Anreize und Unterstützung für Personen ("geschützte Whistleblower") fest, die der ISIA oder einer Vertragspartei in gutem Glauben glaubwürdige Informationen über tatsächliche, versuchte oder geplante Verstöße gegen diesen Vertrag oder andere Aktivitäten liefern, die ein ernsthaftes Risiko für die Auslöschung der Menschheit darstellen, darunter versteckte Chips, nicht gemeldete Rechenzentren, verbotene Trainingen oder Forschungen, Umgehung von Überprüfungen oder Fälschung von Erklärungen. Zu den geschützten Whistleblowern gehören Mitarbeiter, Auftragnehmer, Beamte, Lieferanten, Forscher und andere Personen mit wesentlichen Informationen sowie verbundene Personen (Familienangehörige und enge Vertraute), die aufgrund der Offenlegung Hilfe leisten oder gefährdet sind.
  2. Die Parteien verbieten und verhindern Vergeltungsmaßnahmen gegen betroffene Whistleblower und assoziierte Personen, einschließlich, aber nicht beschränkt auf Entlassung, Degradierung, Aufnahme in schwarze Listen, Verlust von Leistungen, Belästigung, Einschüchterung, Drohungen, zivil- oder strafrechtliche Maßnahmen, Visumsentzug, körperliche Gewalt, Inhaftierung, Einschränkung der Bewegungsfreiheit oder andere nachteilige Maßnahmen. Alle Vertragsbedingungen (einschließlich Geheimhaltungs- oder Nicht-Herabsetzungsvereinbarungen), die darauf abzielen, geschützte Offenlegungen im Rahmen dieses Vertrags einzuschränken, sind nichtig und nicht durchsetzbar. Die Misshandlung von Whistleblowern stellt einen Verstoß gegen diesen Vertrag dar und wird gemäß Artikel XI Absatz 3 behandelt.
  3. Die ISIA unterhält sichere, vertrauliche und optional anonyme Meldewege. Die Vertragsparteien richten nationale Meldewege ein, die mit dem ISIA-System kompatibel sind. Die ISIA und die Vertragsparteien schützen die Identität der geschützten Whistleblower und der mit ihnen verbundenen Personen und geben diese nur dann preis, wenn dies unbedingt erforderlich ist und Schutzmaßnahmen getroffen wurden. Die unbefugte Offenlegung geschützter Identitäten stellt einen Verstoß gegen diesen Vertrag dar und wird gemäß Artikel XI Absatz 3 geahndet.
  4. Die Vertragsparteien gewähren den betroffenen Hinweisgebern und ihren Familien Asyl oder humanitären Schutz, stellen ihnen sichere Reisedokumente aus und koordinieren einen sicheren Transit.
  1. Die ISIA kann bei glaubwürdigen Informationen über gefährliche KI-Aktivitäten Kontrollinspektionen an verdächtigen Standorten durchführen.
  1. Die Vertragsparteien können die ISIA um die Durchführung einer Vor-Ort-Inspektion ersuchen. Der Exekutivrat prüft auf Antrag oder aufgrund der Analyse der Abteilung für Informationskonsolidierung die vorliegenden Informationen, um zusätzliche Informationen von Vertragsparteien oder Nichtvertragsparteien anzufordern, eine Vor-Ort-Inspektion vorzuschlagen oder zu entscheiden, dass keine weiteren Maßnahmen erforderlich sind.
  2. Eine Vor-Ort-Inspektion erfordert die Zustimmung der Mehrheit des Exekutivrats.
  3. Der Zugang zu einem verdächtigen Standort muss von dem Land, in dem sich der Standort befindet, innerhalb von 24 Stunden nach der Aufforderung der ISIA zu einer Challenge-Inspektion gewährt werden. Während dieser Zeit kann der Standort überwacht werden, und alle Personen oder Fahrzeuge, die den Standort verlassen, können von Beamten einer Unterzeichnerpartei oder der ISIA kontrolliert werden.
  4. Die Challenge-Inspektion wird von einem Team von Beamten der ISIA durchgeführt, die sowohl von der inspizierten Vertragspartei als auch von der Vertragspartei, die die Inspektion beantragt hat, genehmigt wurden. Die ISIA ist dafür verantwortlich, in Zusammenarbeit mit den Vertragsparteien Listen der für diesen Zweck zugelassenen Inspektoren zu führen.
  5. Vorladungsinspektionen dürfen höchstens 20 Mal pro Jahr im Hoheitsgebiet einer bestimmten Vertragspartei durchgeführt werden, wobei diese Begrenzung durch eine Mehrheitsentscheidung des Exekutivrats geändert werden kann.
  6. Die Inspektoren werden mit größter Sorgfalt darauf achten, die sensiblen Informationen des inspizierten Staates zu schützen, und nur die Informationen an den Exekutivrat weitergeben, die für den Vertrag relevant sind.

ARTIKEL XI— Streitbeilegung
  1. Jede Partei ("betroffene Partei") kann Bedenken hinsichtlich der Umsetzung dieses Vertrags äußern, einschließlich Bedenken über unklare Situationen oder mögliche Verstöße durch eine andere Partei ("ersuchte Partei"). Dazu gehört auch der Missbrauch von Schutzmaßnahmen (Artikel XII).
  1. Die betroffene Partei teilt der ersuchten Partei ihre Bedenken mit und informiert gleichzeitig den Generaldirektor und den Exekutivrat darüber. Die ersuchte Partei bestätigt den Erhalt dieser Mitteilung innerhalb von 36 Stunden und gibt innerhalb von 5 Tagen eine Erklärung ab.
  1. Wird die Angelegenheit nicht geklärt, kann die betroffene Partei den Exekutivrat um Unterstützung bei der Beurteilung und Klärung der Bedenken bitten. Dies kann auch einen Antrag der betroffenen Partei auf eine Inspektion gemäß Artikel X umfassen.
  1. Der Exekutivrat stellt alle ihm vorliegenden Informationen zur Verfügung, die für die betreffende Angelegenheit relevant sind.
  2. Der Exekutivrat kann das Technische Sekretariat beauftragen, zusätzliche Unterlagen zusammenzustellen, geschlossene Fachsitzungen einzuberufen und Lösungsmaßnahmen zu empfehlen.
  1. Stellt der Exekutivrat einen Verstoß gegen den Vertrag fest, kann er Maßnahmen ergreifen, um gefährliche KI-Aktivitäten zu verhindern oder die ersuchte Partei zu rügen. Diese Maßnahmen können Folgendes umfassen:
  1. Zusätzliche Überwachung oder Beschränkungen für KI-Aktivitäten verlangen
  2. Verlangen der Herausgabe von KI-Hardware
  3. Forderung nach Sanktionen
  4. Empfehlung an die Vertragsparteien, Schutzmaßnahmen gemäß Artikel XII zu ergreifen

ARTIKEL XII— Schutzmaßnahmen
  1. In der Erkenntnis, dass die Entwicklung von ASI oder anderen gefährlichen KI-Aktivitäten, wie in den Artikeln IV bis IX dargelegt, eine Bedrohung für die globale Sicherheit und das Leben aller Menschen darstellen würde, kann es für die Vertragsparteien dieses Vertrags erforderlich sein, drastische Maßnahmen zu ergreifen, um eine solche Entwicklung zu verhindern. Die Vertragsparteien erkennen an, dass die Entwicklung künstlicher Superintelligenz (ASI) an jedem Ort der Erde eine Bedrohung für alle Vertragsparteien darstellen würde. Gemäß Artikel 51 der Charta der Vereinten Nationen und als langjähriger Präzedenzfall haben Staaten das Recht auf Selbstverteidigung. Aufgrund des Ausmaßes und der Geschwindigkeit der mit ASI verbundenen Bedrohungen kann Selbstverteidigung präventive Maßnahmen erfordern, um die Entwicklung von ASI zu verhindern.
  2. Um die Entwicklung oder den Einsatz von ASI zu verhindern, genehmigt dieser Artikel maßgeschneiderte Schutzmaßnahmen. Liegen glaubwürdige Beweise dafür vor, dass ein Staat oder ein anderer Akteur (unabhängig davon, ob es sich um eine Vertragspartei oder einen Nichtvertragspartner handelt) Aktivitäten durchführt oder unmittelbar beabsichtigt, Aktivitäten durchzuführen, die auf die Entwicklung oder den Einsatz von ASI unter Verstoß gegen Artikel I, Artikel IV, Artikel V, Artikel VI, Artikel VII oder Artikel VIII abzielen, kann ein Vertragsstaat Schutzmaßnahmen ergreifen, die notwendig und verhältnismäßig sind, um diese Aktivitäten zu verhindern. In Anbetracht der Schäden und der eskalierenden Natur von Schutzmaßnahmen sollten Schutzmaßnahmen nur als letztes Mittel eingesetzt werden. Außer in Notfällen und zeitkritischen Situationen müssen Schutzmaßnahmen anderen Ansätzen vorausgehen, darunter unter anderem:
  1. Handelsbeschränkungen oder Wirtschaftssanktionen
  2. Vermögensbeschränkungen
  3. Visumsverbote
  4. Aufruf an den UN-Sicherheitsrat zum Handeln
  1. Schutzmaßnahmen können Maßnahmen wie Cyberoperationen zur Sabotage der KI-Entwicklung, die Beschlagnahme oder Einziehung von betroffenen Chip-Clustern, militärische Aktionen zur Deaktivierung oder Zerstörung von KI-Hardware und die physische Deaktivierung bestimmter Einrichtungen oder Vermögenswerte, die die KI-Entwicklung direkt ermöglichen, umfassen.
  2. Die Parteien müssen, soweit dies praktikabel ist und vorbehaltlich der Anforderungen der Mission, Kollateralschäden, einschließlich Schäden für Zivilisten und lebenswichtige Dienste, auf ein Minimum beschränken.
  3. Schutzmaßnahmen sind streng auf die Verhinderung der Entwicklung oder des Einsatzes von ASI beschränkt und dürfen nicht als Vorwand für die Eroberung von Territorium, einen Regimewechsel, die Ausbeutung von Ressourcen oder weitergehende militärische Ziele dienen. Die dauerhafte Besetzung oder Annexion von Territorium ist verboten. Die Maßnahmen werden eingestellt, sobald die ISIA überprüft hat, dass die Bedrohung nicht mehr besteht.
  4. Jede Schutzmaßnahme muss bei ihrer Einleitung oder sobald es die Sicherheitslage zulässt von einer öffentlichen Erklärung zu Schutzmaßnahmen begleitet werden, die
  1. den Schutzzweck der Maßnahme erläutert;
  2. die spezifischen KI-fördernden Aktivitäten und Vermögenswerte identifiziert, gegen die sie gerichtet ist;
  3. die Bedingungen für die Beendigung der Maßnahmen darlegt;
  4. die Verpflichtung enthält, die Maßnahmen einzustellen, sobald diese Bedingungen erfüllt sind.
  1. Schutzmaßnahmen sind unverzüglich zu beenden, wenn einer der folgenden Fälle eintritt:
  1. ISIA-Bescheinigung, dass die entsprechenden Aktivitäten eingestellt wurden.
  2. Nachweisliche Übergabe oder Vernichtung der betroffenen Chip-Cluster oder ASI-fähigen Ressourcen, möglicherweise einschließlich der Einrichtung ausreichender Sicherheitsvorkehrungen zur Verhinderung eingeschränkter Forschungsaktivitäten.
  3. Eine der ISIA mitgeteilte Feststellung der handelnden Vertragspartei, dass die Bedrohung nachgelassen hat.
  1. Die Vertragsparteien betrachten die von einer anderen Vertragspartei gemäß diesem Artikel ergriffenen Schutzmaßnahmen nicht als provokative Handlungen und ergreifen auf dieser Grundlage keine Vergeltungsmaßnahmen oder Sanktionen. Die Vertragsparteien sind sich einig, dass Schutzmaßnahmen, die die oben genannten Anforderungen erfüllen, nicht als Akt der Aggression oder Rechtfertigung für die Anwendung von Gewalt ausgelegt werden dürfen.
  2. Der Exekutivrat überprüft jede Schutzmaßnahme auf Übereinstimmung mit diesem Artikel und erstattet der Konferenz der Vertragsparteien Bericht. Stellt der Exekutivrat fest, dass eine Maßnahme nicht notwendig, verhältnismäßig oder zielgerichtet war, können Maßnahmen gemäß Artikel XI Absatz 3 ergriffen werden.

ARTIKEL XIII— ISIA-Überprüfungen
  1. Für KI-Modelle, die durch deklariertes Training oder Post-Training innerhalb der Grenzen von Artikel IV erstellt wurden, kann die ISIA Bewertungen und andere Tests verlangen. Diese Tests geben Aufschluss darüber, ob die in Artikel IV, Artikel V, Artikel VII und Artikel VIII festgelegten Schwellenwerte überarbeitet werden müssen. Die für die Überprüfungen verwendeten Methoden werden von der ISIA festgelegt und können aktualisiert werden.
  2. Die Bewertungen werden in ISIA-Einrichtungen oder überwachten CCCs von ISIA-Beamten durchgeführt. Beamte der Vertragsparteien können darüber informiert werden, welche Tests durchgeführt werden, und die ISIA kann eine Zusammenfassung der Testergebnisse zur Verfügung stellen. Die Vertragsparteien erhalten keinen Zugang zu KI-Modellen, die sie nicht selbst trainiert haben, es sei denn, der Eigentümer des Modells gewährt ihnen Zugang, und die ISIA ergreift Maßnahmen, um die Sicherheit sensibler Informationen zu gewährleisten.
  3. Die ISIA kann detaillierte Informationen an die Vertragsparteien oder die Öffentlichkeit weitergeben, wenn der Generaldirektor dies für notwendig erachtet, um das Risiko der Auslöschung der Menschheit durch fortgeschrittene KI zu verringern.

ARTIKEL XIV— Vertragsrevisionsprozess
  1. Jeder Vertragsstaat kann Änderungen zu diesem Vertrag vorschlagen. "Änderungen" gelten als Überarbeitungen des Hauptteils und der Artikel des Vertrags. Änderungen umfassen auch Überarbeitungen des Zwecks der Artikel des Vertrags. Gemäß Artikel III kann das Technische Sekretariat der ISIA mit einer Mehrheit der Stimmen des Exekutivrats bestimmte Definitionen und Umsetzungsmethoden ändern, beispielsweise solche, die für Artikel IV, Artikel V, Artikel VI, Artikel VII, Artikel VIII, Artikel IX und Artikel X relevant sind. Grundlegende Überarbeitungen des Zwecks dieser Artikel oder der Abstimmungsverfahren erfordern eine Änderung.
  2. Solche Änderungsvorschläge werden dem Generaldirektor der ISIA vorgelegt und an die Vertragsstaaten weitergeleitet.
  3. Damit eine Änderung formell geprüft wird, muss sie von mindestens einem Drittel der Vertragsstaaten unterstützt werden.
  4. Änderungen des Hauptteils des Vertrags werden erst ratifiziert, wenn sie von allen Vertragsstaaten (ohne Gegenstimmen) angenommen wurden.
  5. Empfiehlt der Exekutivrat allen Vertragsstaaten die Annahme des Vorschlags, gelten die Änderungen als angenommen, wenn kein Vertragsstaat sie innerhalb von 90 Tagen ablehnt.
  6. Drei Jahre nach Inkrafttreten dieses Vertrags findet in Genf (Schweiz) eine Konferenz der Vertragsparteien statt, um die Anwendung dieses Vertrags zu überprüfen und sicherzustellen, dass die Ziele der Präambel und die Bestimmungen des Vertrags umgesetzt werden. Danach werden die Vertragsparteien alle drei Jahre weitere Konferenzen mit dem gleichen Ziel der Überprüfung der Anwendung des Vertrags einberufen.

ARTIKEL XV— Rücktritt und Laufzeit
  1. Der Vertrag hat unbegrenzte Laufzeit.
  2. Jede Vertragspartei hat unter Ausübung ihrer nationalen Souveränität das Recht, vom Vertrag zurückzutreten, wenn sie zu der Auffassung gelangt, dass außergewöhnliche Ereignisse im Zusammenhang mit dem Gegenstand dieses Vertrags die höchsten Interessen ihres Landes gefährden. Sie muss einen solchen Rücktritt der ISIA 12 Monate im Voraus ankündigen.
  3. Während dieses Zeitraums von 12 Monaten arbeitet der austretende Staat mit der ISIA zusammen, um zu bestätigen, dass er nach dem Austritt nicht in der Lage sein wird, gefährliche KI-Systeme, einschließlich ASI oder Systeme, die über den Schwellenwerten des Vertrags liegen, zu entwickeln, zu trainieren, nachzutrainieren oder einzusetzen. Die austretenden Staaten erkennen an, dass eine solche Zusammenarbeit der ISIA und den Vertragsparteien dabei hilft, die Anwendung von Artikel XII zu vermeiden.
  1. Insbesondere wird der austretende Staat unter der Aufsicht der ISIA alle betroffenen Chip-Cluster und ASI-fähigen Vermögenswerte (z. B. fortschrittliche Computerchip-Fertigungsanlagen) aus seinem Hoheitsgebiet entfernen und einer von der ISIA genehmigten Kontrolle unterstellen oder sie dauerhaft unbrauchbar machen (wie in Artikel V beschrieben).
  1. Keine Bestimmung dieses Artikels schränkt die Anwendbarkeit von Artikel XII ein. Ein Staat, der ausgetreten ist (und somit keine Vertragspartei mehr ist), unterliegt weiterhin Schutzmaßnahmen, wenn glaubwürdige Beweise auf Aktivitäten hinweisen, die auf die Entwicklung oder den Einsatz von ASI abzielen.