Artikel VIII: Eingeschränkte Forschung: KI-Algorithmen und Hardware | If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde | If Anyone Builds It, Everyone Dies

Artikel VIII: Eingeschränkte Forschung: KI-Algorithmen und Hardware

  1. Um bestimmte Forschungsarbeiten zu verhindern, die die Grenzen der KI-Fähigkeiten erweitern oder die Fähigkeit der Vertragsparteien zur Umsetzung der Maßnahmen dieses Vertrags untergraben, bezeichnet dieser Vertrag Forschungsarbeiten, die eine der folgenden Bedingungen erfüllen, als eingeschränkte Forschung:
  1. Verbesserungen der Methoden zur Erstellung von Frontier-Modellen gemäß Artikel II, die die Modellfähigkeiten oder die Effizienz der Entwicklung, des Einsatzes oder der Nutzung von KI verbessern würden
  2. Verteilte oder dezentrale Trainingsmethoden oder Trainingsmethoden, die für die Verwendung auf weit verbreiteter oder handelsüblicher Hardware optimiert sind
  3. Forschung zu Paradigmen der künstlichen Intelligenz von Computern, die über maschinelles Lernen hinausgehen
  4. Fortschritte bei der Herstellung von KI-relevanten Chips oder Chipkomponenten
  5. Entwurf leistungsfähigerer oder effizienterer KI-Chips
  1. Die Abteilung für Forschungskontrolle der ISIA stuft alle eingeschränkten Forschungsaktivitäten entweder als kontrolliert oder als verboten ein.
  1. Jede Vertragspartei überwacht alle kontrollierten Forschungsaktivitäten innerhalb ihres Hoheitsgebiets und ergreift Maßnahmen, um sicherzustellen, dass alle kontrollierten Forschungsaktivitäten überwacht und der Abteilung für Forschungskontrolle zu Überprüfungs- und Überwachungszwecken zur Verfügung gestellt werden.
  2. Keine Vertragspartei darf verbotene Forschung betreiben und muss verbotene Forschung durch Einrichtungen innerhalb ihres Hoheitsgebiets untersagen und verhindern.
  1. Keine Partei darf verbotene Forschung unterstützen, fördern oder daran beteiligt sein, einschließlich durch Finanzierung, Beschaffung, Beherbergung, Überwachung, Lehre, Veröffentlichung, Bereitstellung kontrollierter Werkzeuge oder Chips oder Erleichterung der Zusammenarbeit.
  2. Jede Vertragspartei entsendet einen Vertreter in die Abteilung für Forschungskontrolle der ISIA, die dem Technischen Sekretariat (gemäß Artikel III eingerichtet) untersteht. Diese Abteilung hat folgende Aufgaben:
  1. Auslegung und Klärung der Kategorien der eingeschränkten Forschung und Beantwortung von Fragen zu den Grenzen der eingeschränkten Forschung als Reaktion auf neue Informationen und auf Anfragen von Forschern, Organisationen oder Mitgliedern der Vertragsparteien.
  2. Auslegung und Klärung der Grenze zwischen kontrollierter Forschung und verbotener Forschung sowie Beantwortung von Fragen zu dieser Grenze als Reaktion auf neue Informationen und auf Anfrage von Forschern, Organisationen oder Mitgliedern der Vertragsparteien.
  3. Ändern Sie die Definition von "eingeschränkter Forschung" und deren Kategorien entsprechend den sich ändernden Bedingungen oder auf Anfrage von Forschern, Organisationen oder Parteimitgliedern.
  4. Änderung der Grenze zwischen kontrollierter Forschung und verbotener Forschung als Reaktion auf sich ändernde Bedingungen oder auf Anfrage von Forschern, Organisationen oder Parteimitgliedern.
  5. Das Technische Sekretariat kann die Kategorien, Grenzen und Definitionen der eingeschränkten Forschung gemäß dem in Artikel III beschriebenen Verfahren ändern.

* Das Atomenergiegesetz von 1946 wurde später durch das Atomenergiegesetz von 1954 ergänzt, mit dem Ziel, eine zivile Atomindustrie zu ermöglichen, was die Weitergabe bestimmter vertraulicher Daten an private Unternehmen erforderte.

† Der Fall „United States v. The Progressive” aus dem Jahr 1979, in dem eine Zeitung das „Geheimnis” der Wasserstoffbombe enthüllen wollte, hätte dem Obersten Gerichtshof der Vereinigten Staaten möglicherweise die Gelegenheit gegeben, darüber zu entscheiden, ob die „Born Secret”-Doktrin gegen den Schutz der Meinungsfreiheit durch den Ersten Verfassungszusatz verstößt, wenn die Regierung den Fall nicht als gegenstandslos fallen gelassen hätte.

‡ Eine Abteilung des US-Handelsministeriums.

§ Hunderte solcher Anordnungen wurden im Laufe der Jahrzehnte für Patente im Bereich der Kryptografie erlassen.

 So passt beispielsweise die Entwicklung von AlphaGo, einer hochmodernen KI aus dem Jahr 2016, nicht eindeutig in das moderne Paradigma „Pre-Training, Post-Training, Inferenz”.