Artikel III: ISIA | If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde | If Anyone Builds It, Everyone Dies

Artikel III: ISIA

  1. Die Vertragsparteien gründen hiermit die International Superintelligence Agency (ISIA), um diesen Vertrag und seine Bestimmungen, einschließlich derjenigen zur internationalen Überprüfung seiner Einhaltung, umzusetzen und ein Forum für Konsultationen und Zusammenarbeit zwischen den Vertragsparteien zu schaffen.
  2. Als Organe der ISIA werden hiermit eingerichtet: die Konferenz der Vertragsparteien, der Exekutivrat und das Technische Sekretariat.
  3. Konferenz der Vertragsparteien
  1. Die Konferenz der Vertragsparteien setzt sich aus allen Vertragsparteien zusammen.
  2. Die Konferenz der Vertragsparteien hat folgende Aufgaben: Festlegung der allgemeinen Politik; Verabschiedung und Überwachung des Haushaltsplans; Wahl der Mitglieder des Exekutivrats; Prüfung der vom Exekutivrat gemeldeten Fragen der Einhaltung; Verabschiedung und Überarbeitung der Anhänge auf Empfehlung des Exekutivrats.
  3. Sie tritt mindestens einmal jährlich zu einer ordentlichen Sitzung zusammen, oder häufiger, wenn dies von der Konferenz beschlossen wird, zusätzlich zu erforderlichen Sondersitzungen. Jede Vertragspartei hat eine Stimme. Die Beschlussfähigkeit ist gegeben, wenn die Mehrheit der Vertragsparteien anwesend ist.
  1. Exekutivrat
  1. Der Exekutivrat hat 15 Mitglieder: (i) 5 Sitze für die ständigen Mitglieder des Sicherheitsrats der Vereinten Nationen und (ii) 10 Sitze, die nach dem Grundsatz der ausgewogenen geografischen Vertretung vergeben werden. Einzelheiten hierzu sind in Anhang A aufgeführt.
  2. Die gewählten Mitglieder haben eine Amtszeit von zwei Jahren. Jedes Jahr wird die Hälfte der Sitze neu besetzt.
  3. Der Exekutivrat hat folgende Aufgaben: Genehmigung von Challenge-Inspektionen; Empfehlung des Haushaltsplans und der Politik an die Konferenz; Ernennung des Generaldirektors; Aufsicht über das Technische Sekretariat und Genehmigung seiner Empfehlungen.
  4. Die Entscheidungsprozesse sind wie folgt:
  1. Der Exekutivrat wählt den Vorsitzenden und den stellvertretenden Vorsitzenden des Exekutivrats.
  2. Der Vorsitzende oder stellvertretende Vorsitzende kann als Sitzungsleiter fungieren.
  3. Die Abstimmung erfolgt nach dem Prinzip "ein Mitglied, eine Stimme".
  4. Die Zustimmung zu einer Überprüfung gemäß Artikel X erfordert eine Mehrheit.
  5. Die Abstimmung über die Abberufung oder Ernennung eines Generaldirektors erfordert eine Zweidrittelmehrheit.
  6. Alle anderen Entscheidungen erfordern eine Mehrheit.
  7. Die Beschlussfähigkeit erfordert zwei Drittel des Exekutivrats.
  1. Technisches Sekretariat und Generaldirektor
  1. Der Generaldirektor des Technischen Sekretariats ist dessen Leiter und oberster Verwaltungsbeamter.
  2. Der Generaldirektor wird vom Exekutivrat für eine Amtszeit von vier Jahren ernannt, die einmal verlängert werden kann. Der Exekutivrat kann den Generaldirektor abberufen.
  3. Das Technische Sekretariat umfasst zu Beginn technische Abteilungen für Chip-Tracking und Fertigungssicherheitsmaßnahmen, Chip-Verwendungsüberwachungsmaßnahmen, Forschungskontrollen, Informationskonsolidierung, technische Überprüfungen, Verwaltung und Finanzen sowie Recht und Compliance. Der Generaldirektor kann technische Abteilungen einrichten und auflösen.
  4. Das Technische Sekretariat schlägt über den Generaldirektor Änderungen an technischen Definitionen und Sicherungsprotokollen vor, die zur Umsetzung der Artikel IV, V, VI, VII, VIII, IX und X dieses Vertrags erforderlich sind.
  1. Zeitkritische Änderungen der FLOP-Schwellenwerte (Artikel IV), der Größe der erfassten Rechencluster (Artikel V) und der Grenzen der eingeschränkten Forschung (Artikel VIII) können vom Generaldirektor sofort umgesetzt werden, wenn Untätigkeit ein Sicherheitsrisiko darstellt. Solche Änderungen bleiben dreißig Tage lang in Kraft. Danach müssen die Änderungen vom Exekutivrat genehmigt werden, um in Kraft zu bleiben.
  2. Der Exekutivrat trifft Entscheidungen über wesentliche Angelegenheiten so weit wie möglich im Konsens; der Generaldirektor sollte sich um einen Konsens bemühen. Ist nach Ablauf von 24 Stunden kein Konsens möglich, wird eine Abstimmung durchgeführt, und der Exekutivrat nimmt die Änderungen an, wenn die Mehrheit der anwesenden und abstimmenden Mitglieder für die Annahme der Änderungen stimmt, und lehnt sie andernfalls ab.
  1. Der reguläre Haushalt der ISIA wird durch Beiträge der Vertragsparteien finanziert, wobei eine Skala zugrunde gelegt wird, die sich an der Beitragsskala der Vereinten Nationen orientiert und einer vom Exekutivrat festgelegten Unter- und Obergrenze unterliegt. Die Mitgliedstaaten haben auch die Möglichkeit, freiwillige Beiträge für die Forschung im Bereich der KI-Sicherheit zu leisten, die sich auf das Alignment, Interpretierbarkeit und Kapazitätsaufbauaktivitäten der Mitgliedstaaten beziehen, einschließlich der vorteilhaften Nutzung sicherer KI, der Entwicklung von Testumgebungen, bewährter Verfahren, des Informationsaustauschs und der Erleichterung der Zusammenarbeit und gemeinsamer Aktivitäten, die sich lose an das IAEO-Netzwerk der Zentren für nukleare Sicherheit anlehnen.

* Die Organisation für das Verbot chemischer Waffen (OPCW) führt Inspektionen durch, überwacht die Vernichtung von Chemiewaffenbeständen und hilft bei der Vorbereitung auf Chemiewaffenangriffe, neben verschiedenen anderen Funktionen, die für das Chemiewaffenübereinkommen (CWC) von entscheidender Bedeutung sind. Das CWC trat 1997 in Kraft; seine 193 Vertragsparteien arbeiten daran, ein Verbot des Einsatzes, der Entwicklung und der Verbreitung von chemischen Waffen und ihren Vorläufersubstanzen mit einigen wenigen Ausnahmen durchzusetzen und aufrechtzuerhalten.

† Die IAEO wurde 1957 gegründet, mehr als ein Jahrzehnt vor dem NVV. Der NVV konnte diese bereits bestehende Organisation mit der Wahrnehmung einiger Aufgaben betrauen. Im Falle der künstlichen Intelligenz gibt es noch keine solche internationale Organisation, daher muss unser Vertrag die Vertragsparteien zur Schaffung einer solchen verpflichten.