Artikel X: Informationskonsolidierung und Kontrollinspektionen

Eine wichtige Informationsquelle für die ISIA sind die unabhängigen Informationsbeschaffungsbemühungen der Vertragsparteien. Daher wird die Abteilung für Informationskonsolidierung (Artikel III) bereit sein, diese Informationen entgegenzunehmen.

Die Abteilung für Informationskonsolidierung trifft Vorkehrungen zum Schutz von Geschäfts-, Industrie-, Sicherheits- und Staatsgeheimnissen sowie anderen vertraulichen Informationen, von denen sie bei der Umsetzung des Vertrags Kenntnis erlangt, einschließlich der Aufrechterhaltung sicherer, vertraulicher und optional anonymer Meldewege.
Zum Zwecke der Gewährleistung oder Einhaltung der Bestimmungen dieses Vertrags setzt jede Vertragspartei die ihr zur Verfügung stehenden nationalen technischen Verifizierungsmittel (NTM) in einer Weise ein, die mit den allgemein anerkannten Grundsätzen des Völkerrechts vereinbar ist.

Jede Vertragspartei verpflichtet sich, die nationalen technischen Verifizierungsmittel anderer Vertragsparteien, die in Übereinstimmung mit den vorstehenden Bestimmungen eingesetzt werden, nicht zu beeinträchtigen.
Jede Vertragspartei verpflichtet sich, keine absichtlichen Verschleierungsmaßnahmen zu ergreifen, die die Überprüfung der Einhaltung der Bestimmungen dieses Vertrags mit nationalen technischen Mitteln behindern.
Die Vertragsparteien werden ermutigt, sind jedoch nicht verpflichtet, bei der Aufdeckung gefährlicher KI-Aktivitäten in Nichtvertragsstaaten zusammenzuarbeiten. Die Vertragsparteien werden ermutigt, sind jedoch nicht verpflichtet, die NTM der Vertragsparteien gegenüber Nichtvertragsparteien zu unterstützen, soweit dies für diesen Vertrag relevant ist.

Eine wichtige Informationsquelle für die ISIA sind Personen, die der ISIA Beweise für gefährliche KI-Aktivitäten liefern. Diese Personen unterliegen dem Whistleblower-Schutz.

Dieser Artikel legt Schutzmaßnahmen, Anreize und Unterstützung für Personen ("geschützte Whistleblower") fest, die der ISIA oder einer Vertragspartei in gutem Glauben glaubwürdige Informationen über tatsächliche, versuchte oder geplante Verstöße gegen diesen Vertrag oder andere Aktivitäten liefern, die ein ernsthaftes Risiko für die Auslöschung der Menschheit darstellen, darunter versteckte Chips, nicht gemeldete Rechenzentren, verbotene Trainingen oder Forschungen, Umgehung von Überprüfungen oder Fälschung von Erklärungen. Zu den geschützten Whistleblowern gehören Mitarbeiter, Auftragnehmer, Beamte, Lieferanten, Forscher und andere Personen mit wesentlichen Informationen sowie verbundene Personen (Familienangehörige und enge Vertraute), die aufgrund der Offenlegung Hilfe leisten oder gefährdet sind.
Die Parteien verbieten und verhindern Vergeltungsmaßnahmen gegen betroffene Whistleblower und assoziierte Personen, einschließlich, aber nicht beschränkt auf Entlassung, Degradierung, Aufnahme in schwarze Listen, Verlust von Leistungen, Belästigung, Einschüchterung, Drohungen, zivil- oder strafrechtliche Maßnahmen, Visumsentzug, körperliche Gewalt, Inhaftierung, Einschränkung der Bewegungsfreiheit oder andere nachteilige Maßnahmen. Alle Vertragsbedingungen (einschließlich Geheimhaltungs- oder Nicht-Herabsetzungsvereinbarungen), die darauf abzielen, geschützte Offenlegungen im Rahmen dieses Vertrags einzuschränken, sind nichtig und nicht durchsetzbar. Die Misshandlung von Whistleblowern stellt einen Verstoß gegen diesen Vertrag dar und wird gemäß Artikel XI Absatz 3 behandelt.
Die ISIA unterhält sichere, vertrauliche und optional anonyme Meldewege. Die Vertragsparteien richten nationale Meldewege ein, die mit dem ISIA-System kompatibel sind. Die ISIA und die Vertragsparteien schützen die Identität der geschützten Whistleblower und der mit ihnen verbundenen Personen und geben diese nur dann preis, wenn dies unbedingt erforderlich ist und Schutzmaßnahmen getroffen wurden. Die unbefugte Offenlegung geschützter Identitäten stellt einen Verstoß gegen diesen Vertrag dar und wird gemäß Artikel XI Absatz 3 geahndet.
Die Vertragsparteien gewähren den betroffenen Hinweisgebern und ihren Familien Asyl oder humanitären Schutz, stellen ihnen sichere Reisedokumente aus und koordinieren einen sicheren Transit.

Die ISIA kann bei glaubwürdigen Informationen über gefährliche KI-Aktivitäten Kontrollinspektionen an verdächtigen Standorten durchführen.

Die Vertragsparteien können die ISIA um die Durchführung einer Vor-Ort-Inspektion ersuchen. Der Exekutivrat prüft auf Antrag oder aufgrund der Analyse der Abteilung für Informationskonsolidierung die vorliegenden Informationen, um zusätzliche Informationen von Vertragsparteien oder Nichtvertragsparteien anzufordern, eine Vor-Ort-Inspektion vorzuschlagen oder zu entscheiden, dass keine weiteren Maßnahmen erforderlich sind.
Eine Vor-Ort-Inspektion erfordert die Zustimmung der Mehrheit des Exekutivrats.
Der Zugang zu einem verdächtigen Standort muss von dem Land, in dem sich der Standort befindet, innerhalb von 24 Stunden nach der Aufforderung der ISIA zu einer Challenge-Inspektion gewährt werden. Während dieser Zeit kann der Standort überwacht werden, und alle Personen oder Fahrzeuge, die den Standort verlassen, können von Beamten einer Unterzeichnerpartei oder der ISIA kontrolliert werden.
Die Challenge-Inspektion wird von einem Team von Beamten der ISIA durchgeführt, die sowohl von der inspizierten Vertragspartei als auch von der Vertragspartei, die die Inspektion beantragt hat, genehmigt wurden. Die ISIA ist dafür verantwortlich, in Zusammenarbeit mit den Vertragsparteien Listen der für diesen Zweck zugelassenen Inspektoren zu führen.
Vorladungsinspektionen dürfen höchstens 20 Mal pro Jahr im Hoheitsgebiet einer bestimmten Vertragspartei durchgeführt werden, wobei diese Begrenzung durch eine Mehrheitsentscheidung des Exekutivrats geändert werden kann.
Die Inspektoren werden mit größter Sorgfalt darauf achten, die sensiblen Informationen des inspizierten Staates zu schützen, und nur die Informationen an den Exekutivrat weitergeben, die für den Vertrag relevant sind.

Präzedenzfall

Wir haben zuvor Präzedenzfälle für die Konsolidierung von Informationen in Artikel VIII erörtert, wo wir auf die Existenz von Geheimdienstabkommen hingewiesen haben, die Praktiken der Kompartimentierung wie die "Drittparteienregel" beinhalten. Ähnliche Regeln finden sich in der IAEO, wie in INFCIRC/153 Teil 1.5:

...die Organisation trifft alle Vorkehrungen, um Geschäfts- und Betriebsgeheimnisse und andere vertrauliche Informationen, von denen sie bei der Durchführung des Übereinkommens Kenntnis erhält, zu schützen.

Die Mitarbeiter sind zur Vertraulichkeit verpflichtet und müssen bei Verstößen mit strafrechtlichen Sanktionen rechnen. Dies ist von Bedeutung, da die IAEO von den Geheimdienstinformationen der teilnehmenden Staaten profitiert hat, darunter Satellitenbilder und Dokumente, wie im Fall der nicht gemeldeten Anreicherungsaktivitäten des Iran. In ähnlicher Weise verlangte die IAEO aufgrund der vorgelegten Geheimdienstinformationen eine Sonderinspektion der nicht gemeldeten Plutoniumproduktion Nordkoreas.

In Anerkennung der unverzichtbaren Rolle nationaler technischer Mittel (NTM, also Satellitenbilder, Signalerfassung und andere Fernerkundung) bei der Überprüfung multilateraler Abkommen übernimmt unser Abkommensentwurf Formulierungen aus dem ABM-Vertrag zur Begrenzung von Raketenabwehrsystemen, in dem es heißt: "Jede Vertragspartei verwendet nationale technische Mittel zur Überprüfung" und "verpflichtet sich, die nationalen technischen Mittel zur Überprüfung der anderen Vertragspartei nicht zu stören". Ähnliche Formulierungen finden sich in Artikel XII des Vertrags über mittelstreckige Nuklearwaffen von 1987, Artikel IV des Vertrags über das umfassende Verbot von Nuklearversuchen von 1996 und im gesamten neuen START-Vertrag von 2010.

Da NTM im Falle von ASI nicht ausreichen würden, um alle gefährlichen Verstöße aufzudecken, haben wir Elemente aus dem IAEO-Sicherungsrahmen übernommen, die interne Meldungen fördern und entsprechende Kanäle dafür bereitstellen. Diese werden jedoch durch das Fehlen ausdrücklicher Schutzmaßnahmen für Whistleblower behindert; weder der Atomwaffensperrvertrag noch diese Sicherungsmaßnahmen schützen einen Informanten vor Vergeltungsmaßnahmen seiner Regierung, es sei denn, dieser Staat verfügt über entsprechende innerstaatliche Schutzmaßnahmen. Die Bestimmungen auf Vertragsebene zum Schutz von Whistleblowern und zum Asylrecht in unserem Vertragsentwurf sollen diese Lücke schließen.

Die jüngste EU-Gesetzgebung zu KI hat ähnliche Maßnahmen ergriffen. In Erwägungsgrund 172 des EU-KI-Gesetzes wird der bestehende allgemeine Schutz der Union für Whistleblower ausdrücklich auf diejenigen ausgeweitet, die Verstöße gegen das KI-Gesetz melden.

Die Flüchtlingskonvention von 1951 bietet einen möglichen Rahmen für die Gewährung von Asyl für Informanten, wobei die Qualifikation auf einer "begründeten Furcht vor Verfolgung" basiert, obwohl möglicherweise eine Änderung oder eine Zusatzvereinbarung erforderlich ist, um sicherzustellen, dass KI-Whistleblowing ein rechtlich qualifizierter Grund für Verfolgung ist.

Im Kontext des Kalten Krieges und seiner Nachwirkungen wurde Personen mit sensiblen Kenntnissen oder Fachwissen routinemäßig Asyl gewährt. Abschnitt 7 des CIA-Gesetzes von 1949 sah die Aufnahme und dauerhafte Aufenthaltsgenehmigung von bis zu hundert Überläufern und ihren unmittelbaren Familienangehörigen pro Geschäftsjahr vor, wenn dies "im Interesse der nationalen Sicherheit oder für die Förderung der nationalen Geheimdienstmission unerlässlich" angesehen wurde. Das Gesetz über die Einwanderung sowjetischer Wissenschaftler von 1992 sah bis zu 750 Visa für ehemalige Wissenschaftler aus der Sowjetunion und den baltischen Staaten vor, die "über Fachkenntnisse in den Bereichen Kern-, Chemie-, Bio- oder anderen Hochtechnologien verfügen oder an Kern-, Chemie-, Bio- oder anderen Hochtechnologie-Verteidigungsprojekten arbeiten".

Der in Absatz 3 dieses Artikels dargelegte Mechanismus für Vor-Ort-Inspektionen orientiert sich an dem in Teil IX des CWC:

Jeder Vertragsstaat hat das Recht, eine Vor-Ort-Inspektion auf Verlangen für jede Einrichtung oder jeden Standort im Hoheitsgebiet oder an jedem anderen Ort unter der Hoheitsgewalt oder Kontrolle eines anderen Vertragsstaats zu beantragen, und zwar ausschließlich zum Zweck der Klärung und Lösung von Fragen im Zusammenhang mit einer möglichen Nichteinhaltung ...

Das CWC kombiniert, ebenso wie andere Rüstungskontrollverträge wie der INF-Vertrag und der START-I-Vertrag zwischen den USA und der UdSSR, NTM mit herausfordernden Inspektionen, um die Einhaltung der Verträge zu überprüfen.

Anmerkungen

Informationsbeschaffung

Wir erwarten, dass alle Parteien aus Interesse an ihrer eigenen Sicherheit kontinuierliche Anstrengungen unternehmen, um unabhängig festzustellen, ob ein Akteur gefährliche KI-Aktivitäten durchführt. Eine Reihe von staatlichen Informationsbeschaffungsmaßnahmen würde die direkte Überwachung durch die ISIA (wie in den Artikeln IV bis VII beschrieben) ergänzen und validieren. Zu diesem Zweck ist eine Abteilung für Informationskonsolidierung von entscheidender Bedeutung, die das Vertrauen aller Parteien genießen muss, um Informationen von ihnen zu erhalten.

Zu diesem Zweck ist Vertraulichkeit von entscheidender Bedeutung und muss so streng sein, dass die staatlichen Nachrichtendienste sicher sein können, dass die Risiken für ihre nachrichtendienstlichen Methoden minimal sind und gerechtfertigt sind, um der ISIA die benötigten Informationen zur Verfügung zu stellen. Indem man die Erhebung sensibler Informationen nach Möglichkeit vermeidet und die erhobenen Informationen streng vertraulich behandelt, werden die Risiken einer Gefährdung minimiert.

Artikel X befasst sich auch mit der Überwachung von Nichtunterzeichnern, bei denen ein hoher Bedarf an Informationen besteht.

Artikel X geht nicht so weit, eine Überwachungspflicht aufzuerlegen. Es wäre beispiellos, die Schaffung einer autarken Informationsbeschaffungsfähigkeit innerhalb der ISIA auf dem erforderlichen Niveau vorzuschreiben, um den Staaten Sicherheit zu geben, und dies erscheint auch angesichts der Tatsache unnötig, dass die Schaffung einer Superintelligenz eine ernsthafte Sicherheitsbedrohung darstellen würde, was bedeutet, dass alle Parteien bereits stark motiviert sind, jeden Akteur mit dieser Fähigkeit zu überwachen und zu kontrollieren. Daher verlässt sich die ISIA darauf, dass die Parteien wichtige Informationen bereitstellen.

Schutz von Whistleblowern

Die allgemeine Wirksamkeit dieses Vertrags hängt vom berechtigten Vertrauen der Parteien darauf ab, dass andere Parteien keine verbotenen KI-Aktivitäten durchführen. Selbst mit nationalen technischen Mitteln und anderen Methoden der Informationsbeschaffung kann es für Staaten schwierig sein, geheime Bemühungen zur Entwicklung von Superintelligenz aufzudecken. Es gibt viele Bereiche, in denen es für Staaten möglicherweise nicht möglich ist, Informationen über ihre Konkurrenten zu sammeln, beispielsweise bei Aktivitäten innerhalb von Militäranlagen. Whistleblower können als zusätzliche Informationsquelle dienen, und die Möglichkeit der Meldung von Verstößen bietet eine zusätzliche Abschreckung gegen Verstöße.

Whistleblower können wirksam sein, da Personen, die an geheimen Vertragsverletzungen beteiligt sind (z. B. heimliche Trainingsläufe oder KI-Forschung), selbst über die Gefahr durch ASI besorgt sein könnten. Dieser Artikel zielt darauf ab, es für sie sicherer und kostengünstiger zu machen, Verstöße zu melden, indem die persönlichen Anreize vom Schweigen hin zur Offenlegung verlagert werden.

Whistleblower könnten Alarm schlagen bei Verstößen gegen den Vertrag, darunter:

Artikel IV: Trainingsläufe, die nicht überwacht werden, Schwellenwerte überschreiten oder verbotene verteilte Trainingsmethoden verwenden.
Artikel V: Das Vorhandensein nicht deklarierter Chip-Cluster, das Versäumnis, alle erfasste Hardware zu konsolidieren, oder die Umleitung von Chips in geheime, nicht überwachte Einrichtungen.
Artikel VI: Neu hergestellte KI-Chips, die der Überwachung entzogen oder ohne vorgeschriebene Sicherheitsmerkmale erstellt wurden.
Artikel VIII: Verbotene KI-Forschung.

Änderungen an den Whistleblower-Klauseln könnten deren Wirksamkeit und politische Durchführbarkeit in verschiedener Hinsicht verändern. Beispielsweise könnten Staaten legitimen Whistleblowern eine finanzielle Entschädigung anbieten, um zusätzliche Anreize zu schaffen, was jedoch als Bezahlung von Bürgern für den Verrat an ihrem eigenen Land angesehen werden könnte.

Challenge-Inspektionen

Challenge-Inspektionen sind eine wichtige Funktion der ISIA. Ohne die glaubwürdige Gefahr einer Entdeckung könnten die Vertragsparteien befürchten, dass ihre Rivalen versuchen würden, den Vertrag zu umgehen (trotz der Tatsache, dass ein Wettlauf um Superintelligenz für alle Beteiligten nur Nachteile mit sich bringt). Die Sammlung von Informationen ist eine Methode, um offensichtlichen (illusorischen) Anreizen zum Verrat entgegenzuwirken.

Artikel XI: Streitbeilegung

→