1. Ogni Parte deve creare o conferire poteri a un'agenzia nazionale con le seguenti responsabilità:
   1. Tenersi aggiornata e mantenere i contatti con i ricercatori e le organizzazioni nazionali che lavorano in settori affini alla Ricerca Soggetta a Restrizioni, al fine di comunicare le categorie di Ricerca Soggetta a Restrizioni stabilite nell'Articolo VIII.
   2. Imporre sanzioni per dissuadere i ricercatori e le organizzazioni nazionali dal condurre Ricerca Soggetta a Restrizioni. Tali sanzioni dovranno essere proporzionate alla gravità della violazione e concepite come un deterrente efficace. Ciascuna Parte dovrà promulgare o modificare le disposizioni di legge necessarie per consentire l'imposizione di tali sanzioni.
   3. Istituire infrastrutture sicure per la segnalazione e il contenimento di scoperte involontarie che soddisfano le condizioni per la Ricerca Soggetta a Restrizioni. Tali segnalazioni saranno condivise con la divisione per il Controllo sulla Ricerca.
2. Per agevolare la verifica internazionale dei divieti di ricerca, la divisione Controllo sulla Ricerca svilupperà e implementerà meccanismi di verifica.
   1. Tali meccanismi potrebbero includere, a titolo esemplificativo ma non esaustivo:
      1. Colloqui dell'AISI con ricercatori che hanno lavorato in passato su argomenti di Ricerca Soggetta a Restrizioni o che attualmente lavorano in settori adiacenti.
      2. Monitoraggio dello stato occupazionale e dell'ubicazione dei ricercatori che hanno lavorato in passato su argomenti di Ricerca Soggetta a Restrizioni o che attualmente lavorano in settori adiacenti.
      3. Mantenimento di revisori interni dell'AISI in organizzazioni selezionate ad alto rischio (ad esempio, progetti difficili da distinguere dalla Ricerca Soggetta a Restrizioni, ex organizzazioni di ricerca sull'IA).
   2. Le Parti collaboreranno all'implementazione di questi meccanismi di verifica.
   3. Le informazioni ottenute attraverso questi meccanismi di verifica saranno raccolte in relazioni per il Consiglio Esecutivo, garantendo la massima riservatezza delle informazioni sensibili al fine di proteggere la privacy e le informazioni riservate di individui e Parti.

Note

Oltre alle regole dell'Articolo VIII, i Paesi verificheranno che non vengano condotte ricerche vietate sull'IA. Un aspetto chiave di questo approccio consiste nello stabilire "aree adiacenti alla Ricerca Soggetta a Restrizioni" e poi nello stabilire relazioni con i ricercatori che lavorano in tali aree. Il numero di ricercatori di punta nel campo dell'IA a livello mondiale è sufficientemente basso da rendere fattibile il monitoraggio delle attività di una frazione significativa di essi. Il solo personale tecnico delle principali aziende di IA ammonterebbe a circa 5.000 ricercatori, mentre il numero di partecipanti alle più importanti conferenze sull'IA sarebbe dell'ordine di 70.000. È opinione comune che un gruppo molto più piccolo sia cruciale per lo sviluppo dell'IA di frontiera, probabilmente nell'ordine delle centinaia.^* Gli Stati potrebbero anche contattare i ricercatori in merito alle loro attività e offrire asilo e incentivi finanziari a eventuali informatori (si veda l'Articolo X).

Sebbene sia già pubblicamente disponibile una notevole conoscenza tecnica sulle attuali pratiche di sviluppo dell'IA, che un attore malintenzionato potrebbe sfruttare, riteniamo che le restrizioni legali e le verifiche avrebbero un impatto profondo sul progresso generale del settore.

Se il monitoraggio fosse esteso ai ricercatori e agli ingegneri coinvolti nella progettazione e nella produzione di semiconduttori, ciò aumenterebbe notevolmente la portata del monitoraggio richiesto. Ove ciò non fosse fattibile, gli Stati potrebbero monitorare le aziende piuttosto che i singoli individui, sfruttando la complessità e la portata della produzione di semiconduttori avanzati.

Il Paragrafo 2 di questo Articolo stabilisce un regime di maggiore trasparenza che facilita la verifica del divieto di ricerca. Tali misure di cooperazione mirano a fornire alle Parti le garanzie di cui hanno bisogno. Prevediamo che le Parti si adopereranno per trovare, attraverso lo sviluppo di meccanismi specifici, un livello di trasparenza che infonda fiducia nel divieto di ricerca, riducendo al minimo i costi per gli interessi statali e la privacy personale. La verifica di un divieto di ricerca è un'impresa complessa e delicata che richiederà uno sforzo continuo e iterativo.

Le Parti potrebbero essere preoccupate dalla possibilità che altre Parti promulghino divieti di ricerca a livello nazionale, per poi violarli con attività governative segrete celate ai servizi di intelligence stranieri. La ricerca che violerebbe i divieti può variare in scala, ed è probabile che gli sforzi su larga scala (che coinvolgono molti ricercatori e chip rilevanti per l'IA) sarebbero facilmente rilevabili da attori statali determinati. Ma gli sforzi su scala ridotta, come lo sviluppo di paradigmi alternativi di intelligenza artificiale, potrebbero richiedere solo pochi ricercatori e hardware di uso comune. Sarà difficile assicurare alle altre Parti che tali sforzi non vengano celati. La combinazione di raccolta di informazioni (Articolo X) e meccanismi di verifica da parte dell'AISI potrebbe essere sufficiente. Sottolineiamo inoltre l'importanza di proteggere gli informatori (Articolo X).

Precedenti

Tra le agenzie esistenti con il potere di "mantenere la consapevolezza e le relazioni con i ricercatori e le organizzazioni nazionali" a rischio di sviluppare informazioni soggette a restrizioni, come previsto dall'Articolo IX (1.a.), figurano il DOE e la NNSA, già trattati nei precedenti per l'Articolo VIII.

Un precedente per il "monitoraggio dello stato occupazionale e dell'ubicazione dei ricercatori" in settori ad alto rischio, come da noi suggerito nel Paragrafo 2.(a).(ii), è costituito dall'International Science and Technology Center (ISTC).^† Istituito nel 1994, l'ISTC fu creato appositamente per ridurre i rischi di proliferazione nucleare, mantenendo i ricercatori nucleari sovietici proficuamente impiegati in attività pacifiche e connessi alla comunità scientifica internazionale. L'ISTC dimostra inoltre il potenziale degli incentivi quale complemento alle sanzioni, per evitare che gli esperti tecnici (che potrebbero trovarsi disoccupati a seguito di questo trattato) intraprendano una Ricerca Soggetta a Restrizioni.

Nella misura in cui le sanzioni debbano essere severe per garantire la deterrenza indicata nell'Articolo IX.1.(b), si può trovare un modello nel capitolo sull'applicazione (18) dell'Atomic Energy Act del 1946, in base al quale la condivisione non autorizzata di Dati Soggetti a Restrizioni può essere punita con la morte o la reclusione se la divulgazione è avvenuta con intento di tradimento.^‡

Nello sviluppo di un'infrastruttura sicura dell'AISI "per la segnalazione e il contenimento di scoperte involontarie di Ricerca Soggetta a Restrizioni", precedenti e modelli potenzialmente utilizzabili sono reperibili nelle ampie procedure del DOE per la gestione di diverse categorie di dati sensibili. Anche il Sistema di Segnalazione e Trattamento delle Occorrenze del DOE, così come le istruzioni del Comitato per i Sistemi di Sicurezza Nazionale^§ per la fuga di informazioni classificate, possono rivelarsi utili.

La divisione per il Controllo della Ricerca del nostro trattato potrebbe ispirarsi alle pratiche esistenti dell'AIEA per sviluppare i protocolli di ispezione. Nel quadro del Protocollo Aggiuntivo Modello, approvato nel 1997 dal Consiglio dei Governatori dell'AIEA, gli Stati che hanno stipulato accordi di salvaguardia globali^¶ consentono ispezioni di accesso complementare volte a individuare materiale nucleare non dichiarato. Nell'ambito di tali visite, gli ispettori possono sottoporre gli operatori a colloquio, come previsto dalla nostra proposta al Paragrafo IX.2.a.i.

Proponiamo anche di "mantenere revisori interni dell'AISI in organizzazioni selezionate ad alto rischio", proprio come oggi gli uffici locali del DOE e della NNSA hanno sede presso i laboratori nucleari nazionali e gli impianti di produzione gestiti da appaltatori.

Per "proteggere la privacy e i segreti di individui e Parti" durante le verifiche, come richiesto dal Paragrafo 2(c) del presente Articolo, la divisione per il Controllo della Ricerca dell'AISI potrebbe adattare le pratiche di compartimentazione dalle agenzie di intelligence esistenti delle Parti e dagli accordi multilaterali di condivisione dell'intelligence. Ad esempio, in base alla "regola della terza parte" o al "principio del controllo dell'originatore" considerati pratica comune in tali accordi, è vietato divulgare informazioni condivise a terzi (potenzialmente anche agli organi di vigilanza) senza l'autorizzazione dell'agenzia di origine.