Non siamo esperti di diritto internazionale e questo è un argomento straordinariamente complicato, che a nostro avviso richiederà un notevole impegno da parte degli esperti del settore. Tuttavia, nell'interesse di avviare rapidamente il dibattito, abbiamo collaborato con il nostro team di governance tecnica e con consulenti esterni per raccogliere alcuni spunti e ipotesi su misure che potrebbero rivelarsi efficaci.

Le offriamo allo scopo di incoraggiare il dialogo, il dibattito, la critica e le iterazioni successive. Queste bozze iniziali non devono in alcun modo essere considerate come definitive o autorevoli.

Come primo passo, esaminiamo i vincoli e i contorni del problema che stiamo cercando di risolvere: un argomento che potrebbe facilmente riempire un libro intero. Il problema centrale, da decenni, è quello di impedire lo sviluppo della superintelligenza artificiale. E poiché non sappiamo dove si trovino le soglie critiche, ciò equivale essenzialmente a interrompere del tutto la ricerca e lo sviluppo nel campo dell'IA.

I progressi attuali nel campo dell'IA derivano da una combinazione di fattori: la creazione di chip più performanti, l'impiego di un maggior numero di chip per sessioni di addestramento più lunghe, e il miglioramento degli algoritmi. Affronteremo a uno a uno ciascuno di questi aspetti, spiegando quali siano le leve corrispondenti per arrestare il progresso verso la superintelligenza artificiale.

Impedire la creazione di chip per l'IA più numerosi e potenti

Aumentare la potenza delle moderne IA richiede un enorme investimento in potenza di calcolo ed energia elettrica. Di conseguenza, sembra possibile, per i moderni attori statali, identificare e monitorare tutte le strutture pertinenti e prevenire l'emergere di nuove strutture simili, con un impatto minimo sull'hardware di consumo.

La catena di approvvigionamento per la produzione di chip per l'IA avanzati è estremamente concentrata. Per alcune fasi della catena di approvvigionamento, esiste una sola azienda al mondo in grado di svolgere quel ruolo, e queste aziende si trovano in gran parte in paesi tradizionalmente alleati degli Stati Uniti.

Per esempio, solo poche aziende possono fabbricare chip per l'IA (principalmente l'azienda taiwanese TSMC) e uno dei macchinari fondamentali utilizzati nei chip di fascia alta è prodotto solo dall'azienda olandese ASML. Si tratta della macchina per litografia a ultravioletti estremi, grande come uno scuolabus, che pesa 200 tonnellate e costa centinaia di milioni di euro.

Questa catena di approvvigionamento è il risultato di decenni di innovazione e investimenti, e si prevede che replicarla sarà piuttosto difficile — un'impresa che richiederà probabilmente più di un decennio, anche per i paesi tecnologicamente avanzati.

I chip per l'IA più avanzati sono anche molto specializzati, quindi il loro tracciamento e monitoraggio avrebbe ricadute limitate. Il chip H100 di NVIDIA, uno dei chip per l'IA più comuni a metà del 2025, costa circa 30.000 dollari per unità ed è progettato per essere utilizzato in un data center, a causa dei suoi requisiti di raffreddamento e alimentazione. Questi chip sono ottimizzati per eseguire le operazioni numeriche coinvolte nell'addestramento e nell'esecuzione delle IA, e sono in genere [da decine a migliaia di volte](https://cset.ge Georgetown.edu/publication/ai-chips-what-they-are-and-why-they-matter/) più performanti nei carichi di lavoro di IA rispetto ai computer standard (CPU di consumo).^*

La concentrazione e la complessità della catena di approvvigionamento dei chip per l'IA rendono più facile di quanto ci si potrebbe aspettare fermare lo sviluppo dell'intelligenza artificiale avanzata. Interrompere la produzione di nuovi chip per l'IA sarebbe semplice. Basterebbe un monitoraggio relativamente limitato di un piccolo numero di fornitori chiave per garantire che non vengano create catene di approvvigionamento segrete, data la complessità e l'interconnessione del processo di produzione.

Per produrre chip per l'IA e altri chip avanzati per computer (come quelli per i cellulari) si usano alcune delle stesse infrastrutture, ma ci sono differenze notevoli tra questi chip. Se la produzione di chip avanzati per l'IA venisse interrotta, sarebbe possibile controllare e assicurarsi che qualsiasi produzione di chip in corso crei solo chip non specializzati per l'IA.

Si potrebbe controllare che i chip specializzati per l'IA già esistenti vengano conservati e usati per far funzionare le IA esistenti, come ChatGPT. Garantire che tali chip vengano usati solo per far funzionare IA a bassa potenza (anziché per nuove attività di ricerca e sviluppo) sarebbe una sfida, ma non insormontabile. Le posizioni dei chip esistenti potrebbero essere tracciate e monitorate, e ci sono vari potenziali meccanismi che potrebbero essere utilizzati per verificare per cosa vengono usati tali chip. Questo tipo di monitoraggio richiede l'accesso fisico ai chip (ad esempio, ispettori che effettuano misurazioni in un data center). L'accesso remoto potrebbe essere sufficiente per verificare se i nuovi chip siano fabbricati con una sicurezza migliorata e progettati tenendo conto della verifica e del monitoraggio. Come vedremo nella sezione seguente, le concentrazioni di chip necessarie per essere pericolose (al livello degli algoritmi di IA dell'agosto 2025) sono così grandi che non sarebbe difficile per gli attori statali individuare tutte queste strutture e sottoporle a ispezioni regolari.

Impedire l'uso di chip per l'IA più numerosi e migliori

Spostando ora l'attenzione dalla produzione dei chip al loro utilizzo: i più grandi attuali data center per l'IA ospitano centinaia di migliaia di chip per l'IA, che costano miliardi di euro. Per addestrare una delle IA più potenti oggi disponibili, questi chip devono essere utilizzati per mesi e mesi.

Ciascuno di questi chip ha un consumo energetico simile a quello di un'abitazione media americana, pertanto un data center con centinaia di migliaia di chip ha un consumo energetico paragonabile a quello di una piccola città. Per alimentare tutti questi chip sono necessarie infrastrutture elettriche specializzate, come grandi linee di trasmissione. Questi data center sono anche edifici piuttosto grandi con impronte termiche distintive, dovute al funzionamento e al raffreddamento continui di un gran numero di chip ad alto consumo energetico.

All'interno, questi data center ospitano migliaia di chip montati in armadi appositi e dispongono di vaste infrastrutture di raffreddamento per evitare il surriscaldamento dei chip. Se si entrasse in uno di questi edifici, sarebbe subito chiaro che si tratta di un data center. Il loro scopo non potrebbe di certo essere celato a eventuali ispettori internazionali, soprattutto qualora questi ultimi controllassero i chip presenti nel data center e scoprissero che si tratta di chip specializzati per l'IA.

I grandi data center e le relative infrastrutture energetiche sono talmente imponenti da poter essere individuati dai satelliti in orbita. Ciò significa che se i governi volessero localizzare i grandi data center attuali, molto probabilmente ci riuscirebbero con un elevato tasso di successo, indipendentemente dal fatto che si trovino all'interno dei propri confini o in altri paesi. Sebbene le conoscenze pubbliche in materia siano limitate, questo singolo intervento potrebbe bastare a rintracciare la maggior parte dei chip per l'IA di fascia alta.

In futuro, gli Stati potrebbero tentare di nascondere i loro data center per renderne più difficile l'individuazione satellitare. Potrebbero, ad esempio, provare a occultare un data center all'interno di una montagna (come nel Cheyenne Mountain Complex, che ospita il NORAD), dove non sarebbe visibile dall'alto. Nonostante questo, sarebbe difficile nascondere le infrastrutture necessarie al suo funzionamento.

Il fattore principale che ne favorisce l'individuazione è il fabbisogno di elettricità molto elevato dei data center. L'elettricità viene solitamente fornita da linee di trasmissione, che sono quasi sempre fuori terra. Sebbene sia possibile interrare le linee di trasmissione, è un'operazione molto più costosa e lunga, e anche i lavori di costruzione necessari sono difficili da occultare.

Finché ci vorranno più di 100 000 chip per addestrare un'intelligenza artificiale all'avanguardia, sembra abbastanza probabile che gli attori statali possano individuare e monitorare tutti i data center rilevanti.

Prevenire il progresso algoritmico

Algoritmi di IA più efficienti possono ridurre le risorse computazionali necessarie per addestrare un'IA, oppure possono consentire la produzione di IA più potenti utilizzando una data quantità di risorse computazionali, o entrambe le cose.

Il progresso algoritmico è guidato principalmente dalla ricerca e dall'ingegneria, che attualmente dipendono dalle competenze e dall'impegno umano. Le competenze necessarie per migliorare gli algoritmi di IA sono relativamente rare, il che spiega gli stipendi elevati dei migliori ricercatori del settore.

Anche se oggi queste competenze sono rare, non è chiaro come la situazione potrebbe cambiare con l'aumento del numero di ricercatori che entrano nel settore e la diffusione delle conoscenze. A seconda di come si conta il numero di persone con le competenze necessarie, il numero reale è probabilmente nell'ordine delle centinaia o delle migliaia (ad esempio, in base al numero di ricercatori e ingegneri di IA presso le principali aziende di IA). Le stime conservative potrebbero essere molto più alte — ad esempio, ci sono decine di milioni di ingegneri software nel mondo.

Interventi legali e sociali potrebbero rallentare drasticamente il progresso algoritmico. La maggior parte delle persone non vuole infrangere la legge, soprattutto quando ci sono conseguenze reali. Se fosse illegale pubblicare determinate ricerche sull'IA o eseguire vari esperimenti sull'IA , in base ai rischi catastrofici posti da un'IA sufficientemente potente, ciò probabilmente dissuaderebbe quasi tutti i potenziali ricercatori nel campo dell'IA. I governi potrebbero implementare controlli sulle esportazioni che renderebbero illegale la condivisione o la pubblicazione di tali ricerche senza una licenza di esportazione e l'approvazione del governo.

Anche i tabù sociali sarebbero d'aiuto. Un precedente è la Conferenza di Asilomar sul DNA ricombinante del 1975, che portò a una moratoria volontaria su alcuni esperimenti biologici ritenuti eccessivamente rischiosi. In teoria, gli scienziati potrebbero istituire una moratoria volontaria sull'avanzamento delle capacità dell'IA. Tuttavia, ciò richiederebbe che questi scienziati prendessero sul serio il pericolo rappresentato da un'intelligenza artificiale più intelligente dell'uomo — un cambiamento rispetto allo status quo, che vede il progresso delle capacità dell'IA lodato in molti ambienti. Dati gli incentivi economici miopi e il comportamento tenuto finora dai laboratori, le restrizioni legali esterne appaiono estremamente probabili, a meno che la cultura del settore non cambi radicalmente (e in fretta).^†

Un elemento essenziale per rendere efficace un divieto imperfetto potrebbe essere una cosa tanto ovvia quanto "assicurarsi che i leader mondiali capiscano che moriranno loro stessi e le loro famiglie, se continuano a spingere in quella direzione". Gli scenari di non conformità più probabili sono quelli in cui i governi vedono la superintelligenza sviluppata internamente come una risorsa strategica (o come un miraggio che li distrae da nuovi strumenti di IA redditizi), piuttosto che come un pulsante di suicidio globale. I governi sarebbero molto meno propensi a portare avanti progetti di ricerca segreti sulla superintelligenza se capissero correttamente che ciò equivale a caricare una pistola, puntarsela alla testa e premere il grilletto.

I divieti di ricerca non fermerebbero tutti. Alcuni importanti ricercatori scientifici e dirigenti tecnologici hanno già affermato che distruggere l'umanità è un prezzo accettabile da pagare per il progresso. Ma non dovremmo lasciare che il meglio sia nemico del bene. I progressi algoritmici quanto meno rallenterebbero se queste persone venissero private dei finanziamenti ed emarginate dai loro colleghi, costringendole a condurre le loro letali ricerche nell'illegalità e senza la collaborazione dei loro colleghi più retti.

Più aspettiamo, più diventa difficile

Se la produzione e la distribuzione dei chip di IA proseguono sulla traiettoria attuale, la sfida di garantire che un numero sufficiente di chip sia centralizzato e monitorato diventerà sempre più ardua. Anche se gli Stati non sono ancora convinti dei rischi, iniziare oggi a tracciare i chip di IA a livello internazionale significa che in futuro potrebbe rimanere possibile intervenire. Se i governi non si muovono in fretta, questa finestra temporale potrebbe chiudersi presto.

Se ai ricercatori sarà consentito di continuare a far progredire lo stato dell'arte degli algoritmi di IA, è probabile che un numero sempre più piccolo di chip per IA possa rappresentare una seria minaccia. Se e quando i sistemi di IA diventeranno in grado di automatizzare parti del processo di ricerca e sviluppo dell'IA, potrebbe diventare particolarmente difficile controllarne lo sviluppo. Tali sistemi potrebbero essere facilmente copiati e distribuiti e l'hardware necessario per eseguirli potrebbe non essere significativo. (I requisiti hardware per eseguire i sistemi di IA sono molto inferiori a quelli per addestrare i sistemi di IA).

Prima o poi, potrebbe diventare impossibile per i governi di tutto il mondo fermare lo sviluppo di sistemi di IA superintelligenti. Non siamo ancora a quel punto, ma ogni mese diventa più difficile. Il piano che delineiamo si basa sul presupposto di fermare lo sviluppo dell'IA a breve. Esistono altri piani che non si basano su questo presupposto, ma sono più difficili da attuare, hanno costi più elevati per le libertà personali e comportano maggiori probabilità di fallimento.

Notes