La storia della Chicago Pile-1 | Prima che sia troppo tardi: perché la superintelligenza artificiale è una minaccia per l’uminità | If Anyone Builds It, Everyone Dies

La storia della Chicago Pile-1

Nel 1942, sotto la direzione di Enrico Fermi, fu costruita la Chicago Pile-1. Era composta da 45.000 blocchi di grafite per un peso complessivo di 330 tonnellate, 4,9 tonnellate di uranio metallico e 41 tonnellate di diossido di uranio, collocati sotto le tribune del campo da rackets dello Stagg Field, all'Università di Chicago. A seconda di come si definiscono i termini, si può considerarla il primo reattore nucleare; non era destinata a produrre energia per uso industriale, ma fu il primo motore per una reazione critica autosostenuta.

Secondo gli standard moderni, alcuni aspetti della sicurezza lasciavano a desiderare. Ad esempio, il fatto che fosse costruito sotto le tribune di un campo da rackets in un'università all'interno di una grande città.

Il generale Groves, direttore dell'intero Progetto Manhattan, aveva cercato di fare svolgere l'esperimento vicino a Chicago piuttosto che direttamente a Chicago, e aveva ordinato la costruzione di un edificio per quello scopo, ma la costruzione era in ritardo. Arthur Compton, il professore di fisica premio Nobel dell'Università di Chicago che ospitò la CP-1, aveva evitato di chiedere il permesso al rettore dell'università poiché, come Compton spiegò in seguito, il rettore avrebbe dovuto dire di no, e quella sarebbe stata la risposta sbagliata.

Il lavoro di impilare i mattoni fu svolto da ragazzi che avevano abbandonato la scuola superiore e cercavano di guadagnare qualche soldo in attesa della chiamata alle armi.

L'uranio era racchiuso in un cubo di gomma di sette metri, anziché in un recipiente metallico per reattori. Non c'era, ovviamente, nessun gigantesco edificio di contenimento in cemento.

Quando James Conant, presidente del Comitato di ricerca per la difesa nazionale, venne a conoscenza di questi fatti, si dice che impallidì. Anche per gli anni '40, questo non era considerato un comportamento scientifico del tutto normale.

Se leggeste tutto questo in un libro di storia senza sapere come va a finire, potreste pensare di star leggendo il preludio di un grave fallimento in materia di sicurezza. Mancano così tante cose che la cultura del 2025 considera misure di sicurezza standard. Dove sono gli ispettori e i blocchi per appunti? Gli enormi e pesanti regolamenti operativi? Le commissioni che discutono con serietà? Le dichiarazioni di impatto? Le norme che dicono che solo persone con credenziali molto elevate possono impilare i mattoni di uranio? Dov'è la burocrazia?

Ma la pila di mattoni di uranio e grafite non si è fusa.

E il motivo è che Fermi sapeva cosa stava facendo; aveva previsto le regole in anticipo.

Fermi non stava semplicemente impilando misteriosi mattoni che generavano più calore quando venivano avvicinati. Sapeva che alcuni atomi di uranio sarebbero decaduti spontaneamente e si sarebbero scissi. Sapeva che quando ciò fosse accaduto, la fissione avrebbe generato neutroni. Sapeva che quei neutroni a volte avrebbero urtato altri atomi di uranio e che questo a volte avrebbe innescato un'altra fissione.

Fermi capì in anticipo, senza doverlo scoprire a proprie spese, che aveva a che fare con un processo esponenziale. Non nel senso in cui i media odierni abusano del termine "esponenziale" per indicare semplicemente "grande" o "veloce", ma un processo il cui tasso di crescita è proporzionale al suo livello attuale: l'esponenziazione matematica.

Fermi sapeva che accumulando più mattoni di uranio e grafite, stava aumentando il fattore di moltiplicazione all'interno di un processo esponenziale. Come discusso nel libro, c'è un'enorme differenza tra un fattore di moltiplicazione dei neutroni inferiore al 100% e un fattore di moltiplicazione dei neutroni superiore al 100%.* Al di sotto del 100%, si ha solo una pila di mattoni caldi. Ma oltre il 100%, il livello di radioattività della pila aumenta. E aumenta. E aumenta.

A quel punto, il comportamento non è più quello delle precedenti pile più piccole che si potevano testare in sicurezza. Se non si fosse capito abbastanza bene cosa si stesse facendo da sotto-moderare il reattore (in modo che la reazione a catena rallentasse se il reattore avesse iniziato a surriscaldarsi), allora il reattore non si sarebbe stabilizzato come facevano i cumuli più piccoli. Se lo si fosse lasciato funzionare tutta la notte, il giorno dopo non si sarebbe ottenuto un nuovo livello di potenza utile a livello industriale.

Il cumulo sarebbe diventato sempre più radioattivo finché la grafite non avesse preso fuoco o l'uranio non si fosse fuso in scorie.

A quel punto sarebbero arrivati i vigili del fuoco, che si sarebbero trovati di fronte a un incendio misterioso che non smetteva di sprigionare calore anche quando vi versavano sopra l'acqua.

Il 1942 non sarebbe stato l'anno migliore per frequentare l'Università di Chicago.

Ma Fermi sapeva già tutto questo, quindi era tutto a posto. Quando Fermi ordinò di estrarre una barra di controllo (una tavola di legno con un foglio di cadmio inchiodato sopra) di altri trenta centimetri il 2 dicembre 1942, annunciò in anticipo che questa sarebbe stata l'estrazione che avrebbe fatto "salire e continuare a salire" i livelli di radioattività misurati, "senza stabilizzarsi".

Poi la radioattività raddoppiò nei due minuti successivi e raddoppiò ancora, finché non lasciarono che la reazione continuasse e raddoppiasse ogni due minuti per un totale di ventotto minuti, aumentando di circa 16.000 volte.

Un aumento di 16.000 volte della radioattività era il comportamento atteso del reattore, previsto correttamente e compreso in dettaglio in anticipo. Non fu una sorpresa inaspettata, capitata a qualcuno a cui era stato ordinato di accumulare dieci volte più mattoni di uranio rispetto all'ultima volta per vedere se succedesse qualcosa di interessante e redditizio.

Come discusso nel libro, c'è un margine molto stretto tra un reattore nucleare e un'esplosione nucleare. Un margine di poco più dello 0,5 %, per essere precisi. Questa è la differenza tra un reattore che produce una quantità di energia utile a livello industriale e un reattore che esplode.

In altre parole: bisogna rendere la reazione nucleare sempre più potente, prima che inizi davvero a funzionare. E poi, un attimo dopo aver raggiunto quella potenza, se diventa anche solo un po' più potente, appena dello 0,65 %, esplode.

Questo è il tipo di problema che la realtà può presentare. Succede.

Ma Fermi, Szilard e il loro team avevano previsto tutte queste regole prima di scoprirle con l'esperienza. Sapevano dei neutroni ritardati e di quelli istantanei. (Si veda il capitolo 10 per saperne di più su questa parte della storia.) Quindi, una volta che Fermi ha portato il fattore di moltiplicazione dei neutroni al 100,06%, Fermi non ha ordinato di estrarre ulteriormente la barra di controllo per vedere cosa sarebbe successo con un cumulo ancora più potente. Arrivò solo alla criticità, non allo 0,65 % in più per raggiungere la criticità immediata. Fermi ottenne il risultato che aveva previsto e sapeva cosa sarebbe successo se fosse andato oltre. Quindi non andò oltre.

Ventotto minuti dopo, con la radioattività che raddoppiava ogni due minuti fino a un aumento di 16.000 volte, Fermi spense il primo reattore nucleare al mondo: i mattoni di uranio accatastati sotto le tribune di uno stadio universitario all'interno di una grande città.

Per essere chiari, non affermeremmo che Fermi stesse agendo in modo completamente responsabile solo perché aveva un modello apparentemente coerente della fisica dei reattori a bassa energia. Fermi avrebbe potuto sbagliarsi. L'umanità ha avuto alcune sorprese nel corso dello sviluppo dell'ingegneria nucleare.

Il test Castle Bravo della prima arma termonucleare ebbe una resa tre volte superiore a quella prevista perché conteneva una miscela di litio-6 e litio-7 come combustibile nucleare per una reazione di fusione. Chi costruì l'arma conosceva alcuni potenti prodotti nucleari derivanti dalla fusione del litio-6 ma non ne conosceva alcuno dalla fusione del litio-7, e si è scoperto che il litio-7 in realtà non è inerte.

Fermi, conducendo la sua reazione a bassa intensità e non a un livello tale da produrre energia utile a livello industriale, evitò molte complicazioni che si presentano nei reattori nucleari abbastanza potenti da essere redditizi. Se ci fossero stati fattori di aumento del tasso di moltiplicazione neutronica dipendenti dalla velocità della reazione che Fermi non aveva previsto — fenomeni prima sconosciuti, come quelli comparsi nel test Castle Bravo — se ci fosse stata qualche sorpresa quando il flusso neutronico fosse aumentato di un fattore 16.000, spingendo il coefficiente di moltiplicazione da 1,0006 a 1,02 più velocemente di quanto un essere umano potesse introdurre in tempo il cadmio d’emergenza… allora oggi l'America avrebbe una Zona di Esclusione di Chicago.

Detto ciò, non stiamo affermando che Fermi avesse necessariamente torto nel condurre quell'esperimento. Non era il tipo di esperimento che avrebbe potuto distruggere la specie umana. Si poteva sostenere che valesse la pena rischiare una Zona di Esclusione di Chicago come possibile conseguenza di un fenomeno imprevisto, capace di smentire una comprensione che si sperava precisa. In realtà, la Germania nazista non si avvicinò molto a ottenere armi nucleari entro il 1945, ma nel 1942 nessuno sapeva che sarebbe andata così. Previsioni del genere sono difficili da fare. Impilare i mattoni di uranio fuori da una grande città sarebbe stato scomodo, e in guerra le scomodità hanno costi reali.

Il nostro obiettivo nel raccontare questo evento non è quello di esprimere un giudizio morale in un senso o nell'altro. Per cominciare, dovremmo dedicare più tempo all'analisi dei dettagli storici di ciò che è accaduto per capire quali fossero le opzioni concrete di quelle persone e se abbiano trascurato un'opzione migliore.

La lezione che ne traiamo riguarda più che altro la differenza tra la "sicurezza" stereotipata e ciò che serve davvero per evitare che la realtà ci uccida.

La Chicago Pile-1 era completamente priva di quelle misure di sicurezza stereotipate, visibili e ostentate che i burocrati sono bravi a richiedere. Il disastro fu evitato grazie alla comprensione, non grazie a un teatro della sicurezza. La comprensione di Fermi si rivelò sufficiente; si può immaginare che avrebbe potuto non esserlo, ma in realtà lo fu. E quel livello di comprensione era ciò che la realtà richiedeva, non un mucchio di apparenze.

Se nessuno avesse compreso a livello profondo cosa stava succedendo all'interno di una pila di strani mattoni di metallo... allora non sarebbe servito a molto avere tanti ispettori in abiti dall'aspetto sobrio che scrutassero gli strani mattoni di metallo, o stampare un Manuale di Sicurezza dall'aspetto ufficiale e ben rilegato che dicesse che solo gli Operatori Certificati erano autorizzati a impilare gli strani mattoni di metallo.

Possiamo immaginare un mondo in cui la Chicago Pile-1 fosse stata costruita senza un Enrico Fermi. Senza nessuno, in effetti, che comprendesse le vere leggi che governano i misteriosi mattoni autoriscaldanti.

In un mondo del genere, forse un altro scienziato avrebbe potuto comunque intuire il pericolo mortale prima che fosse troppo tardi. Possiamo immaginare un dialogo come questo:

Salviati: Il modo in cui i mattoni aumentano in potenza quando vengono messi insieme è un chiaro segno di un processo auto-rinforzante, il tipo di processo che può rendersi sempre più intenso. Se si cercano modelli matematici che possano descrivere un processo del genere, tendono ad avere una modalità dove, se li si spinge abbastanza in là, esplodono.

Simplicio: Che sciocchezze! Nella realtà, è scientifico credere che ogni tipo di processo del genere prima o poi raggiunga un limite. Non possono andare avanti all'infinito! Quindi impilare mattoni di uranio e grafite dovrebbe essere perfettamente sicuro, perché raggiungerà un limite, capisci, e sarà innocuo.

Salviati: È come sostenere che una supernova non può essere pericolosa perché non può diventare infinitamente calda, o sostenere che una superintelligenza artificiale sarebbe innocua perché non sarebbe infinitamente intelligente. O come sostenere che un proiettile deve avere qualche limite di velocità e quindi non perforerà la pelle. Solo perché c'è un limite da qualche parte non significa che il limite sia basso. Tutti i modelli matematici che abbiamo sul perché i mattoni si autoriscaldano suggeriscono che esiste una soglia critica da qualche parte, tale che oltrepassare quella soglia farà esplodere il cumulo e ucciderà chiunque si trovi nelle vicinanze.

Simplicio: Ma gli scienziati non riescono nemmeno a mettersi d'accordo su dove sia questa soglia! Se ci fosse un consenso scientifico sul fatto che aggiungere ancora qualche mattone sia pericoloso, smetterei. Ma quando gli scienziati non riescono nemmeno a mettersi d'accordo su dove stia esattamente il pericolo, perché preoccuparsi?

Salviati: Quando moltidei principaliscienziati avvertono che c'è una seria possibilità di un'esplosione letale, il fatto che non possano calcolare esattamente quando inizierà l'esplosione dovrebbe farti preoccupare di più, non di meno. Forse se sapessimo precisamente come funzionano i mattoni, capiremmo che esiste una fascia ristretta in cui possiamo estrarre energia in sicurezza, al di sotto della quale i mattoni sono inutili e al di sopra della quale i mattoni sono letali. Ma il fatto che gli scienziati stiano ancora litigando significa che non sappiamo ancora cosa stiamo facendo! Il che significa che oggi non è il momento di giocare con qualsiasi reazione a catena stia riscaldando quei mattoni, per evitare che domani li facciano esplodere e ci uccidano! Prima capiamo la scienza.

Siamo molto, molto lontani dal poter modellizzare l'IA anche solo una frazione di quanto bene Fermi comprendesse le reazioni a catena nucleari.

A un certo punto sconosciuto, se continuiamo su questa strada, correremo a rotta di collo verso un esito molto più grave dell'irradiazione di Chicago.

* Come abbiamo visto nella nota 6 del capitolo 10, i fisici in realtà non danno i fattori di moltiplicazione dei neutroni in percentuale. Noi li diamo in questo modo per chiarezza, per i motivi spiegati nella nota di cui sopra.

Notes

[1] prima arma termonucleare: Castle Bravo non è stata la prima detonazione di un dispositivo termonucleare (idrogeno); questo primato spetta al "Mike", delle dimensioni di un edificio, del test di Ivy Mike, che non utilizzava il litio.

La tua domanda non ha trovato risposta qui?Invia una domanda.