Non possiamo imparare molto dalla prevalenza di un tema nella narrativa.

Un'IA più intelligente dell'essere umano non è ancora stata costruita, ma è stata rappresentata nella narrativa. Sconsigliamo tuttavia di ancorarsi a queste rappresentazioni. L'IA reale probabilmente non sarà molto simile a quella immaginaria, per ragioni che approfondiremo nel Capitolo 4.

L'IA non è la prima tecnologia ad essere stata prevista dalla narrativa. Il volo più pesante dell'aria e il viaggio sulla luna furono entrambi rappresentati prima del loro tempo. E l'idea generale delle armi nucleari fu prevista da H. G. Wells, uno dei primi scrittori di fantascienza, in un romanzo del 1914 intitolato *La Liberazione del Mondo. Wells non azzeccò i dettagli; scrisse di una bomba che continuava a bruciare intensamente per giorni, piuttosto che di una bomba che esplodeva tutta in una volta portando morte persistente. Ma Wells aveva l'idea generale di una bomba che funzionava con energia nucleare anziché chimica.

Nel 1939, Albert Einstein e Leo Szilard inviarono una lettera al Presidente Roosevelt esortando gli Stati Uniti a cercare di superare la Germania nella costruzione di una bomba atomica. Potremmo immaginare un mondo in cui Roosevelt avesse incontrato per la prima volta l'idea di bombe nucleari nel romanzo di Wells, portandolo a liquidare l'idea come fantascienza.

Quello che successe nella realtà è che Roosevelt prese l'idea sul serio, almeno abbastanza da creare il Comitato Consultivo sull'Uranio. Ma questo caso dimostra il pericolo di liquidare le idee solo perché uno scrittore di narrativa ha parlato in passato di un'idea abbastanza simile.

La fantascienza può fuorviarci perché presumiamo che sia vera, oppure può fuorviarci perché presumiamo che sia falsa. Gli autori di fantascienza non sono profeti, ma non sono nemmeno anti-profeti le cui parole sono sicuramente sbagliate. Nella stragrande maggioranza dei casi, è meglio ignorare la narrativa e analizzare tecnologie e scenari per quello che sono.

Per prevedere cosa accadrà nella realtà, non c'è sostituto al ragionare attraverso le argomentazioni e al soppesare le prove.

Le conseguenze dell'IA saranno inevitabilmente strane.

Comprendiamo la reazione di dire che l'IA è strana, e che trasformerebbe il mondo e violerebbe lo status quo. Tutti noi abbiamo intuizioni adattate, in una certa misura, a un mondo in cui gli esseri umani sono l'unica specie capace di imprese come costruire una centrale elettrica. Tutti noi abbiamo intuizioni adattate a un mondo in cui le macchine, durante tutta la storia umana, sono sempre state strumenti non intelligenti. Una cosa di cui possiamo essere molto sicuri è che un futuro con IA più intelligenti dell'essere umano apparirebbe diverso.

Cambiamenti grandi e duraturi nel mondo non avvengono tutti i giorni. L'euristica "non succede mai niente" funziona benissimo nella maggior parte dei casi, ma i momenti in cui fallisce sono alcuni dei più importanti della storia a cui prestare attenzione. Gran parte del senso di pensare al futuro sta proprio nel prevedere quei momenti in cui accadrà qualcosa di grosso, per potersi preparare.

Un modo per superare il pregiudizio verso lo status quo è ricordare la storia, come discusso nell'introduzione.

A volte, particolari invenzioni finiscono per rivoluzionare il mondo. Si pensi al motore a vapore e alle molte altre tecnologie che esso ha contribuito a rendere possibili durante la Rivoluzione Industriale, trasformando rapidamente la vita umana:

L'avvento di un'IA veramente generale è uno sviluppo altrettanto rilevante? Sembra che l'intelligenza artificiale sarà almeno tanto rilevante quanto la Rivoluzione Industriale. Tra le altre cose:

• È probabile che l'IA consenta al progresso tecnologico di svilupparsi molto più velocemente. Come vedremo nel Capitolo 1, le macchine possono operare molto più velocemente del cervello umano. E gli esseri umani possono migliorare l'IA (e l'IA alla fine sarà in grado di migliorare se stessa) fino a quando le macchine non saranno di gran lunga migliori degli esseri umani nel fare scoperte scientifiche, inventare nuove tecnologie, eccetera.
• Per tutta la storia umana, il meccanismo del cervello umano è rimasto fondamentalmente invariato, anche mentre l'umanità produceva opere di ingegneria sempre più impressionanti. Quando il meccanismo della cognizione inizierà a migliorare autonomamente, quando diventerà capace di migliorare se stesso, dovremmo aspettarci che molte cose diverse inizino a cambiare molto rapidamente.
• Inoltre, come vedremo nel Capitolo 3, le IA sufficientemente potenti probabilmente avranno obiettivi propri. Se le IA fossero essenzialmente solo esseri umani più veloci e più intelligenti, questo sarebbe già di per sé un fatto di grande importanza. Ma le IA, di fatto, saranno invece una specie di vita intelligente totalmente nuova sulla Terra — una specie con i propri obiettivi, che probabilmente (come vedremo nei Capitoli 4 e 5) divergeranno in modo importante dagli obiettivi umani.

A prima vista, sarebbe sorprendente se questi due importanti sviluppi potessero verificarsi senza sovvertire l'ordine mondiale esistente. Credere in un futuro "normale" sembra richiedere di credere che l'intelligenza delle macchine non supererà mai l'intelligenza umana. Questo non è mai sembrato un'opzione veramente praticabile, ed è diventato molto più difficile da credere nel 2025 rispetto al 2015 o al 2005.

Il futuro a lungo termine sarà altrettanto strano.

Se si guarda troppo lontano nel futuro, il risultato sarà in qualche modo strano. Il XXI secolo appare decisamente bizzarro dalla prospettiva del XIX secolo, che appariva bizzarro dalla prospettiva del XVII secolo. L'IA accelera questo processo e aggiunge un giocatore davvero nuovo alla scacchiera.

Un aspetto del futuro che oggi sembra prevedibile è che le specie tecnologicamente avanzate non rimarranno bloccate sul proprio pianeta per sempre. In questo momento, il cielo notturno è pieno di stelle che stanno semplicemente bruciando la loro energia. Ma nulla impedisce alla vita di costruire la tecnologia necessaria per viaggiare tra le stelle e raccogliere quell'energia per qualche scopo.

Ci sono alcune limitazioni fisiche sulla velocità con cui si può viaggiare, ma sembra che non ci siano limiti alla possibilità di farlo prima o poi. Nulla ci impedisce di sviluppare, prima o poi, il tipo di sonde interstellari in grado di andare a estrarre risorse dall'universo in lungo e in largo e convertire queste risorse in civiltà fiorenti, con l'aggiunta di sonde autoreplicanti per colonizzare ancora più regioni dello spazio. Se ci sostituiamo con le IA, nulla impedisce a queste ultime di fare lo stesso, sostituendo però le "civiltà fiorenti" con qualsiasi obiettivo perseguito dall'IA.

Allo stesso modo in cui la vita si è diffusa sulle rocce aride della Terra fino a riempire il mondo di organismi, possiamo aspettarci che la vita (o le macchine costruite dalla vita) si diffonda nelle parti disabitate dell'universo, fino a quando non sarà strano trovare un sistema solare senza vita quanto lo sarebbe oggi trovare un'isola senza vita sulla Terra, priva persino di batteri.

Al momento, la maggior parte della materia nell'universo, come le stelle, è disposta in modo casuale. Ma in un futuro a lungo termine, quasi sicuramente la maggior parte della materia sarà disposta secondo un certo disegno, cioè secondo le preferenze di chiunque riesca a raccogliere e riutilizzare le stelle.

Anche se nulla sulla Terra si diffondesse mai nel cosmo, e anche se la maggior parte delle forme di vita intelligenti che nascono in galassie lontane non lasciasse mai il proprio pianeta natale, basta una sola intelligenza capace di viaggiare nello spazio in qualsiasi parte dell'universo per accendere la scintilla e iniziare a diffondersi nell'universo, viaggiando verso nuovi sistemi stellari e usando le risorse lì presenti per costruire altre sonde per espandersi verso altri sistemi stellari, proprio come è bastato un solo microrganismo autoreplicante (e un po' di crescita esponenziale) per trasformare un pianeta senza vita in un mondo brulicante di vita su ogni isola.

Quindi il futuro sarà diverso dal presente. Anzi, possiamo aspettarci che sarà radicalmente diverso. Le stelle stesse saranno prevedibilmente trasformate, nel lungo periodo, da qualsiasi specie biologica o IA alla ricerca di maggiori risorse — anche se oggi non possiamo dire molto su come potrebbe essere quella specie o a quali fini potrebbero essere destinate le risorse dell'universo.

Prevedere i dettagli sembra difficile, quasi impossibile. Questa è una previsione difficile. Ma prevedere la trasformazione dell'universo in un luogo in cui la maggior parte della materia viene raccolta e utilizzata per qualche scopo, qualunque esso sia? Questa è una previsione più facile, anche se è controintuitiva e strana per una civiltà che ha appena iniziato a estrarre risorse dalle stelle.

Tra un milione di anni, non dovremmo aspettarci che il futuro assomigli al 2025, con un gruppo di scimmie senza peli che gironzolano sulla superficie della Terra. Molto prima di allora, o ci saremo autodistrutti, oppure i nostri discendenti saranno partiti per esplorare il cosmo.^*

Sarà sicuramente strano per l'umanità. La domanda è: quando?

Il futuro ci colpirà in fretta.

Lo sviluppo di tecnologie come l'IA significa che il futuro potrebbe bussare presto alla nostra porta, e i suoi effetti potrebbero colpirci duramente.

La Rivoluzione Industriale ha trasformato il mondo molto rapidamente, secondo gli standard della storia pre-moderna. L'Homo sapiens ha rimodellato il mondo molto rapidamente, secondo gli standard dei processi evolutivi. La vita ha rimodellato il mondo molto rapidamente, secondo gli standard dei processi cosmologici e geologici. I nuovi processi per cambiare il mondo possono rimodellare il mondo molto rapidamente, se misurati con il vecchio standard.

L'umanità sembra essere sull'orlo di un'altra trasformazione radicale, dove le macchine possono iniziare a rimodellare il mondo a velocità meccaniche, che superano di gran lunga le velocità biologiche. Avremo di più da dire nei Capitoli 1 e 6 su quanto bene l'intelligenza artificiale si misuri con l'intelligenza umana. Ma come minimo, dobbiamo prendere sul serio la possibilità che lo sviluppo di macchine più intelligenti dell'uomo possa cambiare radicalmente il mondo ad alta velocità. Questo tipo di cose è accaduto ripetutamente nel corso del tempo.

Notes