Perché è plausibile e facile da scrivere.

Ogni dettaglio in una storia sul futuro è un’occasione per quella storia di rivelarsi sbagliata. Non possiamo dirvi esattamente quali innovazioni tecnologiche avverranno e in quale ordine, così come non possiamo prevedere l'esatto andamento meteorologico tra un mese.

Storie come questa non sono pensate per essere una finestra esatta sul futuro. Sono pensate come un modo per illustrare come il futuro potrebbe andare, in un modo che collega tutte le argomentazioni astratte che abbiamo presentato nella Parte I del libro. Alcune persone trovano che il pericolo appaia molto più reale quando immaginano vividamente un particolare percorso che il futuro potrebbe prendere e che porta alla rovina.

Ancora più convincenti potrebbero essere dieci storie, o cento storie, che mostrano quanti percorsi diversi portino alla rovina, e come i percorsi che conducono a un futuro prospero siano stretti e fragili.

È questo che significa dire che un aspetto del futuro è una previsione facile: quando quasi tutti i percorsi hanno lo stesso punto di arrivo, quel punto di arrivo è prevedibile. Ma non avevamo il tempo né lo spazio per scrivere dieci storie, figuriamoci cento.

Per la storia che abbiamo scelto di raccontare, ci siamo attenuti a uno scenario che inizia il prima possibile. Questo non perché pensiamo che una situazione del genere si presenterà sicuramente a breve (siamo incerti), ma piuttosto perché una storia ambientata vicino al presente è molto più facile da scrivere. Se l'avessimo ambientata nel futuro ancora più lontano e avessimo inventato molti più dettagli futuristici su cosa fosse accaduto da ora ad allora, la storia sarebbe stata ancora più implausibile. E quei dettagli sarebbero stati solo una distrazione.

Anche se fossimo in grado, in qualche modo, di prevedere con esattezza il percorso che prenderà il futuro, quello non sarebbe necessariamente lo scenario migliore per capire le dinamiche generali in gioco.

Ci aspettiamo che il vero futuro sia profondamente strano, pieno di dettagli disordinati e contingenti, ciascuno dei quali risulterebbe inverosimile se inserito in una storia. Una storia scritta in quel modo sarebbe confusa e difficile da seguire, piena di dettagli inspiegati e superflui, a causa della totale indifferenza della realtà per la coerenza narrativa. Sembrerebbe anche meno plausibile, perché molti dei dettagli sembrerebbero strani.

Per farvi un’idea di che effetto farebbe, immaginate di tornare indietro nel tempo di 100 anni e di provare a descrivere la vita quotidiana e i grandi problemi del mondo moderno. La maggior parte delle persone nel 1925 non aveva mai ascoltato la radio, guidato un'auto o visto un frigorifero. Per descrivere i social media, la globalizzazione e l'obesità, non basterebbe spiegare una ricca rete di tecnologie, ma bisognerebbe cambiare radicalmente la visione del mondo dell'ascoltatore. No, la storia che abbiamo scelto di raccontare è più plausibile e quindi meno realistica.

Ci sono molti altri modi in cui il futuro potrebbe evolversi.

Ecco alcune idee alternative su come potrebbe iniziare una storia come questa:

• C'è una sorta di svolta nell'apprendimento continuo, o nella memoria a lungo termine, o nell'efficienza nell'apprendimento dai dati, che produce IA qualitativamente più intelligenti in senso generale rispetto a qualsiasi cosa vista prima (allo stesso modo in cui i modelli linguistici di grandi dimensioni sono qualitativamente più generali rispetto ad AlphaZero).
• I modelli linguistici di grandi dimensioni sembrano "sbattere contro un muro", il progresso dell'IA si ferma per anni e la gente dice che la bolla speculativa è scoppiata. Ma i ricercatori continuano a sperimentare nel decennio successivo, fino a quando finalmente viene trovata una svolta algoritmica e le IA funzionano in modo qualitativamente migliore rispetto al passato.
• Non c'è mai una svolta qualitativa. I progressi si accumulano lentamente e gradualmente, l'intelligenza artificiale si integra sempre più profondamente con l'economia e può gestire periodi sempre più lunghi di funzionamento autonomo. Le IA spesso perseguono obiettivi che non sono proprio quelli che qualcuno aveva previsto o richiesto, ma l'umanità trova soluzioni di fortuna, correzioni e alternative. E tutto va abbastanza bene, finché, in un martedì come tanti, il mondo supera la soglia oltre la quale delle IA coordinate riuscirebbero, se lo volessero, a tagliare fuori l’umanità dal controllo.

Ogni singola ipotesi sul percorso esatto che prenderà il futuro è probabilmente sbagliata. Tuttavia, è utile fornire storie che mostrino come tutto potrebbe andare nell'insieme.

Quando il futuro è incerto, ma tutte le strade portano allo stesso punto, può essere difficile raccontare una storia che sia convincente. Per qualsiasi storia che potremmo raccontare, sarebbe facile indicare una serie di dettagli che la rendono poco plausibile. Nello scenario che abbiamo scritto, abbiamo cercato di sottolineare che Sable ha molte opzioni a disposizione e che la storia segue in modo arbitrario una delle tante strade che portano tutte allo stesso punto.

Se questa storia non vi convince, vi invitiamo a scriverne una vostra, altrettanto dettagliata, su come potrebbero andare le cose. Secondo la nostra esperienza, le storie ottimistiche tendono a basarsi su un'intelligenza artificiale irrealisticamente facile da allineare (contrariamente a quanto sosteniamo nel capitolo 4) o irrealisticamente impotente (contrariamente a quanto sosteniamo nel capitolo 6). Sono le argomentazioni della parte I che sostengono la tesi, non i dettagli della storia.