La corsa dell'industria per creare un'intelligenza artificiale più intelligente dell'uomo si sta facendo sempre più accesa. In questo contesto, c'è qualcosa di particolarmente tragico nell'idea che l'umanità possa finire per distruggersi perché una parte critica del pubblico votante o dei funzionari eletti pensa che la superintelligenza delle macchine sia un sogno impossibile. Le persone che pensano che una macchina non possa mai essere davvero intelligente rischiano di essere colte alla sprovvista da quello che sta per arrivare.

È tragico in parte perché ci siamo già passati.

L'idea che un giorno l'ingegneria umana possa fare quello che fa la biologia è stata una fonte continua di discussioni e polemiche almeno negli ultimi trecento anni, e probabilmente da molto più tempo.

In passato, durante il periodo di massimo splendore dei "vitalisti", era controverso se la semplice materia inanimata potesse mai diventare animata, come le macchine che oggi chiamiamo "robot".

Leggendo un libro di chimica organica, probabilmente verrà citata come scoperta fondamentale la sintesi artificiale dell'urea, un componente dell'urina, da parte di Friedrich Wöhler nel 1828. Fu una scoperta degna di essere menzionata nei libri di testo perché, per la prima volta, la semplice chimica aveva duplicato un prodotto della biologia, dimostrando osì che i processi biologici e non biologici non erano così scollegati come pensavano i vitalisti.

Oggi potrebbe essere difficile per i lettori comprendere lo shock provato dagli scienziati del passato quando scoprirono che i prodotti della Vita con la V maiuscola potevano essere duplicati con semplici mezzi chimici.

Voi che state leggendo avete sempre vissuto in un mondo in cui la biochimica è chimica, e non c'è nulla di minimamente miracoloso nel sentire che qualcuno ha usato componenti non viventi per sintetizzare un sottoprodotto della vita. È forse difficile immaginare come ci si sentirebbe a collocare una cosa così ordinaria e banale come la biochimica nel regno del sacro. Sintetizzare un composto biochimico non è forse una cosa intrinsecamente banale da fare? "I nostri antenati scientifici dovevano essere degli sciocchi," si pensa istintivamente.

Lord Kelvin, il grande inventore del XIX secolo e pioniere nel campo della termodinamica, sembra essere stato colpito da una follia simile: vedere qualcosa di sacro, santo e misterioso in aspetti della biologia che le persone ragionevoli (persone come noi, cioè, che viviamo in tempi ragionevoli) riconoscono come scienza del tutto banale. Citando Kelvin:

Mi sembrava allora, e mi sembra ancora oggi, molto probabile che il corpo animale non agisca come un motore termodinamico […] L'influenza della vita animale o vegetale sulla materia va ben oltre qualsiasi ricerca scientifica finora intrapresa. Il suo potere di dirigere i movimenti delle particelle in movimento, nel miracolo quotidiano dimostrato dal nostro libero arbitrio umano e nella crescita di generazioni e generazioni di piante da un singolo seme, è infinitamente diverso da qualsiasi possibile risultato del fortuito aggregarsi di atomi.

Il lettore moderno potrebbe essere incline a guardare con disprezzo questa antica abitudine di pensiero — questi scienziati d'altri tempi, così illusi da vedere mistero in fenomeni che dovrebbero sicuramente apparire intrinsecamente non misteriosi.

Certo che la chimica può imitare la biochimica.

Certo che il DNA che si copia e, dirigendo le cellule che si dividono e si differenziano, spiega in modo per nulla straordinario come generazione dopo generazione di alberi possano nascere da una sola ghianda.

Certo che i neuroni che si scambiano impulsi chimici tra loro possono elaborare informazioni e far muovere un braccio, e certo che un computer può essere usato per controllare un braccio robotico almeno altrettanto bene quanto il cervello può controllare un arto.

Ma all'epoca non era ovvio per Lord Kelvin. Non aveva visto un'immagine a raggi X del DNA. Non aveva visto le minuscole macchine dentro di noi; non aveva idea delle fibre scorrevoli che contraggono i nostri muscoli in risposta ai segnali elettrici che passano attraverso i nostri neuroni.

Lord Kelvin aveva ben poca comprensione di come potesse funzionare il corpo umano e, nella sua ignoranza, lo immaginava come qualcosa di mistico.

Oggi, l'umanità ha ben poca comprensione dettagliata di come funziona l'intelligenza. (Si veda il capitolo 2 per ulteriori informazioni su come i ricercatori di IA non capiscono le IA che creano.) Quindi è facile immaginare che l'intelligenza debba essere mistica.

Dieci anni fa, alcune persone saggiamente si chiedevano se i movimenti meccanici degli automi potessero mai riuscire a creare arte o poesia. Certo, l'IA potrebbe cimentarsi negli scacchi. Ma gli scacchi sono un'attività fredda e logica, niente a che vedere con le arti creative!

Oggi, ovviamente, le stesse persone invece saggiamente si rendono conto che per un computer non sarebbe affatto difficile creare delle belle immagini; creare delle belle immagini è sempre stato parte del dominio proprio delle macchine. Sicuramente era sempre ovvio che i computer sarebbero stati in grado di produrre immagini più attraenti per l'occhio umano di qualsiasi cosa possa creare un artista umano. E naturalmente resta ancora aperta la questione se una semplice macchina sarà mai in grado di generare arte con una vera anima, giusto?

Non è affatto certo (dice lo scettico), né probabile, che l'essenza vitale dell'arte creata dal cervello possa mai essere duplicata dal semplice aggregarsi di atomi, o almeno dal semplice aggregarsi di atomi di silicio.

Ma non è così che funziona davvero. Il cervello umano è una cosa incredibile, ma non è magico. Il cervello è fatto di componenti. Questi componenti possono, in linea di principio, essere compresi, e, in linea di principio, possono essere costruiti dei omputer che facciano le stesse cose.

In molti casi, conosciamo la biochimica che sta alla base del funzionamento del cervello. E in tutti i casi, conosciamo la fisica alla base degli atomi.

Nella maggior parte dei casi, non conosciamo il significato, i modelli di livello superiore che permettono al cervello di svolgere il suo lavoro*.*^* Ma la lezione fondamentale che ci viene dai secoli di storia umana è che questo stato di mistero scientifico è temporaneo.

Se lancio una moneta e poi non vi mostro come è caduta, la vostra ignoranza sulla moneta è un fatto che riguarda voi, non un fatto che riguarda la moneta. La moneta non è fondamentalmente ineffabile. Forse l'ho anche guardata prima di nasconderla; forse io lo so e voi no. Una mappa vuota non corrisponde a un territorio vuoto.

Il mistero è una caratteristica delle domande, non delle risposte. Ecco perché la storia è piena di esempi in cui alcuni fenomeni estremamente "misteriosi" e "ineffabili", come l'animazione dei corpi, si rivelano essere in continuità con aspetti totalmente banali del mondo naturale.^†

La lezione della storia finora sembra essere che l'universo è, in definitiva, un tutt'uno. Non ci sono divisioni all'interno della fisica che corrispondano ai diversi edifici universitari dove si studiano materie diverse. Il dipartimento di relazioni internazionali, il dipartimento di fisica, il dipartimento di psicologia, il dipartimento di biologia cellulare, al livello più fondamentale, parlano tutti dello stesso mondo, governato dalle stesse leggi.

Quando qualcuno dice: "Il cervello umano fa questa cosa chiamata 'intelligenza'. Quindi l'intelligenza è realizzabile in linea di principio fisico. Quindi gli ingegneri probabilmente potranno prima o poi inventare una macchina che faccia anche l'intelligenza", sta parlando dalla cima di una montagna di ipotesi simili che sono state confermate, più e più volte, da scienziati e ingegneri nel corso dei decenni e dei secoli. Sì, anche quando sembra estremamente controintuitivo; anche quella parte ha dei precedenti.

Questa serie di successi è difficile da apprezzare, perché nessuno oggi ricorda quanto sembrassero supremamente misteriosi fenomeni come il fuoco, l'astronomia, la biochimica e il gioco degli scacchi nei secoli passati. Oggi li comprendiamo, siamo cresciuti sapendo che quelle cose sono fatte di parti banali, e quindi ci sembra che siano sempre state ovviamente banali. Solo la frontiera ci appare nuova e profondamente misteriosa.

E così la lezione non viene imparata e la storia si ripete.

Notes