Il magnifico incidente della gentilezza

Quando vedete qualcuno che si fa cadere un sasso sul dito del piede, potreste sussultare e sentire (o immaginare) una fitta di dolore fantasma nel vostro dito. Perché?

Una possibile spiegazione è che i nostri antenati ominidi, in competizione tra loro e impegnati in dinamiche tribali, trovavano utile costruire modelli mentali dei pensieri e delle esperienze degli ominidi che li circondavano, modelli che potevano usare per capire chi fosse loro amico e chi invece stava per tradirli.

Ma era difficile per i primi proto-umani prevedere il funzionamento del cervello degli altri proto-umani. I cervelli sono cose complicate!

L'unico vantaggio che un primate ancestrale ha è che il suocervello è simile a quello degli altri. Può usare il suo cervello come modello, come punto di partenza, per indovinare cosa potrebbero pensare gli altri ominidi.

Così i proto-umani hanno sviluppato un meccanismo mentale per fingere di essere un'altra persona, una modalità speciale che dice: "Invece di pensare i miei soliti pensieri, cerco di adottare le preferenze e lo stato di conoscenza dell'altra persona e penso il tipo di pensieri che lei penserebbe, dato che il suo cervello funziona fondamentalmente allo stesso modo del mio".

Ma questa modalità speciale di fingere di essere qualcun altro non è perfettamente isolata dai nostri sentimenti. Quando vediamo qualcuno far cadere una pietra sul dito del piede e (implicitamente, automaticamente) immaginiamo cosa potrebbe succedere nella sua testa, noi sussultiamo.

(Questo magnifico incidente dell’architettura mentale meriterebbe un inno di lode molto più lungo di quanto abbiamo tempo di scrivere qui. Sussultare quando vediamo qualcun altro che soffre, avere questa capacità a un livello base, anche se a volte la spegniamo, non è una caratteristica necessaria della mente. Il fatto che sia capitato così per i primati è così fondamentale per ciò che siamo ora noi esseri umani, per ciò che siamo felici di essere, per ciò che pensiamo di dover essere, che dovrebbe esistere un libro su questo argomento e sul ruolo fondamentale che la capacità di empatia gioca in tutto ciò che è prezioso negli esseri umani. Ma non è questo il libro).

È lecito supporre che, una volta che i nostri antenati primati hanno sviluppato la capacità di creare un modello di altre scimmie (allo scopo di prevedere chi fosse amico e chi nemico), abbiano anche trovato utile creare un modello di se stessi, per sviluppare un'idea della scimmia-che-è-questa-scimmia, il concetto che ora simboleggiamo con le parole "me", "me stesso" e "io". E la selezione naturale, sempre opportunista, ha riutilizzato lo stesso meccanismo che usiamo per immaginare gli altri per immaginare anche noi stessi.^*

La vera storia è probabilmente più complessa e intricata, e potrebbe persino avere radici che risalgono a molto prima dei primati. Ma qualcosa di simile fa parte dell'enorme retroscena invisibile che spiega perché gli esseri umani sussultano quando osservano il dolore altrui e perché la maggior parte degli esseri umani tende a provare empatia e simpatia per chi li circonda. Gran parte di questo retroscena si basa su una scorciatoia che è stata facile da implementare per la selezione naturale nel cervello umano, dove sia il "sé" che l'"altro" sono lo stesso tipo di cervello che funziona sulla stessa architettura.

Questa scorciatoia non è disponibile allo stesso modo per la discesa del gradiente, perché l'IA non parte da un cervello molto simile a quello umano che può riutilizzare per creare un modello dei molti esseri umani nel suo ambiente. Un'IA ha effettivamente bisogno di imparare, da zero, un modello di qualcosa al di fuori di sé che non è come lei stessa.

Per dirla in modo semplice: un'IA non può capire fin dall'inizio che un essere umano prova dolore dopo aver sbattuto l'alluce, immaginando di sbattere il proprio alluce, perché non ha alluci, né un sistema nervoso che invia segnali di dolore. Non può prevedere cosa gli esseri umani troveranno divertente chiedendosi cosa lei troverebbe divertente, perché non parte da un cervello che funziona come quello umano.

Anche se questa storia è un po' semplificata, il punto più generale è che gli ideali più alti dell'umanità dipendono dai dettagli della nostra storia di primati e dal nostro ambiente sociale ancestrale. L'amicizia è un'eco lontana del nostro bisogno di alleati in un contesto tribale. L'amore romantico è un'eco lontana dei nostri modelli di accoppiamento sessualmente dimorfici. Anche cose che a prima vista potrebbero sembrare meno arbitrarie e più fondamentali, come la curiosità, non si manifestano negli esseri umani in modo inevitabile o ovviamente convergente.

I dettagli di come abbiamo sviluppato questi tratti psicologici sono legati a quanto erano sofisticati i nostri cervelli nel momento in cui ne avevamo bisogno. Negli esseri umani, l'amicizia, l'amore romantico e l'amore famigliare si sono confusi in una gentilezza e una buona volontà generali. Questo ci appare come se l'evoluzione avesse preso delle scorciatoie in una fase molto specifica della sofisticazione del cervello. Gli esseri umani fanno molte cose in modo euristico che una mente potrebbe in linea di principio fare attraverso un ragionamento esplicito, ma questi tratti si sono evoluti in un momento in cui gli esseri umani non erano ancora abbastanza intelligenti da risolvere questi problemi con un ragionamento esplicito.

Anche tra altri alieni evoluti biologicamente, non siamo sicuri di quanto spesso troveremmo la gentilezza. Si può immaginare che gli alieni avessero cervelli più abili dal punto di vista matematico prima di iniziare a unirsi in gruppi più grandi, e magari l'evoluzione ha trovato facile dare a quegli alieni degli specifici istinti di affinità: "questo individuo condivide il 50 % della mia provenienza, mentre quello condivide solo il 12,5%". Magari quegli alieni hanno sviluppato alleanze solo sulla base di dati genetici condivisi o di una comprensione reciproca esplicita, piuttosto che sviluppare sentimenti di affinità applicabili a chiunque.

È una vecchia speculazione della fantascienza che se gli alieni seguissero un modello di parentela genetica simile a quello degli insetti eusociali della Terra, in cui le formiche operaie sono molto più imparentate con le loro regine di quanto lo siano gli esseri umani in organizzazioni delle dimensioni di una colonia di formiche, non avrebbero bisogno di un senso generale di alleanza e reciprocità del tipo che alla fine si è rivelato vantaggioso per gli ominidi ancestrali. (A quanto pare c'è una certa giustificazione per il tropo fantascientifico secondo cui gli alieni che lavorano bene insieme ma non provano empatia per gli esseri umani sono spesso rappresentati come insetti giganti!)

E per quanto riguarda le IA che non si sono evolute per diffondere geni in un contesto sociale? L'argomentazione "non avere l'aspettativa che un braccio robotico sia morbido e pieno di sangue" è proprio azzeccato.

Se ne sapeste molto su come funzionano le braccia biologiche, ma non aveste ancora visto nessun braccio robotico, potreste immaginare che i bracci robotici abbiano bisogno di un rivestimento esterno morbido simile alla pelle per potersi piegare e che debbano avere vene e capillari che pompano un fluido ricco di ossigeno (analogo al sangue) in tutto il braccio robotico per fornirgli energia. Dopotutto, è così che funzionano le braccia biologiche e presumibilmente c'è un motivo!

Ci sono dei motivi per cui le nostre braccia hanno un rivestimento esterno morbido come la pelle e sono piene di sangue. Ma questi motivi riguardano principalmente quali tipi di strutture sono facili da costruire per l'evoluzione. Non valgono nel caso dei bracci meccanici, che possono essere fatti di metallo duro e alimentati dall'elettricità.

I bracci robotici non hanno sangue, ma questo non li fa funzionare male come farebbe un braccio umano se gli si togliesse tutto il sangue. Funzionano semplicemente con un design alternativo, senza sangue. Una volta che si comprende come funzionano i bracci robotici, i dettagli dei bracci biologici non sembrano più così importanti.

Allo stesso modo: un'intelligenza artificiale funziona in modo fondamentalmente diverso da un essere umano. Risolve sfide fondamentalmente diverse e, laddove le sue sfide e le nostre sfide si sovrappongono, ci sono molti altri modi per svolgere quel lavoro. Un sottomarino non "nuota", ma si muove perfettamente nell'acqua.

La cultura umana ha influenzato lo sviluppo dei valori umani

A proposito — diciamo a Klurl e Trapaucius, che all'inizio del capitolo 4 cercavano di prevedere il futuro sviluppo delle scimmie che vedevano vagare nella savana — gli esseri umani formeranno una società! E discuteranno tra loro di morale e valori.

In altre parole: se si traccia una traiettoria storico-causale di come un individuo sia arrivato ad avere i valori che ora possiede all'interno della sua società, quella storia causale coinvolgerà gli argomenti e le esperienze a cui la società lo ha esposto.

E quella spiegazione storico-causale, a sua volta, includerà fatti su quali idee sono più virali (a parte tutte le loro altre proprietà). La spiegazione dipenderà da come le persone decidono di diffondere e ridiffondere le idee.

Se i poveri Klurl e Trapaucius vogliono indovinare correttamente quali valori interni le varie culture umane moderne finiranno per instillare nei vari esseri umani moderni, devono prevedere non solo l'esistenza e la struttura di quella complicazione, ma anche il suo corso.

Leggendo la storia di come la schiavitù sia stata in gran parte abolita sulla Terra, sembra antistorico negare il ruolo che l'universalismo cristiano ha avuto in questo — la convinzione che il Dio cristiano abbia creato tutti gli esseri umani e che questo conferisca loro pari dignità agli occhi del Cielo.

E questo universalismo, a sua volta, potrebbe essere stato legato alla sopravvivenza culturale e alla riproduzione del cristianesimo; i cristiani si sentivano in dovere di inviare missionari in culture straniere e convertirle al cristianesimo con la persuasione (se possibile) o con la forza (in caso contrario), perché tenevano a quei lontani figli di Dio e volevano portarli in Paradiso e tenerli fuori dall'Inferno.

Sarebbe bello credere, riguardo all’umanità, che gli esseri umani possano essere arrivati a inventare l’universalismo e combattere la schiavitù senza bisogno di alcune credenze religiose molto specifiche. Ci piacerebbe immaginare che l'umanità avrebbe inventato l'idea che gli esseri senzienti e sapienti abbiano pari valore morale, o pari dignità davanti alla legge comune, indipendentemente dal percorso culturale intrapreso, senza dover passare attraverso una fase in cui si credeva prima che le anime fossero uguali davanti a Dio. Ma non sembra essere andata così nella storia. Sembra che lo sviluppo morale dell'umanità fosse più fragile di così.

Gli scimpanzé non sono molto universalisti, né lo sono molte delle prime società umane. Non è stato nemmeno testato molto che una società umana possa rimanere universalista per un secolo o due, senza una religione universalista in cui le persone credano davvero e profondamente. In realtà non lo sappiamo; la modernità è giovane e i primi dati stanno ancora arrivando.^†

Ma queste ulteriori complicazioni — queste numerose contingenze culturali, stratificate sopra le contingenze biologiche dell'umanità — erodono un po' di più la speranza che possiamo permetterci di precipitarci ciecamente nella costruzione della superintelligenza.

Il fatto che la cultura svolga un ruolo importante nei valori umani non significa che possiamo semplicemente "crescere l'IA come un bambino" e aspettarci che diventi un cittadino modello. La nostra cultura e la nostra storia hanno avuto quegli effetti a causa dei modi dettagliati in cui hanno interagito con la nostra esatta struttura cerebrale. Una specie diversa avrebbe reagito diversamente a ogni evento storico, il che avrebbe causato una divergenza della storia successiva dalla storia umana, amplificando l'effetto.

Vale anche la pena ricordare che gli esseri umani individuali, e non solo le culture o le civiltà, differiscono molto nei loro valori. Siamo generalmente abituati a dare questo fatto per scontato, ma se immaginiamo la selezione naturale come un "ingegnere" che sperava di creare una specie che perseguisse in modo affidabile un risultato particolare, questa diversità è un brutto segno. La variabilità naturale che vediamo negli esseri umani (e in molti altri sistemi evoluti) è antitetica all'ingegneria, in cui si vogliono ottenere risultati ripetibili, prevedibili e intenzionali.^‡

Nel caso della superintelligenza, gli ingegneri dovrebbero voler ottenere in modo affidabile risultati come "le IA sviluppate in questo modo non causano l'estinzione umana", così come risultati come "le IA sviluppate in questo modo producono tutte in modo affidabile gli stessi tipi generali di output, anche se gli input variano notevolmente". Quando consideriamo la contingenza della biologia umana e della storia umana, e l'ampia gamma di valori morali e prospettive che gli esseri umani mostrano oggi, questo non fa sembrare la sfida proprio facile, soprattutto per menti che non vengono costruite ma fatte crescere (come discusso nel Capitolo 2).^§

Molte prove diverse indicano che è davvero difficile far sì che le IA vogliano in modo robusto le cose giuste. Non sembra teoricamente impossibile; se i ricercatori avessero molti decenni per lavorare sul problema e tentativi illimitati dopo un fallimento, ci aspetteremmo che ci fossero trucchi ingegneristici e approcci intelligenti che rendessero il problema più risolvibile. Ma non siamo ancora neanche lontanamente vicini a questo obiettivo e non abbiamo tentativi illimitati.