Con più tecnologia, probabilmente faremmo ancora meno copie dei nostri geni.

Gli umani competono per ottenere promozioni prestigiose e ammissioni alle università della Ivy League molto più di quanto non competano per avere l'opportunità di donare sperma o ovuli alle banche del seme o degli ovuli.

Le banche del seme e degli ovuli pagano i donatori per il loro disturbo, invece che il contrario.

La maggior parte dei tiranni nel corso della storia non ha nemmeno provato a usare il proprio potere per avere migliaia di figli. E i tassi di natalità effettivi nel mondo oggi sono in calo.

Molti umani apprezzano avere figli, ma molti altri no, ed è estremamente raro che qualcuno cerchi di massimizzare il numero dei propri discendenti (ad esempio, ricorrendo il più possibile alle banche del seme). Al contrario, gli umani competono soprattutto per cose come il sesso, la fama e il potere — che sono, nel migliore dei casi, proxy imperfetti dell'idoneità riproduttiva.

Tuttavia, guardando questo quadro si potrebbe dire: beh, gli esseri umani hanno finito per preoccuparsi un po' di avere figli, anche se questa preoccupazione non è massima. Forse le IA avranno un po' di riguardo per noi e ci lanceranno una sorta di osso, invece di ucciderci tutti.

Un problema di questa speranza è che i proxy a cui teniamo si sono recentemente (su scale temporali evolutive) slegati dall'effettiva idoneità riproduttiva, e probabilmente si allontaneranno sempre di più in futuro, man mano che gli esseri umani continueranno a trovare nuove vie tecnologiche per soddisfare i propri desideri.

Per esempio: il nostro desiderio di avere figli non è proprio un desiderio di propagazione genetica. Supponiamo che in futuro venga creata una tecnologia che sostituisca tutto il DNA delle cellule di una persona con un diverso meccanismo molecolare che la renda immune a tutte le malattie e prolunghi la sua vita sana.

(Supponiamo anche che questa tecnologia non cambi la personalità della persona né causi altri effetti collaterali dannosi, in modo da placare le ragionevoli esitazioni di molte persone riguardo alla sicurezza della nuova tecnologia).

Ci aspettiamo che molti genitori sarebbero entusiasti di sapere che i loro figli abbiano ricevuto il trattamento. E forse all'inizio ci sarebbero alcuni oppositori, ma prevediamo che se la tecnologia dimostrasse di funzionare e diventasse economica e affidabile, alla fine diventerebbe onnipresente. Il che rivela ciò che siamo: persone a cui piace avere figli, avere una famiglia, divertirsi, non persone a cui piace propagare il proprio DNA.

Ci sembra che alla maggior parte degli umani semplicemente non importi nulla della idoneità genetica di per sé, in senso profondo. Ci interessano proxy, come l'amicizia, l'amore, la famiglia e i figli. Forse ci interessa anche trasmettere alcuni dei nostri tratti alla generazione successiva. Ma i geni, nello specifico?

Ogni volta che l'umanità ha scoperto una tecnologia che ci permette di ottenere di più di quello che ci piace, come cibo gustoso o sesso senza riproduzione, l'umanità ha accettato il compromesso. Non siamo abbastanza tecnologicamente avanzati da poter scambiare i genomi con una vita più lunga e più sana. Ma questo tipo di cose sembra possibile in linea di principio fisica,^* e quindi non sembra promettere bene per la selezione naturale a lungo termine.

Se le IA finiranno per interessarsi alla bontà, alla gentilezza e alla cordialità in un modo simile a quello in cui l'umanità si interessa all'idoneità genetica, ci aspettiamo che le IA finiranno per inventare cose che sono per la "cordialità" ciò che il controllo delle nascite e i bambini senza DNA sono per l'idoneità genetica; ovvero, che perseguiranno cose che sono solo un'ombra inutile di ciò che qualsiasi essere umano desidererebbe o intenderebbe.

Non sarebbe una buona cosa se le IA si preoccupassero un po' degli esseri umani.

Per quanto la maggior parte degli esseri umani sembri preoccuparsi più dei figli e della famiglia che della propagazione genetica in sé, ci sono senza dubbio alcune persone che insistono nel dire di preoccuparsi almeno un po' dei propri geni. Siamo un po' scettici su alcune di queste affermazioni: ad esempio, forse alcune persone nel mondo moderno che cercano di trasmettere il più possibile i propri geni lo fanno per il gusto di battere la concorrenza, e forse quel tipo di persone finirebbero invece per competere su quanti figli senza DNA potrebbero avere, se i figli senza DNA diventassero onnipresenti. Ma forse altre affermazioni di questo tipo sono vere. Forse ci sono davvero alcune persone che tengono molto a propagare i propri geni, in modo robusto, almeno un po'. Dopotutto, gli umani hanno preferenze di ogni tipo!

Non potrebbe essere lo stesso per l'IA? Se esistessero molte IA strane e diverse, almeno alcune di esse non potrebbero finire per interessarsi almeno un po' agli esseri umani?

Potrebbe succedere. Purtroppo, ci aspettiamo che neanche questo andrebbe a finire bene per l'umanità. È un argomento che approfondiremo dopo il capitolo 5, discutendo soprattutto se le IA potrebbero finire per interessarsi a noi almeno un po'.

Ma prima di arrivare a questo punto, facciamo un passo indietro. Immaginiamo che, con le tecniche attuali, non sia possibile far sì che le IA si interessino davvero a noi, ma che si speri che, creandone tantissime, una piccolissima parte finisca per preoccuparsi di noi anche solo un minimo, per puro caso. L’idea sarebbe che, se costruiamo delle IA oggi, il loro risultato preferito sarebbe impadronirsi di quasi tutte le risorse dell’universo e usarle per qualcosa di inutile, magari lasciando in vita qualche essere umano in una piccola riserva.

Se l'umanità si precipita a tentare la sorte con la superintelligenza, ci aspettiamo un risultato molto, molto peggiore. Ma questo ci sembra comunque un pessimo piano, anche se avessimo motivo di pensare che le IA si preoccuperebbero di noi in minima parte. Quindi questa linea di speculazione sembra non solo errata, ma anche irrilevante.