I cervelli non sono tabule rase.

Un'intelligenza artificiale è davvero diversa da un bambino umano. E né le intelligenze artificiali né gli esseri umani nascono come tabule rase intercambiabili. Dei genitori intraprendenti non possono programmare liberamente i bambini (o le intelligenze artificiali) per far sì che mostrino qualsiasi comportamento desiderino; e le lezioni che funzionano sugli esseri umani non sono universali. Un po' di gentilezza e qualche predica su "tratta gli altri come vorresti essere trattato" non instilleranno la moralità umana in un'intelligenza artificiale.

Poiché siamo umani e viviamo in un mondo di altri umani, siamo abituati a dare molte cose per scontate. L'amore; la visione binoculare; il senso dell'umorismo; la tendenza ad arrabbiarsi quando si viene spinti; la tendenza a provare nostalgia per la musica che ascoltavamo da bambini.

Gli esseri umani condividono un'incredibile quantità di comportamenti complessi, nessuno dei quali comparirà necessariamente in un'intelligenza artificiale.^*

E questo include comportamenti condizionali complessi. I modi specifici in cui un essere umano reagisce all'essere cresciuto ed educato in un certo modo sono una conseguenza del funzionamento del cervello umano. Le IA funzioneranno in modo diverso.

I bambini umani non hanno molti dei comportamenti complicati degli adulti. Ma questo non significa che, dietro le quinte, il cervello di un bambino sia strutturalmente semplice, come una tela bianca.

L'idea che gli esseri umani siano tabule rase — che sia sempre l'educazione a contare, e mai la natura — è stata ripetutamente messa alla prova e si è dimostrata falsa nella pratica. Un esempio classico è stato il tentativo sovietico di ridisegnare la natura umana, per creare un Nuovo Uomo Sovietico perfettamente altruista e disinteressato.

Questo tentativo fallì perché la psicologia umana non è così malleabile come pensavano i sovietici. La cultura è importante, ma non lo è abbastanza, e molti aspetti della natura umana si riaffermeranno anche se un grande programma di rieducazione sovietico cerca di sopprimerli.

C'è un grande insieme complesso di pulsioni e desideri negli esseri umani che produce tutte le caratteristiche normali dello sviluppo dei bambini — un complesso insieme che produce certi aspetti della natura umana, nonostante gli sforzi dei sovietici. Alcuni bambini imparano a essere crudeli e altri imparano a essere gentili, ma sia la "crudeltà" che la "gentilezza" sono cose stranamente umane a cui il cervello umano è in qualche modo predisposto.

Un'intelligenza artificiale, con la sua architettura e origine radicalmente diverse, non reagirebbe allo stesso modo di un essere umano se la si mettesse in un programma di addestramento sovietico o in un asilo umano. Un'intelligenza artificiale costruita con i metodi del moderno apprendimento automatico finirà per essere animata da valori diversi da quelli degli esseri umani. (Si veda, per esempio, come ChatGPT sembra guidare con entusiasmo le persone con problemi mentali verso una psicosi più profonda.)

Si veda anche la discussione approfondita sul magnifico incidente che ha portato gli esseri umani a provare empatia per gli altri esseri umani, che potrebbe rendere più chiaro perché è improbabile che questo incidente si ripeta nelle IA.