Quando si ha solo un esempio di come funziona qualcosa, è facile pensare che debba funzionare solo in quel modo.

Se si sono visti gli uccelli ma non gli aeroplani, si potrebbe immaginare che tutti i dispositivi volanti debbano sbattere le ali.

Se si sono viste braccia umane ma non braccia robotiche, ci si potrebbe aspettare che le braccia robotiche sanguinino quando vengono tagliate.

Se si è visto un cervello ma non un computer, si potrebbe immaginare che ogni calcolo debba avere caratteristiche simili a quelle di un cervello, che fa funzionare moltissimi neuroni lenti in modo straordinariamente parallelo, consumando relativamente poca energia.

Si potrebbe osservare che i neuroni si affaticano dopo aver generato un impulso e devono resettarsi trasferendo milioni di ioni di potassio attraverso la membrana cellulare, un processo che richiede circa un millisecondo. Da ciò si potrebbe dedurre implicitamente che qualsiasi piccolo elemento di calcolo sia destinato ad affaticarsi per un millisecondo (argomentando, forse, che se fosse possibile creare neuroni in grado di resettarsi in meno di un millisecondo, l'evoluzione li avrebbe già costruiti).

Ma se si ragiona in questo modo, si rimarrà scioccati dai transistor, che possono operare a una velocità di 800 GHz, ovvero circa ottocento milioni di volte più velocemente.

Una volta studiati i dettagli dei transistor, ci si può accorgere ogni sorta di motivo per cui il confronto con la biologia non dà molte informazioni. I neuroni non devono solo attivarsi, ma devono anche essere cellule, che costruiscono il meccanismo di attivazione a partire dagli organelli cellulari. Questi sono grandi e alimentati da nutrienti trasportati dal sangue. I transistor possono avere una larghezza di appena pochi atomi e sono alimentati dall'elettricità. Una volta che si conoscono alcuni dei dettagli, sembra un po' ridicolo immaginare che si possa dedurre molto sulla velocità potenziale di attivazione di un transistor dalla velocità di attivazione di un neurone.

Quando si imparano i dettagli di come volano gli aerei (usando portanza e velocità), ci si accorge che i dettagli rendono irrilevanti la maggior parte delle caratteristiche degli uccelli (come le ossa leggere e le ali che sbattono). Quando si imparano i dettagli di come vengono costruiti i bracci robotici (usando acciaio, pneumatica ed elettricità), ci si accorge che i dettagli rendono poco importanti la maggior parte delle caratteristiche delle braccia (come sangue, muscoli e ossa). Quando si imparano i dettagli di come si attivano i transistor (usando elettricità e solo pochi atomi), ci si accorge che i dettagli rendono irrilevanti la maggior parte delle caratteristiche dei neuroni.^*

Quando non si conoscono i dettagli di come funziona un'intelligenza artificiale, è facile immaginare che possiederà molti aspetti delle menti biologiche, che funzionerà come il vostro cervello. Ma se si conoscessero i dettagli, molte di queste deduzioni comincerebbero a sembrare ridicole. Comincerebbero a sembrare come avere l'aspettativa che un braccio robotico sanguini quando viene tagliato. L'intelligenza artificiale finirebbe per funzionare in modo completamente diverso.

Ma questo è più difficile da capire se non si sa molto su come funzionano le IA moderne. Nel capitolo 2 descriveremo il processo attraverso il quale vengono create le IA moderne e discuteremo di come nessuno sappia come funzionano al loro interno. Questo spiega perché è così facile per le persone commettere l'errore di aspettarsi che si comportino come altre persone o tecnologie con cui hanno esperienza, piuttosto che capire quanto siano già strane e quanto lo diventeranno con il progredire della tecnologia.