Sì. C'è un fenomeno reale da descrivere, anche se è difficile definirlo con precisione.

Negli ultimi trent'anni, settantasette Premi Nobel per la Chimica sono stati assegnati a esseri umani e zero agli scimpanzé. Un alieno, sentendo di questo fatto per la prima volta, potrebbe chiedersi se il Comitato Nobel sia di parte. Ma no, c'è davvero qualcosa che distingue noi esseri umani dagli scimpanzé.

È un punto fin troppo ovvio, ma a volte i punti ovvi possono essere importanti. Abbiamo delle capacità che ci permettono di camminare sulla luna e che mettono il destino del pianeta nelle nostre mani piuttosto che in quelle degli scimpanzé. I filosofi e gli scienziati possono discutere della vera natura dell'intelligenza, ma qualunque sia la loro conclusione, il fenomeno di fondo rimane. Qualcosa negli esseri umani ci ha permesso di realizzare imprese mai viste prima in natura; e quel qualcosa ha a che fare con il nostro cervello e con il modo in cui lo usiamo per comprendere e influenzare il mondo che ci circonda.

Il fatto che non possiamo dare una definizione precisa non significa che non possa danneggiarci.

Se ti trovi intrappolato in un incendio boschivo, non importa se comprendi o meno la chimica su cui è fondato. Bruci lo stesso.

Lo stesso vale per l'intelligenza. Se le macchine iniziassero a convertire la superficie della Terra nella propria infrastruttura, generando così tanto calore disperso da far bollire gli oceani, allora non importerebbe molto se avessimo già una definizione precisa di "intelligenza". Moriremmo lo stesso.

Lo intendiamo letteralmente, e nei prossimi capitoli esploreremo perché ci aspettiamo risultati così estremi da un'IA più intelligente dell'essere umano. Nel Capitolo 3, sosterremo che le macchine superintelligenti perseguirebbero degli obiettivi. Nel Capitolo 4, affermeremo che quegli obiettivi non sarebbero ciò che qualsiasi essere umano intendeva o aveva chiesto. Nel Capitolo 5, sosterremo che le macchine realizzerebbero meglio i loro obiettivi se si appropriassero delle risorse che usiamo per sopravvivere. E nel Capitolo 6 affermiamo che sarebbero capaci di sviluppare la loro infrastruttura e rendere rapidamente il mondo inabitabile.

Non serve una definizione precisa di intelligenza per costruire l'intelligenza.

Gli esseri umani sono stati capaci di creare il fuoco prima di comprendere la chimica della combustione. In modo analogo, gli esseri umani sono già a buon punto nella creazione di macchine intelligenti, nonostante la loro mancanza di comprensione, come vedremo nel Capitolo 2.

Piuttosto che pensare all'intelligenza come a una nozione matematica che necessita di una definizione precisa, vi consigliamo di pensare all'"intelligenza" come all'etichetta per un fenomeno naturale che abbiamo osservato ma che non comprendiamo ancora bene.

Qualcosa nei cervelli umani ci permette di compiere una varietà sorprendente di imprese. Costruiamo acceleratori di particelle; sviluppiamo nuovi farmaci; inventiamo l'agricoltura; scriviamo romanzi; eseguiamo campagne militari. Qualcosa nei cervelli umani fa sì che possiamo fare tutte queste cose, mentre i topi e gli scimpanzé non possono farne nessuna. Anche se non abbiamo ancora una piena comprensione scientifica di quella differenza mentale, è utile avere un'etichetta per essa.

In modo analogo, è utile poter parlare di intelligenza che supera la nostra. Oggi possiamo già osservare IA che sono superumane in una varietà di domini ristretti — le moderne IA per gli scacchi, per esempio, sono superumane nel dominio degli scacchi. È naturale quindi chiedersi cosa accadrà quando costruiremo IA che sono superumane negli ambiti di scoperta scientifica, sviluppo tecnologico, manipolazione sociale o pianificazione strategica. Ed è naturale chiedersi cosa accadrà quando costruiremo IA che superano gli esseri umani in tutti gli ambiti.

Se e quando apparirà un'IA che può fare ricerca scientifica di livello mondiale migliaia di volte più velocemente dei migliori scienziati umani, potremmo protestare che "non è veramente intelligente", forse perché raggiunge conclusioni in un modo molto diverso da come farebbe un essere umano. Questo potrebbe anche essere vero, a seconda di quale definizione di "intelligenza" si sceglie. Ma l'impatto nel mondo reale dell'IA sarà enorme, qualunque sia il modo con cui scegliamo di etichettarla.

Abbiamo bisogno di una terminologia per parlare di quel tipo di impatto, e per parlare dei tipi di macchine che sono radicalmente capaci di prevedere e orientare il mondo. In questo libro, scegliamo la via più semplice, quella di assegnare l'etichetta "intelligenza" alle capacità, piuttosto che a specifici processi interni che danno origine a quelle capacità.