Cosa vi fa pensare che gli umani possano costruire un'intelligenza artificiale superumana quando non capiscono nemmeno l'intelligenza?
I progressi passati nell'IA non hanno richiesto una grande comprensione dell'intelligenza.
Come spiegato nel Capitolo 2, il campo dell'IA ha raggiunto i suoi recenti traguardi utilizzando la discesa del gradiente, un processo che non richiede agli esseri umani di comprendere l'intelligenza. Gli esseri umani sono arrivati davvero molto lontano senza dover necessariamente comprendere l'intelligenza.
La selezione naturale non aveva bisogno di "capire" l'intelligenza.
L'evoluzione è riuscita a produrre l'intelligenza umana senza che la selezione naturale comprendesse l'intelligenza. La comprensione può essere utile o meno nella pratica, ma l'idea che dobbiamo comprenderla per produrla non regge.