Non abbiamo una comprensione sufficientemente buona dell'intelligenza per farlo.

Una classe di previsioni di successo consiste nel prendere una linea retta su un grafico, che è rimasta costante per molti anni, e prevedere che la linea retta continui per almeno un altro anno o due.

Questo non funziona sempre. Le linee di tendenza a volte cambiano. Ma spesso funziona ragionevolmente bene; questo è un caso in cui si fanno previsioni di successo nella pratica.

Il grande problema di questo metodo è che spesso quello che vogliamo davvero sapere non è "quanto sarà alta questa linea sul grafico entro il 2027?" ma piuttosto "Cosa succede, qualitativamente, se questa linea continua a salire?" Quale altezza della linea corrisponde a risultati importanti nel mondo reale?

E nel caso dell'IA, semplicemente non lo sappiamo. È abbastanza facile scegliere una qualche misura dell'intelligenza artificiale che formi una linea retta su un grafico (come la "perplessità") e proiettare quella linea in avanti. Ma nessuno sa quale livello futuro di "perplessità" corrisponda a quale livello qualitativo di abilità nel gioco degli scacchi. Non si può prevederlo in anticipo; devono semplicemente far girare l'IA e scoprirlo.

Nessuno sa dove cada la linea "ora ha la capacità di uccidere tutti" su quel grafico. Tutto quello che si può fare è far girare l'IA e scoprirlo. Quindi estrapolare la linea retta sul grafico non ci aiuta. (E questo prima ancora che il grafico venga reso irrilevante dal progresso algoritmico.)

Per questo motivo, nel libro non ci mettiamo a estrapolare linee sui grafici per prevedere esattamente quando qualcuno impiegherà 10²⁷ operazioni in virgola mobile per addestrare un'IA, o quali conseguenze questo avrebbe. È una previsione difficile. Il libro si concentra su quelle che ci sembrano le previsioni facili. Si tratta di una gamma ristretta di argomenti, e la nostra capacità di fare un piccolo numero di previsioni importanti in quel dominio ristretto non giustifica l'elaborazione di pronostici arbitrari sul futuro.