Con i computer, la parte difficile è far loro risolvere un certo problema. Quantità e velocità elevati arrivano subito dopo.

"Per conquistare il mondo, è necessaria una civiltà" è un'intuizione che ha senso per gli umani. È molto meno ovvio quanto questa idea possa applicarsi all'IA. Le IA non funzionano come gli umani: possono essere enormemente più potenti di qualsiasi essere umano e un'istanza di IA non è necessariamente paragonabile a una singola persona.

Vale anche la pena ricordare che la superintelligenza è proprio il tipo di cosa che può arrivare ad avere l'equivalente di un’intera civiltà in tempi estremamente brevi.

Con la maggior parte dei compiti che i computer possono svolgere, non ci vuole molto per passare da "i computer possono farlo" a "i computer possono farlo su scala enorme, molto più velocemente di qualsiasi essere umano". Si pensi, per esempio, alle calcolatrici.

Ci sono stati anni in cui solo i computer di fascia più alta potevano fare il riconoscimento vocale, l'elaborazione video o la grafica 3D in tempo reale, ma non ci sono stati molti anni di questo tipo.

Le IA, come i software tradizionali, possono essere rapidamente copiate su tutti i computer disponibili. Ed è possibile costruire altri computer alla velocità dell'industria.

Confrontiamo questa situazione con gli umani. Creare e addestrare un nuovo essere umano richiede risorse sostanziali e decenni di tempo. Una volta che si ha una singola IA a un dato livello di potenza, si può immediatamente copiare quella stessa IA addestrata, "adulta", quante volte si vuole, con una spesa minima.

In un certo senso, l'equivalente di un'intera (piccola) civiltà di menti IA esiste già nel momento in cui un'azienda rilascia un nuovo modello nei propri data center e avvia tutte le istanze necessarie per soddisfare la domanda. Oggi, queste flotte di IA non lavorano tutte in armonia. Ma le aziende usano gruppi di agenti paralleli quando puntano alle massime prestazioni a qualsiasi prezzo.

Tutto questo significa che probabilmente non ci sarà molto tempo tra quando le IA diventeranno abbastanza intelligenti da poter prendere il sopravvento se avessero un milione di istanze e quando le IA avranno almeno quel numero di istanze in esecuzione. Il tipo di crescita demografica che richiede centinaia di anni agli esseri umani può verificarsi in minuti con l'IA.

Per quanto riguarda le infrastrutture fisiche della civiltà, riteniamo che l'IA possa sfruttare produttivamente le infrastrutture umane per tutto il tempo necessario a sviluppare mezzi più avanzati per riorganizzare la materia secondo le sue preferenze. Non ha bisogno di capire come fabbricare da zero una sua catena di approvvigionamento e infrastruttura di calcolo quando può usare i nostri computer. Non ha bisogno di inventare macchine industriali da zero quando può semplicemente prendere il controllo di quelle che abbiamo già costruito in modo provvidenziale. E può usare le nostre infrastrutture per costruire la fase successiva delle sue, utilizzando i robot esistenti per costruire nuove e più efficienti fabbriche di robot, o utilizzando i laboratori di sintesi del DNA esistenti per creare la sua biotecnologia, fino a diventare completamente autosufficiente.

Gli esseri umani sono il tipo di entità che, partendo in pochi e nudi nella savana, sono riusciti con le proprie forze a costruire una civiltà tecnologica. E non siamo nemmeno così intelligenti. Non sarebbe un'impresa tanto difficile da replicare per una superintelligenza, soprattutto se potesse partire dalla base industriale esistente dell'umanità come trampolino di lancio.

Notes