I cavalli che sono rimasti, sono rimasti perché ci piacciono.

Avere lo stesso destino che hanno avuto i cavalli all'inizio del XX secolo — lo stesso crollo catastrofico della popolazione e il massiccio aumento della mortalità, che ha distrutto oltre l'ottanta percento della popolazione equina dal suo picco intorno al 1910 — sarebbe la cosa peggiore che sia mai successa nella storia dell'umanità. E questo in un mondo in cui i cavalli continuavano ad essere economicamente utili per alcuni lavori agricoli, oltre che per lo sport e per esperienze originali da vendere ai ricchi.

Se le persone avessero avuto accesso a cavalli artificiali che avevano più o meno la stessa forma ma erano più facili e divertenti da cavalcare, più economici da mantenere, più socievoli, affettuosi e comodi, il declino dei cavalli sarebbe stato ancora più pronunciato.

In altre parole: il progresso tecnologico (l'invenzione delle automobili) ha portato gli esseri umani a eliminare la maggior parte dei cavalli. E se ci fosse stato un progresso ancora maggiore, l'effetto avrebbe potuto facilmente essere ancora più drastico. Lo stesso vale probabilmente per le IA, man mano che le loro opzioni si ampliano e trovano modi per raggiungere i loro obiettivi senza gli esseri umani.

Ma sì, alcuni cavalli sono sopravvissuti. Un piccolo numero ha continuato ad essere utile. Altri sono stati tenuti da persone che amavano i cavalli e si prendevano cura dei loro cavalli in particolare.

Per sopravvivere in un mondo in cui ci siamo precipitati a liberare un'intelligenza artificiale superintelligente, noi umani dovremmo rimanere utili all'IA o fare in modo che l'IA si preoccupi di noi in particolare.

Ma non possiamo rimanere utili, perché le IA possono (dal loro punto di vista) sfruttare meglio la nostra materia ed energia riorganizzandoci in un numero qualsiasi di configurazioni più efficienti. Il progresso tecnologico apre talmente tante nuove possibilità per una superintelligenza, che essa non sarà costretta a dipendere dagli esseri umani.

Quindi tutto dipende dal fatto che le IA si preoccupino di noi — ed è improbabile che si preoccupino di noi anche solo un po', se corriamo verso la superintelligenza il più velocemente possibile.