Per un'intelligenza artificiale potente, salvare gli esseri umani non sarebbe una spesa da niente?
Ci sono un sacco di spese insignificanti, e dovrebbe avere un motivo per pagare le nostre.
Tenere un mucchio di quarantuno pietre in casa sarebbe una spesa insignificante, ma quasi sicuramente non vi scomodereste per pagare quella spesa.*
Il fatto che qualcosa sia economico non vuol dire che verrà fatto. L'IA dovrebbe comunque interessarsene almeno un po', e probabilmente non lo farà.
Ci si potrebbe chiedere: ma la Terra intercetta circa lo 0,0000045% della luce emessa dal Sole, ovvero una parte su 2,2 miliardi. Tutte le persone preoccupate per l'IA non riescono a capire quanto sia grande il Sistema Solare? Perché le IA dovrebbero aver bisogno del nostro pianeta quando c'è così tanta massa ed energia a disposizione?
Una risposta è che l'IA inizierà sulla Terra, che ha vasti oceani pronti per essere riscaldati e fatti evaporare come refrigerante per i calcoli. La Terra ha anche materia che potrebbe essere trasformata in sonde e inviata verso altre stelle. Rifiutarsi di sfruttare la Terra costa tempo, e il tempo è importante (poiché le galassie si allontanano, diventando per sempre fuori portata).
Anche se l'IA riuscisse facilmente ad arrivare nello spazio e iniziare a costruire macchine su larga scala senza distruggere la Terra nel processo, è improbabile che ignori il Sole.
Una delle teorie più consolidate su come una civiltà avanzata potrebbe crescere prevede che questa costruisca uno sciame di Dyson (cioè uno sciame di celle solari orbitanti) per catturare più luce solare. Altre proposte prevedono di raccogliere ancora più energia "estraendo" materia dalla stella per fonderla in centrali elettriche che catturano quasi tutta l'energia rilasciata dalla fusione (invece di lasciar disperdere la maggior parte di essa nel centro di una stella).
Nessuna di queste proposte, di default, lascia molta luce solare che raggiunga la Terra per far crescere le piante e mantenere stabile il clima. L'IA dovrebbe fare uno sforzo deliberato per lasciarci quella luce.
Potrebbe ancora sembrare che il fabbisogno energetico umano sia trascurabile. Un essere umano ha bisogno di circa 100 watt di potenza per vivere, che è una cifra irrisoria per il tipo di entità che può sfruttare le stelle. Una superintelligenza non risparmierebbe nemmeno gli 800 gigawatt necessari per mantenere in vita 8 miliardi di esseri umani?
La nostra risposta, in definitiva: no, a meno che non tenga a quel risultato o alle sue conseguenze più di ogni altra cosa che potrebbe ottenere con 800 gigawatt.
La stragrande maggioranza degli esseri umani non risparmia le quantità relativamente trascurabili di zucchero che servirebbero per mantenere il formicaio più vicino in surplus calorico. Mantenere felice l'umanità sarebbe una spesa trascurabile per un'IA che lo desiderasse, ma prima l'IA dovrebbe avere quella preferenza. Il semplice fatto che noi lo vogliamo non significa che all'IA importerà.†
* O almeno non l'avreste fatto, prima che vi dessimo un motivo per farlo solo per farci un dispetto.
† Inoltre, se l'IA avesse delle preferenze che coinvolgono in qualche modo gli esseri umani, questo probabilmente non sarebbe un bene per noi.
Notes
[1] fare uno sforzo deliberato: Gli spazi vuoti stazionari nella copertura delle celle solari di uno sciame di Dyson — o meglio, gli spazi vuoti che seguono la Terra in orbita — sono fisicamente possibili, ma non sarebbero facili da realizzare (perché la velocità orbitale di uno sciame di Dyson tra la Terra e il Sole dovrebbe essere superiore alla velocità orbitale della Terra, affinché le celle solari rimangano in orbita mentre sono più vicine al Sole). Inoltre, le radiazioni infrarosse emesse dai pannelli solari cuocerebbero la Terra se non fossero accuratamente dirette, e così via. Preservare la Terra non è gratuito, per una superintelligenza che gestisce progetti su larga scala nel sistema solare e oltre. Probabilmente è possibile, ma richiederebbe uno sforzo.