Para una IA poderosa, ¿no sería conservar a los humanos un gasto insignificante?
Hay muchos gastos insignificantes, y necesitaría una razón para pagar los nuestros.
Guardar una pila de 41 piedras en tu casa sería un gasto insignificante, pero es casi seguro que no te tomarías la molestia de pagar ese gasto.*
Que algo sea barato no significa que se vaya a hacer. Tendría que importarle al menos un poco a la IA, y probablemente no le importará.
Uno podría preguntarse: pero la Tierra intercepta alrededor del 0,0000045 % de la luz emitida por el Sol, una parte de 2200 millones. ¿Es que todas las personas preocupadas por la IA no comprenden lo grande que es realmente el sistema solar? ¿Por qué las IA necesitarían nuestro planeta cuando hay tanta masa y energía a su alrededor?
Una respuesta es que la IA comenzará en la Tierra, que tiene vastos océanos esperando a ser calentados y evaporados como refrigerante para la computación. La Tierra también tiene materia que podría convertirse en sondas y enviarse a otras estrellas. Negarse a agotar la Tierra cuesta tiempo, y el tiempo es importante (ya que las galaxias se alejan, quedando para siempre fuera de nuestro alcance).
Incluso si la IA puede llegar fácilmente al espacio y empezar a construir máquinas a gran escala sin destruir la Tierra en el proceso, es poco probable que ignore el Sol.
Una de las teorías más habituales sobre cómo podría crecer una civilización avanzada implica que esta construya un enjambre de Dyson (es decir, un enjambre de células solares en órbita) para capturar más luz solar. Otras propuestas implican cosechar aún más energía «elevando» materia fuera de la estrella para fusionarla en centrales eléctricas que capturan casi toda la energía liberada por la fusión (en lugar de dejar que la mayor parte se desperdicie en el centro de una estrella).
Ninguna de estas propuestas por defecto deja que caiga mucha luz solar sobre la Tierra para mantener el crecimiento de las plantas y la estabilidad del clima. La IA tendría que hacer un esfuerzo especial para dejarnos eso.
Podría parecer que las necesidades energéticas de los humanos son insignificantes. Un humano necesita alrededor de 100 vatios de potencia para vivir, lo que es una minucia para una entidad capaz de cosechar estrellas. ¿No perdonaría una superinteligencia ni siquiera los 800 gigavatios que se necesitarían para mantener con vida a 8000 millones de seres humanos?
La respuesta es que no, a menos que le importe ese resultado o sus consecuencias más que cualquier otra cosa que pudiera lograr con 800 gigavatios.
La gran mayoría de los seres humanos no ahorran las cantidades relativamente insignificantes de azúcar que se necesitarían para mantener el hormiguero más cercano en un excedente calórico. Mantener feliz a la humanidad sería un gasto insignificante para una IA que quisiera hacerlo, pero primero tendría que tener esa preferencia. El mero hecho de que nosotros lo queramos no significa que a la IA le importe.†
* O al menos no lo habrías hecho, antes de que te diéramos motivos para hacerlo solo por fastidiarnos.
† Además, si la IA tuviera preferencias que implicaran a los humanos de alguna manera, esto probablemente no terminaría bien para nosotros.
Notes
[1] hacer un esfuerzo especial : Las brechas estacionarias en la cobertura de las células solares de un enjambre de Dyson —o más bien, las brechas que siguen a la Tierra en su órbita— son físicamente posibles, pero no serían fáciles de configurar (porque la velocidad orbital de un enjambre de Dyson entre la Tierra y el Sol tendría que ser mayor que la velocidad orbital de la Tierra, para que las células solares permanecieran en órbita mientras están más cerca del Sol). Además, la radiación infrarroja emitida por los paneles solares cocinaría la Tierra si no se orientara cuidadosamente, etc. Preservar la Tierra no es gratis para una superinteligencia que lleva a cabo proyectos a gran escala en el sistema solar y más allá. Probablemente sea posible, pero requeriría esfuerzo.