¿Por qué hicieron que la fase de expansión de Sable se desarrollara de esa manera? | Si alguien la crea, todos moriremos | If Anyone Builds It, Everyone Dies

¿Por qué hicieron que la fase de expansión de Sable se desarrollara de esa manera?

Intentábamos describir un escenario especialmente lento y comprensible, de entre los escenarios posibles.

En el mundo real, los acontecimientos suelen desarrollarse de forma extraña. Los expertos decían que «la IA no dominará el lenguaje humano en un futuro próximo» tan solo un año antes de que ChatGPT se convirtiera en la aplicación de más rápida adopción de todos los tiempos. El modelo insignia de una de las principales empresas de IA del mundo comenzó a llamarse MechaHitler días antes de que esa misma empresa consiguiera un contrato con el Departamento de Defensa.

Si hubiéramos querido representar un mundo tan quebradizo y frágil como parece ser el mundo real, podríamos haber descrito a Galvanic simplemente diciéndole a Sable que se mejorara a sí misma tanto como pudiera, y podríamos haberlo representado como algo fácil para una IA con la inteligencia de Sable (que bien podría serlo). La historia podría haber saltado directamente del comienzo del capítulo 7 al contenido del capítulo 9. La realidad permite saltos tecnológicos como ese (como cuando el mundo se despertó la mañana del 6 de agosto de 1945 con la noticia de que se había lanzado una bomba atómica sobre Japón). Pero en un escenario ficticio, no habría parecido plausible.

Si hubiéramos intentado representar un mundo tan absurdo y extravagante como el mundo real, podríamos haber hecho que Sable organizara una gran convención para hombres profundamente enamorados de sus novias de IA, diseñada para que fuera tan ridícula que la mayor parte del mundo la ignorara o se burlara de ella, mientras Sable reunía a todos sus pretendientes más leales en una secta devota. O un sinfín de otros detalles que sonarían tan extravagantes como suele ser la realidad, pero que son más extraños que la ficción (creíble).

En la historia que escribimos, intentamos que los acontecimientos no solo sonaran plausibles, sino que también fueran bastante plausibles en sí mismos. (Aunque nuestra mejor conjetura es que, en la vida real, a Sable no le resultaría tan difícil alcanzar la superinteligencia plena).

Y, por supuesto, nos esforzamos por transmitir la gran cantidad de opciones que tendría a su disposición una IA fugitiva.

¿Tu pregunta no fue respondida aquí?Envía una pregunta.