¿No serán las máquinas fundamentalmente poco creativas o tendrán algún otro defecto fatal? | Si alguien la crea, todos moriremos | If Anyone Builds It, Everyone Dies

¿No serán las máquinas fundamentalmente poco creativas o tendrán algún otro defecto fatal?

No.

En su mayor parte, diferimos la pregunta de si las máquinas pueden ser creativas hasta el capítulo 3. Sin embargo, aquí diremos esto: las máquinas no necesitan tener algún defecto fatal que las equilibre frente a los humanos para que el indomable espíritu humano tenga la oportunidad de ganar.

Si los dodos hubiesen tenido su propia industria cinematográfica, quizás en sus guiones habrían escrito que las armas y el acero de los humanos se compensaban con las desventajas propias de la especie en la invasión de la isla de Mauricio. Quizás la angustia existencial inducida por la inteligencia haría que los humanos se paralizaran en el último momento, justo el tiempo suficiente para que los heroicos dodos contraatacaran y los mataran a todos a picotazos.

Esta historia les habría gustado a los dodos: que la inteligencia no puede ser una ventaja militar neta con respecto a los picos fuertes, que los cerebros más grandes de los humanos deben tener algún defecto fatal que les permita a los orgullosos dodos ganar después de todo.

En realidad, las ventajas aparentes de los humanos son ventajas reales. Las desventajas de los cerebros humanos no son desventajas netas en un conflicto militar con cerebros de pájaros. La contienda entre humanos y dodos termina siendo desigual, así de sencillo.

Incluso cuando los humanos luchan contra otros humanos, las ametralladoras son una ventaja suficiente para que un ejército con ametralladoras venza a un ejército sin ellas. Hay raras excepciones a esta regla, y a la gente le encanta contarlas porque la excepción es una historia más entretenida que la norma. Pero las excepciones ocurren en la vida real con mucha menos frecuencia que en las historias.

Predecimos lo mismo sobre las IA avanzadas con vastas memorias y mentes, que pueden copiarse a sí mismas miles de veces y pensar a una velocidad diez mil veces superior a la de un humano; mentes que pueden razonar de forma más válida, generalizar más rápido y con mayor precisión a partir de menos lecciones duras, y mejorarse a sí mismas.

No es una pregunta capciosa, y no habrá un giro argumental sorprendente, por mucho que nos gustaría que lo hubiera.

¿Tu pregunta no fue respondida aquí?Envía una pregunta.