No. La IA superinteligente es un caso muy inusual.

Defendemos públicamente tecnologías como la energía nuclear, la criónica, el aumento de la inteligencia humana y los estudios de exposición con seres humanos para ensayos clínicos.

Más aún, estamos dispuestos a afirmar que, cuando un invento descabellado pone en riesgo solo la vida de los clientes voluntarios que comprenden todos los peligros relevantes, corresponde a esos clientes voluntarios tomar sus propias decisiones.

Incluso aplaudiríamos ciertos casos en los que la tecnología sí daña a terceros, como ocurrió cuando Londres quemó una gran cantidad de carbón —y provocó muchos casos de cáncer de pulmón en el proceso— con el fin de industrializar la sociedad y elevar el nivel de vida de manera generalizada.

Creemos que el mundo estaba mejor una vez completada la industrialización. Generalmente, atribuimos el mérito a la ciencia, al progreso, al espíritu humano y a su capacidad para superar la mayoría de los obstáculos.

Algunas de estas posiciones son impopulares entre las personas que esperamos que lean esto. Las describimos no para ganarnos su favor, sino para dejar en claro cuáles son nuestras creencias y para subrayar que la IA es distinta.

¿Por qué es distinta? ¿Por qué nos cuesta confiar en el espíritu humano y en el poder de la investigación científica precisamente en este caso?

La respuesta es: el alcance. Arriesgar la propia vida es distinto a arriesgar la vida de los clientes, lo cual es distinto a arriesgar la vida de terceros inocentes, que a su vez es distinto a arriesgar la vida de toda la especie humana.

Más aún cuando tu campo es lamentablemente inmaduro y las probabilidades de ganar la apuesta son pésimas.