En parte, porque es realista.

Tanto AlphaGo (la primera IA que venció a un humano en Go) como ChatGPT eran prácticamente únicos en su clase en el momento de su lanzamiento.

Los expertos en IA a veces hablan de que otros competidores no estaban tanlejos. Otros competidores eran bastante similares.

Pero, en realidad, cosas similares a veces tienen efectos muy diferentes. Una reacción nuclear en cadena que produce 0,98 neutrones por neutrón es muy similar (en cierto sentido) a una reacción nuclear en cadena que produce 1,02 neutrones por neutrón, pero la primera se agota y la segunda explota. Los cerebros de los chimpancés son, en cierto sentido, muy similares a los cerebros humanos, pero tienen un impacto muy diferente en el mundo.

Y en el desarrollo de la IA en la vida real, OpenAI de hecho produjo un chatbot útil antes que nadie. Muchos otros actores estaban trabajando en IA que eran algo parecidas; muchos otros actores se pusieron al día. Pero hubo una IA que cruzó el umbral cualitativo primero, antes que el resto.

Parece que hay una frontera cualitativa que la humanidad cruzó y los chimpancés no, una frontera que nos permitió construir una civilización tecnológica mientras ellos siguen en los árboles. Nuestra mejor conjetura es que hay una frontera cualitativa similar en algún lugar entre las IA modernas y las IA cuyo pensamiento realmente «se cohesione» lo suficientemente bien como para que puedan escapar y desarrollar su propia tecnología.^*

Nuestro argumento no requiere que exista una brecha cualitativa para las máquinas, como la hubo para la vida biológica. ¡Quizás no la haya! Podríamos haber escrito una historia alternativa en la que no la hubiera. Pero escribimos la historia de esta manera porque creemos que lo más probable es que sí exista tal brecha.

En parte, porque es más fácil de escribir.

Quizás no haya ninguna brecha cualitativa entre los LLM actuales y la superinteligencia artificial. Quizás muchas empresas competidoras de IA mejoren poco a poco sus IA al mismo ritmo. Quizás, por alguna razón, no exista un conjunto de habilidades y capacidades que permita a una IA «despegar» por delante del resto, de la misma forma que los humanos lo hicieron con el resto de los animales. No es nuestra mejor hipótesis, pero, hasta donde sabemos, es posible.

Sin embargo, una historia así sería más difícil de escribir y estaría llena de detalles innecesarios sobre las facciones de la IA y su política interna, lo que nos alejaría bastante del punto. También creemos que no importaría demasiado para las últimas etapas de la historia. En realidad, no importa si es una IA o un conjunto de IA los que están ejecutando algún plan para empoderarse a costa de la humanidad.

Véase también nuestro debate sobre cómo las IA coordinadas no dejarán nada para los humanos (a menos que alguna de ellas se preocupe por nosotros).