¿No hay grandes obstáculos para alcanzar la superinteligencia? | Si alguien la crea, todos moriremos | If Anyone Builds It, Everyone Dies

¿No hay grandes obstáculos para alcanzar la superinteligencia?

No está claro.

En gran medida, el campo está avanzando a ciegas. Podría ser que no quedaran obstáculos reales y que pequeños ajustes en las técnicas actuales escalen hasta la superinteligencia, o escalen hasta IA lo suficientemente inteligentes como para construir IA ligeramente más inteligentes que construyan IA ligeramente más inteligentes que construyan IA superinteligentes.

Si hay obstáculos importantes, no sabemos cuánto tiempo tardará la humanidad en superarlos (con o sin la ayuda de la IA).

Lo que sí sabemos es que los principales laboratorios de IA están yendo explícitamente en esa dirección, y sabemos que están logrando avances. Antes, las máquinas no podían dibujar, hablar ni escribir código; ahora sí pueden.

El campo es bueno en superar obstáculos.

Durante décadas, las IA tuvieron dificultades incluso para distinguir la imagen de un gato de la imagen de un coche. El punto de inflexión se produjo en 2012, cuando los investigadores de la Universidad de Toronto Alex Krizhevsky, Ilya Sutskever y Geoffrey Hinton diseñaron AlexNet, una red neuronal convolucional que superó por mucho el nivel que se había alcanzado hasta ese momento. Este acontecimiento es ampliamente reconocido como el inicio de la revolución moderna de la IA, en la que las redes neuronales artificiales se utilizan para impulsar casi toda la IA moderna.

La IA solía ser mala en los juegos de mesa. Incluso después de que la IA de ajedrez Deep Blue derrotara al gran maestro Garry Kasparov en 1997, las computadoras seguían teniendo dificultades con el número mucho mayor de movimientos posibles en el juego del Go. Eso fue así hasta 2016, cuando AlphaGo derrotó al campeón mundial Lee Sedol tras entrenarse con miles de partidas humanas, utilizando una nueva arquitectura que combinaba redes neuronales profundas con búsqueda en árbol. Una vez que vencieron al Go, el equipo de DeepMind utilizó ese mismo algoritmo de una manera más general, llamado AlphaZero, y descubrió que dominaba no solo el Go, sino también otros juegos como el ajedrez y el shogi.

Los primeros chatbots eran comunicadores limitados. Luego, en 2020, la maduración de la arquitectura de los transformadores nos dio GPT-3, que era lo suficientemente sofisticado como para traducir textos, responder preguntas e incluso generar muestras de artículos de noticias que parecían reales. Una vez que se reentrenó un poco para actuar como un chatbot, se convirtió en la aplicación de consumo de más rápido crecimiento de todos los tiempos.

¿Existen obstáculos entre la IA moderna y la «auténtica», el tipo de IA que podría convertirse en una superinteligencia o crearla?

Tal vez. Quizás se necesiten más conocimientos arquitectónicos, como los que hay detrás de AlexNet, que abrió todo el campo de la IA moderna, o como los que hay detrás de AlphaZero, que finalmente permitió a las IA ser buenas en múltiples juegos utilizando el mismo algoritmo, o los que hay detrás de ChatGPT, que hicieron que las computadoras empezaran a hablar. (O quizás no; quizás las IA modernas crucen silenciosamente algún umbral y eso será todo).

Pero si quedan obstáculos, los investigadores en este campo probablemente los superarán. Son bastante buenos en eso, y ahora hay muchos más investigadores trabajando en este problema que en 2012.

En julio de 2025, las IA siguen teniendo dificultades con tareas que requieren memoria a largo plazo y planificación coherente, como jugar al videojuego de Pokémon. Uno podría sentirse tentado a unirse a los escépticos y reírse de los últimos fracasos de las IA: ¿cómo podrían las IA, que tienen dificultades con videojuegos sencillos, estar siquiera cerca de la superinteligencia?

Del mismo modo, en 2019 las IA tenían muchas dificultades para hablar de forma coherente. Pero eso no significaba que el éxito estuviera a veinte años de distancia. Los laboratorios están trabajando arduamente para identificar los obstáculos que hacen que las IA rindan por debajo de lo esperado en determinados tipos de tareas, y es probable que estén en camino de encontrar nuevas arquitecturas que sean mejores en memoria a largo plazo y planificación. Nadie sabe lo que esas IA serán capaces de hacer.

Si esa siguiente fase no es suficiente para que las IA empiecen a automatizar la investigación científica y tecnológica (incluido el desarrollo de IA aún más inteligentes), los investigadores simplemente centrarán su atención en el siguiente obstáculo. Seguirán avanzando, a menos que la humanidad intervenga y prohíba tal investigación, un tema que trataremos en capítulos posteriores.

Notes

[1] comunicadores limitados: Uno de los más famosos es ELIZA, ampliamente considerado el primer chatbot.

[2] de más rápido crecimiento: Según un análisis del Union Bank of Switzerland, recogido por medios de comunicación como Business Insider.

[3] muchos más investigadores: La inversión privada en inteligencia artificial es más de veinte veces superior en 2025 que en 2012, y el número de equipos de investigación se ha multiplicado por seis, y la gran mayoría del aumento corresponde a equipos del sector de la IA. Las principales conferencias sobre IA son entre nueve y diez veces más grandes que en 2012.

[4] Pokémon: Para un análisis de lo bien que una IA concreta estaba jugando al videojuego en marzo de 2025, y dónde se atascaba, hay una entrada de blog en LessWrong.com.

¿Tu pregunta no fue respondida aquí?Envía una pregunta.