¿Es «inteligencia general» un concepto significativo? | Si alguien la crea, todos moriremos | If Anyone Builds It, Everyone Dies

¿Es «inteligencia general» un concepto significativo?

Sí.

El halcón peregrino puede lanzarse en picada a 386 km/h. Un cachalote puede sumergirse a kilómetros de profundidad bajo la superficie del océano. Un halcón se ahogaría en el mar y una ballena caería de golpe si intentara volar, pero de alguna manera los humanos hemos logrado volar más rápido y sumergirnos más profundo que cualquiera de estas criaturas dentro de cascarones metálicos de nuestro propio diseño.

Nuestro entorno ancestral no incluía las profundidades del océano, ni nuestros antepasados fueron seleccionados por su capacidad para volar. Logramos estas cosas y muchas otras, no mediante instintos especiales, sino gracias a la gran versatilidad de nuestras mentes.

De alguna manera, nuestros antepasados fueron seleccionados por ser «buenos resolviendo problemas», en sentido amplio, a pesar de que nuestros antepasados remotos rara vez se enfrentaban a desafíos de ingeniería más complicados que la construcción de una lanza.

¿Poseen los seres humanos una capacidad perfecta para resolver problemas? No, obviamente no. Los seres humanos no parecen poder aprender a jugar al ajedrez tan bien como las mejores IA ajedrecísticas, al menos dentro de los límites de tiempo del juego. Es demostrable que es posible alcanzar niveles superhumanos en el ajedrez, y los seres humanos no pueden alcanzar esos niveles sin ayuda. Nuestra inteligencia no es universal, es decir, no podemos aprender a hacer todo lo que es físicamente posible. Así que esta «generalidad» que tienen los humanos no se refiere a ser capaces de hacer todo lo que se puede hacer utilizando solo nuestro cerebro. Sin embargo, hay algo inmensamente más general en la capacidad de los humanos para aprender y resolver nuevos problemas, comparado con la capacidad de aprendizaje y resolución de problemas de una IA de ajedrez limitada como Deep Blue.

Pero la generalidad no es todo o nada. Admite grados.

Deep Blue no era muy general en su capacidad para dirigir nada más que un tablero de ajedrez. Podía encontrar jugadas ganadoras en el ajedrez, pero no podía conducir un coche hasta la tienda y comprar leche, y mucho menos descubrir las leyes de la gravedad y diseñar un cohete lunar. Deep Blue ni siquiera podía jugar a otros juegos de mesa, ya fueran juegos más sencillos como las damas o juegos más difíciles como el Go.

Por el contrario, consideremos AlphaGo, la IA que finalmente conquistó el Go. Los algoritmos detrás de AlphaGo también son capaces de jugar muy bien al ajedrez. El Go no cayó ante el primer algoritmo de ajedrez que encontró la humanidad, pero una variante del primer algoritmo de Go que encontró la humanidad fue capaz de batir los récords anteriores en ajedrez, y el mismo algoritmo también fue capaz de destacar jugando videojuegos de Atari. Estos nuevos algoritmos aún no podían ir a comprar leche a la tienda, pero eran más generales.

Resulta que algunos métodos de inteligencia son mucho más generales que otros.

Pero estamos aún más lejos de definir la «generalidad» que la «inteligencia».

Es fácil decir que los seres humanos son más generales que las moscas de la fruta. Pero ¿cómo funciona la generalidad?

No lo sabemos. Todavía no existe una teoría formal y madura sobre la «generalidad». Podemos gesticular y decir que una inteligencia es «más general» en la medida en que es capaz de predecir y dirigir en una gama más amplia de entornos, a pesar de una gama más amplia de retos complicados. Pero no podemos ofrecer una forma de cuantificar los entornos y los retos que convierta esto en una definición formal.

¿No te satisface esta respuesta? A nosotros tampoco. Deseamos fervientemente que la humanidad acumule una mejor comprensión de la inteligencia general antes de intentar construir máquinas con inteligencia general. Esto podría mejorar la grave situación técnica que describiremos en los capítulos 10 y 11.

Aunque no tenemos una descripción formal del fenómeno, podemos deducir algunos hechos sobre la generalidad observando el mundo que nos rodea.

Sabemos que los seres humanos no nacen con el conocimiento y la habilidad innatos para construir rascacielos y cohetes lunares, porque nuestros antepasados lejanos nunca tuvieron que trabajar con rascacielos y cohetes lunares de una manera que pudiera codificar ese conocimiento en nuestros genes. Más bien, esas habilidades provienen de nuestro poder para aprender sobre ámbitos que no nacimos entendiendo.

Para evaluar la generalidad, no preguntes cuánto sabe algo. Pregunta cuánto aprende.

En cierto sentido, los seres humanos son aprendices más poderosos que los ratones. No es que los ratones no puedan aprender en absoluto —por ejemplo, pueden aprender a navegar por un laberinto—. Pero los seres humanos pueden aprender cosas más complicadas y extrañas que los ratones, y podemos conectar nuestros conocimientos de forma más eficaz.

¿Cómo funciona esto exactamente? ¿Qué tenemos nosotros que no tengan los ratones?

Consideremos dos personas que están aprendiendo a navegar por una nueva ciudad después de mudarse.

Alice memoriza todas las rutas que necesita saber. Para ir de su casa a la ferretería, gira a la izquierda en la Tercera Avenida, a la izquierda en el segundo semáforo, y luego sigue dos manzanas más y gira a la derecha para llegar al estacionamiento. Memoriza por separado la ruta al supermercado y la ruta a su oficina.

Mientras tanto, Beth estudia e interioriza un mapa de la ciudad.

A Alice le puede ir bien en su vida cotidiana, pero si alguna vez tiene que conducir a un lugar nuevo sin indicaciones, se encuentra en apuros. Por el contrario, Beth tiene que dedicar más tiempo a planificar sus rutas, pero es mucho más flexible.

Alice puede ser más rápida en las rutas específicas que ha memorizado, pero Beth será mejor conduciendo por cualquier otro lugar. Beth también tendrá ventaja en otras tareas, como encontrar una ruta con menos tráfico en horas pico, o incluso diseñar el trazado de las calles de otra ciudad.

Parece que hay tipos de aprendizaje que se parecen menos a memorizar rutas de conducción y más a interiorizar un mapa. Parece que hay engranajes mentales que se pueden reutilizar y adaptar a muchos escenarios diferentes. Parece que hay tipos de pensamiento que van muy profundo.

Hablaremos más sobre este tema en el capítulo 3.

Notes

[1] no es universal: En 2007, Legg y Hutter propusieron una definición formal de «inteligencia universal».

¿Tu pregunta no fue respondida aquí?Envía una pregunta.