Una forma de ver el problema de evitar que la IA se esfuerce tanto es que las empresas de IA seguirán pidiendo a sus IA que hagan más, que vayan más allá del tipo de trabajo que suele hacer una persona, hasta el tipo de trabajo que hace la humanidad. Pretenden pedirle a la IA que realice el tipo de hazañas que la humanidad puede hacer como especie.

Hay personas que se conforman con vivir y morir en un apartamento o una choza con su cónyuge y unos cuantos hijos, llamar a eso una vida bien vivida y decir, y a veces incluso pensar de verdad, que no pedían nada más.

Pero la humanidad pasó de una población de un millón de cazadores-recolectores a cien millones de agricultores y se está acercando a los diez mil millones de industrialistas.

Hay personas que se conforman con no entender las profundidades más remotas de las matemáticas o la física de por qué arden las estrellas. En cambio, se conforman con centrarse en comprender mejor a las personas que las rodean, en crear vínculos con amigos y familiares; dicen, y a veces incluso lo piensan de verdad, que son felices y no piden nada más. Pero también hubo personas que inventaron respuestas a lo que eran las estrellas, porque querían alguna respuesta, pero se conformaban con esas respuestas y no les gustaba que otros cuestionaran su teoría.

La humanidad siguió haciendo preguntas. La humanidad indagó hasta encontrar las inconsistencias. La humanidad construyó telescopios y microscopios y microscopios electrónicos y aceleradores de partículas. La humanidad se comportó, en una escala temporal de siglos, si no siempre de años, como si realmente quisiera saber todas las respuestas. La humanidad aprendió matemáticas y física y psicología y biología y ciencias de la computación, y en ningún momento decidió que ya había aprendido suficientes cosas y podía dejar de intentar aprender cosas nuevas.

Nos encanta esto, honestamente. Sabemos que a algunas personas no, pero a nosotros sí. Es un tema de controversia política, y lo último que necesita este asunto es más controversia política, pero no vamos a disimular y fingir que no tenemos las opiniones políticas que tenemos, incluso cuando ofrecemos dejar esas opiniones a un lado.

Pero el punto que estamos planteando aquí no es un juicio moral. Es un punto que es cierto y relevante incluso para las personas que no son fanáticas de lo que hizo la humanidad.

Es la observación de que la humanidad se esforzó al máximo. Y los logros más difíciles —los rascacielos, los reactores nucleares, las terapias génicas— no podrían haberse logrado solo con el tipo de cognición que es complaciente, que se aleja cuando se topa con una dificultad, porque superar un reto concreto nunca fue lo más importante en la vida.

No queremos dar la impresión de que estamos atribuyendo poderes mágicos a la inteligencia colectiva; no somos partidarios de la filosofía que afirma que los grupos que mantienen debates obtienen una magia cualitativamente superior que ninguna mente individual jamás podría derrotar. Podrías reunir a todos los seres humanos de la Tierra, sin computadoras, y dejar que se comunicaran y debatieran entre ellos durante semanas; al final, probablemente seguirían sin poder jugar al ajedrez colectivamente al nivel de una sola copia individual de Stockfish. Los seres humanos no se agregan de forma tan eficaz; el ancho de banda entre cerebros es demasiado bajo, y hay demasiados pensamientos que no se pueden expresar bien con palabras. Mil millones de seres humanos no pueden simplemente fusionarse en un supercerebro con un poder de cómputo mucho mayor que el de Stockfish y utilizarlo para jugar mejor al ajedrez. No existe ninguna ley de las ciencias de la computación que diga que si se divide una cantidad fija de cómputo en islas más pequeñas, el algoritmo resultante siempre será más eficaz; cien mil cerebros de ardilla no son un equivalente científico para un científico humano.

Probablemente ha habido grandes maestros de ajedrez en la historia de la humanidad que han sido mejores que todos los no maestros del mundo juntos.^* Albert Einstein es famoso hasta el día de hoy por haber logrado una hazaña de deducción increíblemente inusual a partir de muy poca información en el curso de la invención de la relatividad general, muy por delante de lo que habría sido experimentalmente obvio. Quizás no todo el resto del mundo podría haber igualado a Einstein, si se les hubiera pedido a todos juntos que debatieran y juzgaran su mejor teoría de la gravedad.

El individuo excepcional puede competir en igualdad de condiciones con el colectivo. Algunos seres humanos parecen haber realizado en su época trabajo a la escala de la humanidad.

Pero realmente no se nos ocurre nadie de ese club que tuviera fama de ser una persona muy relajada y tranquila, y menos aún en lo que respecta a la realización de su gran obra. Ellos fueron implacables como genios individuales, y así es como estuvieron a la altura de la humanidad.

Entre las personas que dan seguimiento a este tipo de cosas e intentan clasificar lo que no se puede clasificar, se sospecha ampliamente que el ser humano más inteligente de la historia fue John von Neumann. El premio Nobel de Física Enrico Fermi dijo de él: «Ese hombre me hace sentir que no sé nada de matemáticas». El gran matemático George Pólya dijo: «Le tenía miedo a von Neumann». Varios personajes famosos dejaron citas con un tema general: John von Neumann es para mí lo que yo soy para una persona normal. Además de convertirse en pionero de la física cuántica, la teoría de juegos, las computadoras digitales, los algoritmos, la estadística, la economía y, por supuesto, las matemáticas, John von Neumann también trabajó en el Proyecto Manhattan, seguido de la bomba de hidrógeno. Luego aprovechó eso para convertirse en el científico más eminente y confiable del Departamento de Defensa de los Estados Unidos, donde presionó con fuerza y éxito para que los Estados Unidos desarrollaran misiles nucleares intercontinentales antes que los soviéticos. Según él, esto se debía a que su visión del mundo prefería que los Estados Unidos triunfaran sobre el totalitarismo, ya fuera nazi o soviético.

John von Neumann se esforzó al máximo. También tenía su propia visión del mundo y no se limitó a seguir su camino y servir obedientemente a sus patrocinadores políticos. Sí, era un nerd que pasaba mucho tiempo pensando en matemáticas, ciencias, etc., pero no limitaba su mente a ámbitos puramente teóricos.

Si las empresas de IA consiguieran un experto que estuviera al nivel de los genios sub-Neumann —el tipo de genios que le tenían miedo a John von Neumann— y tan contento de servir a otros patrocinadores como un matemático genio relativamente dócil, estas celebrarían cualquier benchmark que alcanzaran. Y luego, seguirían avanzando.

Las empresas de IA no se conformarían con lavavajillas robóticos o programadores informáticos robóticos, aunque eso por sí solo les reportara mucho dinero. Tampoco se conformarían con genios promedio. Las empresas de IA seguirían pidiendo deseos a sus genios y pidiendo a sus optimizadores genios más poderosos, mucho más allá del punto en el que las IA ganan algo de dinero haciendo el tipo de trabajo que puede hacer un genio nerd y relajado.

Los ejecutivos de las empresas de IA dicen que quieren colonias en Marte, centrales de fusión nuclear y curas para el cáncer y el envejecimiento. Es posible que algunos de ellos quieran autonombrarse emperadores-dioses eternos de la humanidad, aunque es difícil saberlo desde fuera. Sin duda, algunos de ellos mienten sobre tener grandes sueños, tratando así de inspirar a los empleados o impresionar a los inversionistas, o haciéndose pasar por veteranos que realmente creen en ello. Aun así, eso deja a muchos empleados de estas empresas creyendo genuinamente en esas esperanzas (de eso estamos seguros); y los ejecutivos no van a detener a esos empleados cuando vayan más allá de las medallas de oro para obtener las de platino. Después de todo, si no lo hacen ellos, lo harán sus competidores.

Si, de alguna manera, las empresas de IA consiguen una IA del nivel de von Neumann que siga siendo obediente —y que no sea suficiente para diseñar una próxima generación mejorada de IA y así acabar con el mundo inmediatamente después—, entonces su siguiente paso será entrenar un modelo que piense mejor y se esfuerce más que John von Neumann. Si no lo hacen, al fin y al cabo, sus competidores lo harán.

En algún momento, la mente que genera el descenso de gradiente dejará de ser una herramienta para que la utilicen otras manos.

Notes