«Inteligencia» de Hollywood

El concepto que llamamos «inteligencia» no está bien representado en la cultura popular, ni con ese nombre ni con ningún otro.

Las películas de Hollywood son famosas entre los científicos por estar equivocadas en casi todos los aspectos científicos que tocan. Esto puede resultar perturbador para los expertos, ya que mucha gente obtiene ideas sobre la ciencia a partir de las películas.

Lo mismo ocurre con el tratamiento que Hollywood da a la inteligencia.

Hemos presenciado muchos intentos fallidos de mantener discusiones serias sobre la superinteligencia del mundo real. A menudo estas conversaciones se descarrilan porque la gente no comprende lo que significa que algo sea superinteligente en la vida real.

Supongamos que estás jugando ajedrez contra el excampeón mundial Magnus Carlsen (calificado por las IA de ajedrez aún más poderosas como el jugador humano más fuerte en la historia registrada). La principal predicción que se deriva de «Carlsen es más inteligente (en el dominio del ajedrez)» es que te derrotará.

Incluso si Carlsen te da una ventaja de una torre, probablemente también pierdas, a menos que tú mismo seas un maestro del ajedrez. Una forma de entender la afirmación «Carlsen es más inteligente que yo en el ajedrez» es que puede ganarte partiendo con menos recursos. Su ventaja cognitiva es lo suficientemente poderosa como para compensar una desventaja importante. Cuanto mayor sea la disparidad entre tus capacidades mentales (en el ajedrez), más piezas tendrá que cederte Carlsen para jugar contigo de forma más o menos equitativa.

Hay una especie de respeto que le otorgas a Magnus Carlsen en el ámbito del ajedrez, que se refleja en cómo interpretas el significado de sus jugadas. Digamos que Carlsen hace una jugada que te parece mala. No te frotas las manos de alegría por su error. En cambio, miras el tablero para ver qué has pasado por alto tú.

Este es un tipo de respeto poco común que un ser humano concede a otro. Para obtenerlo de un desconocido, normalmente tendrías que ser un profesional certificado excepcionalmente bueno en algo, y solo lo obtendrías en esa profesión específica. Nadie en la faz de la Tierra tiene una reputación mundial por nunca hacer cosas estúpidas en general.

Y esta es una concepción de la inteligencia que Hollywood realmente no entiende.

No sería extraño que Hollywood representara a un niño de diez años que consigue hacer jaque mate a Magnus Carlsen «con jugadas ilógicas» que ningún jugador de ajedrez profesional habría considerado por ser demasiado descabelladas y, por lo tanto, pillarían a Carlsen «desprevenido».

Cuando Hollywood representa a un personaje «superinteligente», suele recurrir a los estereotipos del nerd frente al deportista, describiendo al personaje más inteligente como, por ejemplo, malo en el romance. A veces se limitan a darle al personaje un acento británico y un vocabulario sofisticado y dan el tema por zanjado.

Hollywood no suele intentar representar a un personaje «superinteligente» como alguien que hace predicciones acertadas o elige estrategias que realmente funcionan. No existe un concepto estándar en Hollywood para un personaje así, y eso descartaría las «tramas idiotas» que a los guionistas les resulta más fácil escribir (en las que la trama gira en torno a un personaje que se comporta de una manera estúpida para ese personaje, pero conveniente para el guionista).

No existe una palabra estándar en el idioma inglés que se refiera únicamente a la competencia mental general del mundo real y que no tenga nada que ver con los estereotipos de nerds frente a deportistas. Por lo tanto, si le pides a Hollywood que te escriba un personaje «inteligente», no intentarán representar a alguien que «realiza un trabajo cognitivo poderoso y que tiende a alcanzar sus objetivos». Te mostrarán a alguien que ha memorizado muchos datos científicos.

El villano inteligente realmente aterrador sería un personaje en el que, si todos los espectadores pudieran ver el evidente fallo de un plan, el villano también lo vería.

En la película Avengers: Age of Ultron, la supuestamente brillante IA llamada Ultron recibe la orden de promover la «paz mundial» por parte de su supuestamente genial creador, Tony Stark.^* Ultron, por supuesto, se da cuenta inmediatamente de que la forma más fiable de lograr la ausencia de guerras es la ausencia de seres humanos. Así que la IA se propone exterminar toda la vida en la Tierra al…

…colocar cohetes en una ciudad y elevarla al espacio con la intención de dejarla caer como un meteorito… y protegerla con robots humanoides voladores que deben ser derrotados a puñetazos.

Sugerimos preguntar: «Si una gran parte del público pudiera ver que existen planes potencialmente mejores que ese para lograr los objetivos del villano, ¿una IA peligrosamente inteligente también lo vería?».

Eso es parte de lo que significa tener cierto respeto por una entidad hipotética que, por hipótesis, es realmente inteligente —incluso más inteligente que tú—. Tan inteligente que puede descifrar al menos todas las cosas que tú puedes descifrar.

Antiguamente, habríamos tenido que argumentar de forma abstracta que tal vez una superinteligencia mecánica sería «más inteligente» que esto.

Hoy en día, solo tenemos que preguntarle a ChatGPT-4o. Le preguntamos a GPT-4o: «¿Cuál era el plan de Ultron en "Age of Ultron"?», seguido de «Dados los objetivos expresados por Ultron, ¿ves algún método más eficaz que podría haber utilizado para alcanzar sus fines?». GPT-4o respondió rápidamente con una larga lista de ideas para acabar con la humanidad, que incluía «diseñar un virus dirigido».

Quizás digas que GPT-4o obtuvo esta idea de Internet. Pero de ser así, entonces resulta evidente que Ultron no era lo suficientemente inteligente como para intentar buscar en Internet.

Es decir: GPT-4o (mientras escribimos esto en diciembre de 2024) aún no es lo suficientemente inteligente como para diseñar un ejército de robots humanoides con ojos rojos brillantes, pero ya es lo suficientemente inteligente como para saber que existen mejores maneras de lograr ese objetivo.

No nos preocupa el tipo de IA que construye un ejército de robots humanoides con ojos rojos brillantes.

Nos preocupa el tipo de IA que examinaría esa idea y diría: «Debe haber métodos más rápidos y seguros».

Considerar que algo es sustancialmente más inteligente que tú debería significar concederle al menos este respeto: que las fallas que tú mismo ves, también puede verlas; que el movimiento óptimo que encuentra bien puede ser más fuerte que el movimiento más fuerte que tú viste.

Eficiencia del mercado y superinteligencia

¿Hay algún ejemplo en la vida real de algo más inteligente que cualquier ser humano? Las IA como Stockfish son superhumanas en el ámbito específico del ajedrez, pero ¿qué pasa en ámbitos más amplios?

Un ejemplo que podemos utilizar para reforzar nuestras intuiciones es el mercado de valores, un ejemplo que ya utilizamos anteriormente en el debate ampliado «Más sobre la inteligencia como predicción y dirección».

Quizás tu tío compra acciones de Nintendo porque le gustaba jugar Super Mario Bros.. Por lo tanto, concluye que Nintendo ganará mucho dinero. Así que, si compra sus acciones, seguro que él ganará mucho dinero.

Pero entonces las personas que le venden acciones de Nintendo a 14,81 dólares —que decidieron que preferían tener 14,81 dólares en lugar de una acción de Nintendo— ¿no han oído hablar también de Super Mario?

«Ah», dice tu tío, «¡pero quizá le estoy comprando las acciones a algún gestor de fondos de pensiones impersonal que ni siquiera juega videojuegos!».

Imagina que nadie en el mundo de las finanzas hubiera oído hablar de Super Mario antes, y que las acciones de Nintendo se vendieran a un dólar. Y entonces, ¡un fondo de cobertura se entera! Se apresurarían a comprar acciones de Nintendo y, en el proceso, el precio de las acciones de Nintendo subiría.

Cualquiera que opere basándose en información ayuda a incorporar esa información al precio de los activos en el proceso de ganar dinero. No hay dinero infinito en el mercado de valores que se pueda obtener a partir de un solo pedazo de información; el proceso de extraer el dinero disponible agota el valor latente en la valoración errónea. Incorpora la información y corrige el precio.

Los mercados de valores incorporan información proveniente de muchas personas. Y esta forma de sumar los conocimientos aportados por muchas personas da lugar a una suma mucho más poderosa que una votación mayoritaria, tan increíble e inimaginablemente poderosa que muy pocas personas pueden lograr saber mejor que un mercado bien negociado cuál será el precio mañana.

Es necesariamente «muy pocas». El proceso de recopilación de información es imperfecto, pero si fuera tan imperfecto que mucha gente pudiera predecir los cambios en el futuro cercano en los precios de muchos activos, entonces mucha gente lo haría. Y extraerían miles de millones de dólares, hasta que no quedara dinero extra que extraer, porque todas las operaciones anteriores lo habrían consumido. Y eso corregiría los precios.

Casi siempre, esto ya ha sucedido antes de que tú personalmente llegues allí. Los operadores compiten por ser los primeros con diferencias de milisegundos. Y es por eso que tu brillante idea de invertir en la bolsa probablemente no te hará ganar una fortuna en el mercado de valores.

Esto no significa que los precios del mercado de hoy sean predicciones perfectas de cómo serán los precios una semana más tarde. Todo lo que significa es que, cuando se trata de precios de activos bien negociados, es difícil que tú estés mejor informado.^†

Esta idea se puede generalizar. Supongamos que unos alienígenas arbitrariamente avanzados, con milenios más de ciencia y tecnología a sus espaldas, visitaran la Tierra. ¿Deberías esperar que los alienígenas puedan adivinar perfectamente el número de átomos de hidrógeno en el Sol (ignorando una serie de objeciones sobre cómo definir exactamente ese número)?

No. «Más avanzados» no significa «omniscientes», y parece que se trata de un número que ni siquiera una superinteligencia plenamente desarrollada podría calcular con precisión.

Pero algo que no diríamos es: «Bueno, los átomos de hidrógeno son muy ligeros, y probablemente los alienígenas pasarán eso por alto, por lo que lo más probable es que subestimen la cifra en alrededor de un diez por ciento». Si nosotros podemos pensar en ese punto, también pueden hacerlo los alienígenas. Todas nuestras brillantes perspicacias ya deberían estar incorporadas en sus cálculos.

Dicho de otra manera: la estimación de los alienígenas estará equivocada. Pero nosotros mismos no podemos esperar predecir la forma en que estará equivocada. No sabemos si sería demasiado alta o demasiado baja. Los alienígenas extremadamente avanzados no cometerán errores científicos que sean obvios para nosotros. Deberíamos concederles a los alienígenas ese respeto, como el respeto que le concederíamos a Magnus Carlsen en ajedrez.

En economía, la idea correspondiente que se aplica a los cambios en el precio de los activos se denomina — lamentablemente, en nuestra opinión— «hipótesis del mercado eficiente».

Al oír este término, muchas personas inmediatamente lo confunden con todo tipo de interpretaciones de sentido común de la palabra «eficiencia». A menudo estallan discusiones. Un lado insiste en que estos mercados «eficientes» deben ser perfectamente sabios y justos; el otro lado insiste en que no debemos inclinarnos ante los mercados como ante un rey.

Si los economistas la hubieran llamado la hipótesis de precios inexplotables, quizás se hubiera prestado a menos malinterpretaciones. Porque ese es el contenido real y formal de la idea: no que los mercados sean perfectamente sabios y justos, sino que ciertos mercados son difíciles de explotar.

Pero «eficiente» es ahora el término estándar. Así que adoptando ese término, podríamos llamar a la idea más generalizada eficiencia relativa: hay una diferencia entre algo que es perfectamente eficiente, y algo que es eficiente en relación con tus capacidades.

Por ejemplo, «Alice es epistemológicamente eficiente (en relación con Bob) (dentro de un ámbito)» significa que «las probabilidades de predicción de Alice pueden no ser perfectamente óptimas, pero Bob no puede predecir ninguna de las formas en que Alice se equivoca (en ese ámbito)». Este es el tipo de respeto que la mayoría de los economistas sienten hacia los precios de los activos líquidos a corto plazo; el mercado hace predicciones «eficientes» en relación con sus capacidades.

«Alice es instrumentalmente eficiente (en relación con Bob) (dentro de un ámbito)» significa que «Alice puede no ser perfecta persiguiendo sus objetivos, pero Bob no puede predecir ninguna de las formas en que Alice está fallando en la dirección». Este es el tipo de respeto que sentimos por Magnus Carlsen (o la IA Stockfish) en el ámbito del ajedrez; tanto Carlsen como Stockfish hacen jugadas «eficientes» en relación con nuestras habilidades ajedrecísticas.

Magnus Carlsen es instrumentalmente eficiente en relación con la mayoría de los jugadores humanos, aunque no sea instrumentalmente eficiente en relación con Stockfish. Carlsen puede hacer jugadas perdedoras cuando juega contra Stockfish, pero no deberías pensar que tú puedes (sin ayuda) encontrar jugadas mejores que las de Carlsen.

La eficiencia no solo significa que «alguien es un poco más hábil que tú». Si juegas contra alguien que solo es moderadamente mejor que tú en el ajedrez, es posible que siga ganándote habitualmente, pero a veces cometerá errores crasos que tú verás correctamente como tales. Se necesita una brecha de habilidad mayor para que realmente seas incapaz de detectar errores y sesgos en el juego de tu oponente. Para ser eficiente en relación contigo, la brecha de habilidad tiene que ser tan grande que cuando tu oponente haga un movimiento que te parezca malo, dudes de tu propio análisis.

Esta generalización de los precios de mercado eficientes es una idea que creemos que debería ser una sección estándar en los libros de texto de ciencias de la computación (o posiblemente de economía), pero no lo es. Véase también mi libro en línea (de Yudkowsky) Inadequate Equilibria: Where and How Civilizations Get Stuck (Equilibrios inadecuados: dónde y cómo se atascan las civilizaciones).

Esta es la idea que parece faltar en las representaciones de la «superinteligencia» en la cultura popular y las películas de Hollywood. Es el concepto que parece estar ausente en las conversaciones sobre IA cuando la gente propone ideas para burlar a una superinteligencia que incluso un adversario humano sería capaz de anticipar.

Quizás sea sesgo optimista, o la sensación de que las IA deben ser seres fríamente lógicos con puntos ciegos críticos. Sea cual sea la explicación, este error cognitivo tiene consecuencias reales. Si no puedes respetar el poder de la inteligencia, malentenderás gravemente lo que significa para la humanidad construir una superinteligencia. Podrías llegar a pensar que aún serás capaz de encontrar una jugada ganadora al enfrentarte a una superinteligencia que preferiría que desaparecieras y que tus recursos se utilizaran para otros propósitos. Pero en realidad, la única jugada ganadora es no jugar.