¿No se verán limitadas las IA por su capacidad para diseñar y realizar experimentos? | Si alguien la crea, todos moriremos | If Anyone Builds It, Everyone Dies

¿No se verán limitadas las IA por su capacidad para diseñar y realizar experimentos?

La inteligencia permite aprender más de los experimentos y realizarlos de forma más rápida, informativa y paralelizada.

Una civilización de mentes motivadas que piensan mil veces más rápido que la humanidad no necesariamente sería capaz de generar datos de salida tecnológicos mil veces más rápido que los humanos.

Por analogía: si pasas tres horas haciendo la compra y dos de ellas las dedicas a ir y volver de la tienda a caballo, un coche diez veces más rápido puede acelerar el viaje, pero no por un factor de diez. Al final, la hora que pasas en la tienda acaba dominando el tiempo total.

Incluso una civilización llena de pensadores increíblemente inteligentes debe esperar algunas veces a que lleguen los resultados de los experimentos. Si tus pensamientos son lo suficientemente rápidos, es probable que el cuello de botella pase a ser la rapidez con la que puedes actuar en el mundo, la rapidez con la que puedes asimilar la información y el tiempo que tardan tus planes en desarrollarse.

Pero no es tan malo como podría hacerte creer la analogía de la tienda de comestibles, porque la capacidad de pensar contrarresta la necesidad de resultados experimentales:

  • A menudo, basta con pensar más y mejor para obviar la necesidad de una prueba, ya que uno se da cuenta de que las observaciones anteriores ya contienen la respuesta. Compárese, por ejemplo, la capacidad de las IA modernas para aprender a pilotar robots utilizando pura simulación.
  • A veces puedes pensar más hasta encontrar una prueba igualmente fiable pero más rápida.
  • A veces es posible realizar muchas pruebas más rápidas, aunque menos fiables, que pueden ejecutarse repetidamente en paralelo para obtener resultados de fiabilidad similar a mayor velocidad.
  • A veces se pueden realizar muchas pruebas complicadas a la vez, lo que genera datos complejos y difíciles de interpretar; esto representa una contrapartida aceptable si la cognición necesaria para descifrarlos es menos costosa (desde la perspectiva de una mente extremadamente rápida) que realizar múltiples pruebas.
  • A veces puedes encontrar una forma de construir otros dispositivos que realicen los experimentos mucho más rápido. Por ejemplo, en lugar de enviar varias solicitudes a un laboratorio biológico para que sinteticen medicamentos, ¿puedes encontrar una forma de enviar una solicitud que dé como resultado la síntesis de una sola bacteria que contenga el código genético para producir todos los medicamentos que deseas sintetizar? Del mismo modo, ¿puedes crear una bacteria que sea sensible a las señales de radio y que responda rápidamente a las instrucciones de una IA rápida —mucho más rápido que los exasperantemente lentos humanos que van y vienen siguiendo tus instrucciones—?
  • Y, a veces, simplemente puedes considerar tus diez mejores conjeturas, averiguar qué harías en cada uno de esos casos, construir un dispositivo complicado que funcione independientemente de cómo sea la realidad y saltarte las pruebas por completo.

Una civilización llena de copias de Steve Jobs, Marie Curie, John von Neumann y algunos de los mejores trabajadores y programadores del mundo —si estos operasen 10 000 veces más rápido que nosotros— se daría cuenta de que el principal cuello de botella es la espera de los resultados experimentales, y podría trabajar en ese cuello de botella para reducirlo.

La historia del Proyecto Genoma Humano es un buen ejemplo de lo que ocurre cuando un grupo de personas inteligentes identifica y trabaja continuamente en los cuellos de botella de un proyecto de investigación masivo. El proyecto, que se esperaba que durara quince años y costara 3000 millones de dólares, finalizó dos años antes de lo previsto y 300 millones por debajo del presupuesto; la mayor parte del genoma se mapeó en los dos últimos años utilizando métodos y equipos mejorados.

Al igual que esto es válido para los seres humanos, también lo es para la IA. Un razonador inteligente no tiene por qué quedarse de brazos cruzados mientras espera durante años subjetivos a que las lentas pruebas se arrastren hasta su conclusión. Un razonador superhumano considera vías alternativas y es experto en encontrarlas: en eso consiste la inteligencia.

Para obtener una pequeña evidencia práctica al respecto, consideremos el caso de los seres humanos que realizan experimentos. Un buen caso de estudio aquí es el del software frente a las sondas espaciales. Realizar cambios en un producto de software es barato y rápido, y los ingenieros de software tienden a experimentar constantemente, a producir software que aún no funciona del todo para luego corregir sus fallos más importantes. Por el contrario, la experimentación es muy costosa en las sondas espaciales, por lo que los seres humanos dedican mucho tiempo a perfeccionar la sonda espacial y a embutir en ella tantos experimentos como les es posible. Se esfuerzan mucho por dotar a las sondas espaciales de maquinaria experimental general que pueda controlarse a distancia, de modo que, si se les ocurre una nueva idea para un experimento, no tengan que inventar y lanzar una nave espacial completamente nueva.

Y, por encima de todo, un razonador lo bastante inteligente también tiene la opción de simplemente descubrir cómo es la realidad sin necesitar tantísimos experimentos. A veces, los datos que ya tienes son suficientes, si eres lo suficientemente inteligente como para interpretarlos.

Como caso de estudio: la teoría de la relatividad general de Einstein tardó ocho años en ser contrastada empíricamente con nuevos datos. La prueba fue realizada por Frank Watson Dyson y Arthur Stanley Eddington, quienes fotografiaron las estrellas detrás del sol durante un eclipse solar total y midieron el grado en que la luz se curvaba alrededor del sol; descubrieron que coincidía exactamente con la teoría de Einstein.

Pero esa espera de ocho años no impidió ningún progreso científico real.

Eclipse solar total proyectado contra la constelación de Tauro. Fuente de la imagen:Wikipedia

Una de las razones es que la teoría de Einstein era claramente correcta: ya había sido validada con datos como el movimiento del perihelio de Mercurio, que la teoría de Newton había predicho de forma inexacta y la de Einstein, con precisión. Los científicos no consideraron esta predicción como un acierto porque los datos se habían recopilado antes de que Einstein planteara su teoría, y querían validar las predicciones que su teoría hacía antes de ver los datos. Pero este es el tipo de muleta que necesita una civilización cuando tiene graves problemas con el sesgo retrospectivo, el sesgo de confirmación y científicos que hacen trampa para exagerar la evidencia de sus hipótesis. Ninguna de estas características es necesaria para un buen razonamiento. De hecho, los pensadores atentos pudieron determinar si la teoría de Einstein era correcta mucho antes del experimento de Eddington, utilizando la evidencia de la que ya disponían.

Además, existían métodos más rápidos para poner a prueba la teoría —como construir telescopios y observar los efectos de los agujeros negros, tal y como predecía la teoría de Einstein—, algo que presumiblemente una civilización lo suficientemente competente y de pensamiento rápido podría haber hecho en menos de ocho años. O si ya se dispusiera de capacidad de vuelo espacial, se podrían comprobar los relojes de los satélites en menos de un día. Suponer que la teoría de Einstein requería ocho años para ser puesta a prueba sería subestimar radicalmente el poder de la inteligencia.

Cuando la humanidad finalmente se dispuso a construir satélites GPS, estos se programaron con dos relojes diferentes: uno que utilizaba la teoría de Einstein y otro que no. Fue una elección extraña, dado lo bien confirmada que estaba la teoría de Einstein en ese momento. Pero esta elección subraya que, en muchos casos, una civilización puede simplemente tomar ambas opciones cuando no está segura de una teoría. También pone de relieve que, cuando los experimentos y los fracasos son costosos (como en el caso de los satélites), a menudo es mucho más barato construir cosas de manera que no dependan demasiado de ninguna teoría en particular.

Y, como señalamos en el libro, Einstein (en comparación con Newton, Kepler y Brahe antes que él) es también un ejemplo de cómo las personas inteligentes pueden deducir mucho más de lo que cabría esperar a partir de observaciones muy limitadas. Einstein es impresionante no solo por haber descubierto la teoría de la relatividad, sino por haberlo hecho a partir de tan pocos datos.

Así que, aunque la necesidad de datos experimentales puede limitar la rapidez con la que la IA puede realizar diversas acciones, es probable que esta limitación sea mucho más débil de lo que podría parecer intuitivamente.

¿Tu pregunta no fue respondida aquí?Envía una pregunta.