Pero ¿qué hay de los beneficios de una IA más inteligente que los humanos?
Precipitarse anula esos beneficios.
Somos optimistas sobre lo maravillosa que podría ser la superinteligencia si dirigiera al mundo hacia fines espléndidos. Personalmente, consideraríamos una gran tragedia que la humanidad nunca creara mentes más inteligentes que las humanas.
Pero la alineación de la superinteligencia no es gratuita. Si nos apresuramos a intentar cosechar esos beneficios, no obtendremos nada y, lo que es peor, menos que nada.
Yo (Yudkowsky) pasé varios años como aceleracionista, con la esperanza de crear la IA lo más rápido posible, antes de reconocer que la alineación de la IA no era gratuita. Y ambos autores soñamos con un maravilloso futuro transhumanista. Pero no llegaremos a él precipitándonos hacia la superinteligencia.
La elección no es entre apostar por los beneficios de la IA ahora (por pequeña que sea la posibilidad) o no acceder nunca a esos beneficios. La verdadera elección es entre avanzar imprudentemente y matar a todo el mundo, o tomarse el tiempo para hacer las cosas bien.*
«Ahora o nunca» es un falso dilema.
*Algunaspersonassostienen que debemos arriesgarnos ahora, por la oportunidad de salvar a los humanos moribundos de sus muertes naturales a causa del envejecimiento. Los cuerpos humanos son tremendamente complicados, pero con suficientes avances científicos, podríamos resolver muchas de las enfermedades que hoy damos por sentadas, como el cáncer, las cardiopatías y las diversas enfermedades relacionadas con el envejecimiento. Una IA más inteligente que los humanos podría llevarnos a ese punto mucho más rápido. Retrasar la superinteligencia literalmente cuesta vidas.