¿Qué les hace pensar que las personas pueden construir una IA superhumana cuando ni siquiera entienden la inteligencia?
El progreso pasado en IA no ha requerido mucha comprensión de la inteligencia.
Como se explica en el capítulo 2, el campo de la IA ha logrado sus recientes hazañas empleando el descenso de gradiente, un proceso que no requiere que los humanos comprendan la inteligencia. Los humanos hemos llegado bastante lejos sin necesidad de comprenderla.
La selección natural no necesitaba «comprender» la inteligencia.
La evolución fue perfectamente capaz de producir la inteligencia humana sin que la selección natural comprendiera jamás la inteligencia. La comprensión puede ser útil o no en la práctica, pero la idea de que necesitamos comprenderla para producirla no tiene fundamento.