¿No seremos capaces de explotar la debilidad crítica de la IA?
No.
Imaginar que una superinteligencia debe tener algún defecto crítico como «falta de creatividad» o «incapacidad para comprender el amor» es lógica de Hollywood. Aunque puede ser un giro satisfactorio en la ficción, no existe un fenómeno análogo en las IA reales.
Véase también «¿No serán las máquinas fundamentalmente poco creativas o tendrán algún otro defecto fatal?» en las preguntas frecuentes del capítulo 1, y el debate ampliado sobre antropomorfismo y mecanomorfismo.