Probablemente no.

Como se explica en el debate ampliado sobre Antropomorfismo y mecanomorfismo, por lo general no resulta útil imaginar que las IA poseen cualidades similares a las humanas solo por su inteligencia. De hecho, sería absurdo decir «Este LLM se parece a un humano, así que voy a proyectar en él todo tipo de características humanas, incluida la de tener deseos».

Sin embargo, hay que tener cuidado. Un modo de falla paralelo al pensar sobre las IA es lo que llamamos «mecanomorfismo»: pensar que, como una IA está hecha de partes mecánicas, debe tener los defectos típicos de las máquinas. Decir «Este LLM es una máquina, así que voy a proyectar en él todo tipo de características que asocio con las máquinas, como ser lógico e incomprensivo» es igual de infructuoso.

Para predecir el comportamiento de la IA, no debemos imaginar que estará motivada por emociones humanas, ni esperar que sea incapaz de encontrar soluciones creativas a los problemas. Como se explica en el libro, un mejor método es preguntarse qué comportamiento se requiere para que la IA tenga éxito.

Si estás jugando al ajedrez contra una IA y le tiendes una trampa a su reina con tu caballo como cebo, no te preguntes si se siente lo suficientemente cautelosa como para detectar la trampa; no te preguntes si la fría lógica la obliga a capturar al caballo a pesar de la trampa; pregúntate qué comportamiento de la IA es más ganador. Una IA hábil tenderá a mostrar un comportamiento ganador.

Y la razón por la que las IA actuarán como si desearan cosas es que el comportamiento de deseo y el comportamiento exitoso están vinculados.