Probablemente.

Antes de los días de la bioquímica, podrías haberte preguntado: "¿Es siquiera posible entender esta fuerza vital que anima la carne? Incluso si está hecha de partes comprensibles, ¿por qué creerías que nuestras diminutas mentes podrían comprender lo que realmente está pasando ahí dentro?".

Pero sí había mucho que comprender; los científicos humanos simplemente aún no lo habían comprendido. Esta historia se ha repetido a lo largo de la historia de la ciencia.

Además, ya se han comprendido varias partes minúsculas de las redes neuronales artificiales. Resulta que una pequeña red neuronal realiza sumas de una manera interesante. Las IA a veces dicen que 9,11 es mayor que 9,9, y la gente ha descubierto que esto se debe a que están pensando en fechas en lugar de decimales.^*

Pero no podemos responder a preguntas mucho más complejas que esa. Nadie sabe exactamente por qué los LLM hacen los movimientos de ajedrez que hacen; nadie sabe con precisión qué los lleva a amenazar y chantajear a los periodistas de vez en cuando. Pero eso no significa que no haya nada que saber. Cuando las IA funcionan, lo hacen por razones; operan de forma demasiado coherente en demasiados ámbitos como para que sea solo casualidad. Esas razones están esperando a ser comprendidas.

Para más información sobre este tema, véase la discusión ampliada.