Probabilmente.

Prima che arrivasse la biochimica, ci si poteva chiedere: "È davvero possibile capire questa forza vitale che anima la carne? Anche se fosse fatta di parti comprensibili, perché dovremmo pensare che le nostre piccole menti possano capire cosa succede davvero lì dentro?"

Ma c'era molto da capire; gli scienziati umani semplicemente non lo avevano ancora capito. Questa storia si è ripetuta più volte nel corso della storia della scienza.

Inoltre, sono già state comprese diverse piccole parti delle reti neurali artificiali. Una piccola rete neurale fa le addizioni in un modo interessante. Le IA a volte dicono che 9,11 è maggiore di 9,9, e si è scoperto che questo succede perché pensano alle date piuttosto che ai decimali.^*

Ma non possiamo rispondere a domande molto più complesse di questa. Nessuno sa esattamente perché i modelli linguistici di grandi dimensioni facciano le mosse che fanno negli scacchi; nessuno sa precisamente cosa li spinga occasionalmente a minacciare e ricattare i giornalisti. Ma questo non significa che non ci sia nulla da capire. Quando le IA funzionano, lo fanno per dei motivi precisi; operano in modo troppo coerente in troppi ambiti perché si tratti solo di casualità. Questi motivi non sono ancora stati compresi.

Per saperne di più su questo argomento, si veda la discussione approfondita.