Dire che le IA sono "solo matematica" è come dire che gli esseri umani sono "solo biochimica."

A rigor di termini, un'IA non è "solo" matematica. È una macchina fisica le cui operazioni possono essere descritte matematicamente. Se questa macchina ha output che gli esseri umani possono leggere, o se ha output collegati a corpi robotici, allora è altrettanto capace di influenzare il mondo quanto lo siete voi (usando "solo" segnali bioelettrici nel vostro cervello).

Confrontate:

“Metodo 1 - Sopravvivere a un Vero Attacco di Tigre: Ricorda che le tigri sono semplicemente composte da atomi e varie reazioni biochimiche. L'aspetto e il comportamento della tigre possono essere spaventosi, ma non lasciare che la paura abbia la meglio su di te! Decenni di ricerca in biologia e fisica hanno dimostrato che le tigri sono in realtà composte da unità molto piccole chiamate atomi, così come da molte reazioni biochimiche come il ciclo di Krebs. Cose che inizialmente sembrano spaventose possono spesso rivelarsi innocue se esaminate più da vicino! Se la tigre tenta di mangiarti, ricorda che anche tu sei semplicemente composto da atomi, e la tigre sta semplicemente tentando di riorganizzarne alcuni per sé”.

Per maggiori informazioni su questo argomento, si veda il Capitolo 6.

Le operazioni matematiche possono rappresentare idee che non sono intuitivamente "matematiche".

La moltiplicazione, l'addizione, il calcolo dei massimi e altre operazioni matematiche possono essere usate per rappresentare cose che (da una prospettiva umana) non hanno nulla a che fare con la matematica.

È molto simile a come gli 1 e gli 0 che i computer si scambiano possono codificare le lettere. Gli 1 e gli 0 possono persino codificare cose come le immagini.

Gli 1 e gli 0 non si limitano a codificare immagini di cose che appaiono fredde, bluastre e meccaniche. Possono anche codificare immagini di bellissimi fiori illuminati dalla luce naturale. Gli 1 e gli 0 possono codificare cose belle, calde e delicate; possono codificare cose che esaltano lo spirito umano.

Sarebbe una fallacia di composizione dire che codificare un'immagine in 1 e 0 significa che l'immagine debba riguardare qualcosa di numerico o robotico. Sarebbe come dire che il cervello umano è fatto di neurotrasmettitori con nomi come "noradrenalina", e quindi gli esseri umani dovrebbero pensare solo alla chimica o essere capaci solo di ragionare sui neurotrasmettitori e sui siti di legame.

E anche se è straordinario che un'infinita varietà di cose possa essere costruita a partire da parti estremamente semplici, non c'è nulla di ineffabile o magico nel modo in cui funziona questo processo. Potreste studiare un po' e imparare come le immagini di fiori caldi e bellissimi possano essere codificate in 1 e 0, fino a quando non vi sembrerebbe nemmeno più sorprendente. Si confrontino gli errori del vitalismo.

A volte, sì, non conosciamo tutte le regole di come qualcosa è composto, e allora il passaggio da cose più semplici a cose complicate può sembrare molto misterioso e può effettivamente sorprenderci. Ma quando capiamo come una cosa complicata è fatta di parti più semplici, finisce per sembrare semplice come costruire un modellino di auto da corsa con i LEGO. Quando si riesce a capire come funziona, è tutto lì, nei mattoncini.

Lo stesso vale per le reti neurali. Non capiamo come il comportamento complesso delle moderne IA nasca da parti così semplici nel modo in cui capiamo i formati binari delle immagini e i LEGO. Non capiamo nemmeno la "psicologia" e la "neuroscienza" delle IA al pari di come capiamo come le molecole e le sostanze chimiche in un neurone umano si sommano per produrre il pensiero umano. Questo non significa che la conoscenza non ci sia o non possa esistere; significa solo che non ce l'abbiamo ancora.

Anche senza capire perché le IA funzionano, gli esseri umani possono addestrarle a giocare bene a scacchi. Con abbastanza parametri e operazioni aritmetiche, possiamo addestrare le IA al punto che iniziano a parlare come una persona. Si potrebbe dire che i complessi meccanismi che fanno parlare un'IA sono "solo matematica". Ma non è "matematica" come le domande di un quiz di matematica delle scuole superiori. È "solo matematica" nello stesso modo in cui un cervello umano completo è "solo chimica".

La semplice chimica è atterrata sulla Luna. Ha inventato le armi nucleari. Ha costruito il mondo come lo conosciamo oggi. Potrebbe essere difficile capire come le semplici sostanze chimiche del cervello umano abbiano fatto tutte queste cose, ma le hanno fatte lo stesso.

L'IA non è diversa. In qualche modo, anche se non capiamo completamente come funzionano internamente le IA, siamo riusciti a "far crescere" IA che possono scrivere poesie, comporre musica, giocare a scacchi, guidare automobili, piegare il bucato, fare revisioni della letteratura e scoprire nuovi farmaci.

Essere "fatte di matematica" non ha impedito alle IA di fare queste cose. Quindi perché dovrebbe impedire alle IA di fare un altro insieme di cose più complesse domani? Dove va tracciato il confine, e come si fa a sapere di tracciarlo lì? Le operazioni matematiche, a quanto pare, sono sufficienti per fare molto di più di quanto molte persone si aspettino.