L'"intelligenza generale" è un concetto significativo? | Prima che sia troppo tardi: perché la superintelligenza artificiale è una minaccia per l’uminità | If Anyone Builds It, Everyone Dies

L'"intelligenza generale" è un concetto significativo?

Sì.

Il falco pellegrino può tuffarsi in picchiata a 386 chilometri all'ora. Un capodoglio può immergersi a chilometri di profondità nell'oceano. Un falco annegherebbe in mare e una balena si schianterebbe se provasse a volare, ma in qualche modo noi umani siamo riusciti a volare più veloci e a immergerci più in profondità di entrambe queste creature, all'interno di gusci metallici di nostra progettazione.

Le profondità oceaniche non facevano parte del nostro ambiente ancestrale, né i nostri antenati erano stati selezionati in base alla loro capacità di volare. Abbiamo raggiunto questi e molti altri traguardi non grazie a istinti speciali, ma grazie alla pura versatilità delle nostre menti.

I nostri antenati sono stati, in qualche modo, selezionati per essere bravi a risolvere i problemi, in senso lato, anche se raramente hanno dovuto affrontare prove ingegneristiche più complicate della costruzione di una lancia.

Gli esseri umani hanno una capacità perfetta di risolvere i problemi? No, ovviamente no. Gli esseri umani non sembrano in grado di imparare a giocare a scacchi bene come le migliori IA, almeno entro i limiti di tempo del gioco. È dimostrabilmente possibile raggiungere livelli superumani nelle prestazioni scacchistiche, ma gli esseri umani non possono arrivare a quei livelli senza alcun aiuto. La nostra intelligenza non è universale, cioè non possiamo imparare a fare tutto ciò che è fisicamente possibile. Quindi questa "generalità" che gli esseri umani possiedono non consiste nell'essere in grado di fare tutto ciò che è fattibile usando solo il nostro cervello. Tuttavia, c'è qualcosa di immensamente più generale nella capacità umana di apprendere e risolvere nuovi problemi, rispetto alla capacità di apprendimento e di risoluzione dei problemi di un'IA scacchistica limitata come Deep Blue.

Ma la generalità non è una questione di "o tutto o niente". Può presentarsi in diversi gradi.

Deep Blue non era molto generico nella sua capacità di dirigere qualcosa di diverso da una scacchiera. Era in grado di trovare mosse vincenti negli scacchi, ma non poteva guidare un'auto fino al negozio per comprare il latte, figuriamoci scoprire le leggi della gravità e progettare un razzo lunare. Deep Blue non era nemmeno in grado di giocare ad altri giochi da tavolo, che fossero giochi più semplici come la dama o giochi più difficili come il Go.

Invece, si pensi ad AlphaGo, l'intelligenza artificiale che alla fine ha battuto il Go. Gli algoritmi dietro AlphaGo sono anche in grado di giocare benissimo a scacchi. Il Go non è stato battuto dal primo algoritmo di scacchi scoperto dall'umanità, ma una variante del primo algoritmo di Go scoperto dall'umanità è stata in grado di battere i precedenti record negli scacchi, e lo stesso algoritmo è stato anche in grado di eccellere nei videogiochi Atari. Questi nuovi algoritmi non erano ancora in grado di andare a comprare il latte al negozio, intendiamoci, ma erano più generici.

A quanto pare, alcuni metodi di intelligenza sono molto più generici di altri.

Ma siamo ancora più lontani dal definire la "generalità" che l'"intelligenza".

È facile dire che gli esseri umani sono più generali dei moscerini della frutta. Ma come funziona la generalità?

Non lo sappiamo. Non esiste ancora una teoria formale matura della "generalità". Possiamo gesticolare e dire che un'intelligenza è "più generale" nella misura in cui è capace di prevedere e avere il controllo in una gamma più ampia di ambienti, nonostante una gamma più ampia di sfide complicate. Ma non possiamo fornirvi un modo per quantificare sfide e ambienti che renda questa una definizione formale.

Non è insoddisfacente questo? Anche noi siamo insoddisfatti. Vorremmo davvero tanto che l'umanità accumulasse una migliore comprensione dell'intelligenza generale prima di tentare di costruire macchine generalmente intelligenti. Questo potrebbe migliorare la terribile situazione tecnica che descriveremo nei Capitoli 10 e 11.

Sebbene non abbiamo una descrizione formale del fenomeno, possiamo comunque dedurre alcuni fatti sulla generalità osservando il mondo intorno a noi.

Sappiamo che gli esseri umani non vengono al mondo con la conoscenza e l'abilità innate per costruire grattacieli e razzi lunari, perché i nostri antenati remoti non hanno mai dovuto lavorare con grattacieli e razzi lunari in un modo che potesse codificare quella conoscenza nei nostri geni. Piuttosto, quelle abilità derivano dal nostro potere di apprendere in ambiti che non comprendiamo fin dalla nascita.

Per valutare la generalità, non chiediamoci quanto qualcosa sa. Chiediamoci quanto impara.

In un certo senso, gli esseri umani sono studenti più bravi rispetto ai topi. Non è che i topi non possano imparare nulla: ad esempio, possono imparare a orientarsi in un labirinto. Ma gli esseri umani possono imparare cose più complicate e strane rispetto ai topi e possono collegare le loro conoscenze in modo più efficace.

Come funziona esattamente? Cosa abbiamo noi che i topi non hanno?

Si pensi a due persone che stanno imparando a orientarsi in una nuova città dopo essersi trasferite.

Alice memorizza tutti i percorsi che le servono. Per andare da casa sua al negozio di ferramenta, gira a sinistra sulla Terza Strada, poi a sinistra al secondo semaforo, prosegue per altri due isolati e gira a destra nel parcheggio. Memorizza separatamente il percorso per andare al supermercato e quello per andare al suo ufficio.

Nel frattempo, Beth studia e interiorizza una mappa della città.

Alice se la cava bene nella sua vita di tutti i giorni, ma se deve guidare in un posto nuovo senza indicazioni, è nei guai. Al contrario, Beth deve passare più tempo a pianificare i suoi percorsi, ma è molto più flessibile.

Alice può anche essere più veloce sui percorsi specifici che ha memorizzato, ma Beth sarà più brava a guidare in qualsiasi altro luogo. Beth avrà anche un vantaggio in altri compiti, come trovare un percorso che minimizzi il traffico nelle ore di punta o persino progettare la viabilità di un'altra città.

Sembra che ci siano tipi di apprendimento che assomigliano meno alla memorizzazione di percorsi stradali e più all'interiorizzazione di una mappa. Sembra che ci siano meccanismi mentali che possono essere riutilizzati e adattati a molti scenari diversi. Sembra che ci siano tipi di pensiero che vanno in profondità.

Approfondiremo questo argomento nel capitolo 3.

Notes

[1] non è universale: Una definizione formale di "intelligenza universale" è stata proposta da Legg e Hutter nel 2007.

La tua domanda non ha trovato risposta qui?Invia una domanda.