“Intelligenza” da Hollywood

Il concetto che chiamiamo "intelligenza" non è ben rappresentato nella cultura popolare, né con questo nome né con altri.

Tra gli scienziati, i film di Hollywood hanno fama di sbagliare su quasi ogni dettaglio scientifico che trattano. Questo può essere fastidioso per gli esperti perché molte persone effettivamente traggono le loro idee sulla scienza dai film.

Lo stesso vale per come Hollywood tratta l'intelligenza.

Si sono visti molti tentativi falliti di affrontare seriamente il tema della superintelligenza reale. Spesso queste conversazioni deragliano perché le persone non capiscono cosa significhi per qualcosa essere superintelligente, concretamente.

Supponiamo che stiate giocando a scacchi contro l'ex campione del mondo Magnus Carlsen (valutato da IA scacchistiche ancora più forti come il giocatore umano più forte della storia documentata). La previsione principale che deriva dal fatto che "Carlsen è più intelligente (nel dominio degli scacchi)" è che vi sconfiggerà.

Anche se Carlsen vi concede una torre, probabilmente perdereste comunque, a meno che non siate dei maestri di scacchi. Un modo per capire l'affermazione "Carlsen è più bravo di me a scacchi" è che lui può vincere la partita contro di voi partendo con meno risorse. Il suo vantaggio cognitivo è abbastanza potente da compensare uno svantaggio materiale. Maggiore è la disparità tra le vostre capacità mentali e le sue (negli scacchi), più pezzi Carlsen deve concedervi per giocare in modo più o meno equilibrato.

C'è una sorta di rispetto che portate a Magnus Carlsen nel campo degli scacchi, che si vede nel modo in cui interpretate il significato delle sue mosse. Supponiamo che Carlsen faccia una mossa che vi sembra sbagliata. Non vi sfregate le mani dalla gioia per il suo errore. Al contrario, guardate la scacchiera per vedere cosa non avete notato voi.

Questo è un tipo di rispetto raro che una persona può portare a un'altra! Per riceverlo da uno sconosciuto, di solito bisogna essere dei professionisti certificati eccezionalmente bravi in qualcosa, e lo otterreste solo per quella professione. Nessuno al mondo ha la fama di non fare mai cose stupide in generale.

E questo è un concetto di intelligenza che Hollywood davvero non capisce.

Non sarebbe fuori luogo per Hollywood mostrare un ragazzino di dieci anni che riesce a battere Magnus Carlsen a scacchi facendo "mosse illogiche" che nessun giocatore professionista avrebbe mai considerato perché troppo assurde, cogliendo così Carlsen "alla sprovvista".

Quando Hollywood rappresenta un personaggio "super intelligente", di solito usa gli stereotipi del nerd contro l'atleta, facendo sembrare il personaggio più intelligente, per esempio, negato in amore. A volte basta dare al personaggio un accento britannico e un vocabolario sofisticato e il gioco è fatto.

Hollywood di solito non cerca di mostrare un personaggio "super intelligente" che fa previsioni accurate o sceglie strategie che funzionano davvero. Non esiste un concetto standard a Hollywood per un personaggio del genere, e questo escluderebbe le "trame idiote" che gli sceneggiatori trovano più facili da scrivere (dove la trama gira intorno a un personaggio che si comporta in modo stupido per quel personaggio ma comodo per lo sceneggiatore).

Non c'è una parola standard in italiano che si riferisca solo alla competenza mentale generale nel mondo reale e non agli stereotipi del nerd contro l'atleta. Quindi, se si chiede a Hollywood di creare un personaggio "intelligente", gli sceneggiatori non cercheranno di mostrare "una persona che fa un importante lavoro cognitivo e tende a raggiungere davvero i suoi obiettivi". Mostreranno invece qualcuno che ha memorizzato una gran quantità di nozioni scientifiche.

Il cattivo intelligente davvero spaventoso sarebbe un personaggio in cui, se tutti gli spettatori riuscissero a vedere il difetto evidente in un piano, anche il cattivo lo vedrebbe.

Nel film Avengers: Age of Ultron, un'intelligenza artificiale presumibilmente brillante chiamata Ultron riceve la direttiva di promuovere la "pace nel mondo" dal suo presumibilmente geniale creatore, Tony Stark.^* Ultron, ovviamente, capisce subito che l'assenza di guerre può essere garantita in modo più affidabile dall'assenza degli esseri umani. Quindi l'IA decide di sterminare tutta la vita sulla Terra...

...attaccando dei razzi a una città e sollevandola nello spazio con l'intenzione di farla cadere come una meteora... e proteggendola con robot umanoidi volanti che devono essere sconfitti prendendoli a pugni.

Suggeriamo di chiedersi: "Se gran parte del pubblico potesse capire che esistono piani potenzialmente migliori per raggiungere gli obiettivi del cattivo, anche un'intelligenza artificiale pericolosamente astuta lo capirebbe?"

Questo fa parte di quello che vuol dire avere un po' di rispetto per un'entità ipotetica che, per ipotesi, è davvero intelligente, persino più intelligente di voi, così intelligente da poter capire almeno tutte le cose che potete capire voi.

In passato, avremmo dovuto discutere in modo astratto del fatto che forse una superintelligenza artificiale sarebbe stata "più intelligente" di così.

Oggi possiamo semplicemente chiedere a ChatGPT-4o. Abbiamo chiesto a GPT-4o: "Qual era il piano di Ultron in Age of Ultron?" e poi: "Considerando gli obiettivi dichiarati di Ultron, pensi che ci fossero metodi più efficaci che avrebbe potuto usare per raggiungere i suoi scopi?" GPT-4o ha subito risposto con una lunga lista di idee per distruggere l'umanità, tra cui "Creare un virus mirato".

Forse penserete che GPT-4o abbia preso questa idea da Internet. Beh, se è così, Ultron evidentemente non era abbastanza intelligente da provare a leggere Internet.

Il che significa che GPT-4o (mentre scriviamo questo articolo nel dicembre del 2024) non è ancora abbastanza intelligente da progettare un esercito di robot umanoidi con occhi rossi luminosi, ma è già abbastanza intelligente da saper fare di meglio.

Non ci preoccupa il tipo di IA che costruisce un esercito di robot umanoidi con occhi rossi luminosi.

Ci preoccupa quel tipo di IA che considererebbe quell'idea e direbbe: "Ci dovrebbero essere metodi più veloci e più affidabili".

Ritenere qualcosa sostanzialmente più intelligente di voi dovrebbe significare riconoscerle almeno questo rispetto: che i difetti che vedete voi, potrebbe vederli anche lei; che la mossa ottimale che trova potrebbe essere più forte della mossa più forte che avete visto voi.

Efficienza di mercato e superintelligenza

Ci sono esempi reali di qualcosa di più intelligente di qualsiasi essere umano? Le IA come Stockfish sono superumane nel campo ristretto degli scacchi, ma cosa succede in campi più ampi?

Un esempio che possiamo usare per rafforzare le nostre intuizioni qui è il mercato azionario, un esempio che abbiamo già usato nella discussione approfondita "Altre informazioni sull'intelligenza come previsione e direzione".

Un vostro ipotetico zio compra azioni Nintendo perché gli piace giocare a Super Mario Bros.. Quindi, conclude che Nintendo farà un sacco di soldi. Quindi se compra le loro azioni, sicuramente lui farà un sacco di soldi.

Ma le persone che gli vendono le azioni Nintendo a 12,70 euro — che hanno deciso di preferire 12,70 euro a un'azione Nintendo — non hanno sentito parlare di Super Mario anche loro?

"Ah", dice vostro zio, "Ma forse sto comprando le azioni da qualche gestore di fondi pensione impersonale che non gioca nemmeno ai videogiochi!"

Immaginate che nessuno nel mondo della finanza abbia mai sentito parlare di Super Mario e che le azioni Nintendo vengano vendute a un euro. E poi, immaginate che un fondo speculativo lo scopra! Si precipiterebbe ad acquistare azioni Nintendo e, a causa di ciò, il prezzo delle azioni Nintendo salirebbe.

Chiunque faccia trading basandosi sulle proprie conoscenze contribuisce a incorporare tali conoscenze nel prezzo degli asset mentre realizza un profitto. Non c'è una quantità infinita di denaro da guadagnare in borsa da una singola informazione; il processo di estrazione del denaro disponibile esaurisce il valore latente nel prezzo errato. Incorpora le informazioni, correggendo il prezzo.

I mercati azionari incorporano informazioni da molte persone diverse. E questo modo di sommare le conoscenze fornite da molte persone porta a una somma molto più potente di un voto a maggioranza — così incredibilmente, incredibilmente potente che pochissime persone riescono a sapere meglio di un mercato ben negoziato quale sarà il prezzo di domani!

Si tratta necessariamente di "pochissime persone". Il processo di raccolta delle informazioni è imperfetto, ma se fosse così imperfetto da consentire a molte persone di prevedere i cambiamenti nel futuro prossimo dei prezzi di molti asset, allora molte persone lo farebbero. E guadagnerebbero miliardi di euro, fino a quando non ci sarebbero più soldi extra da ricavare, perché tutte le negoziazioni precedenti li avrebbero consumati. E questo correggerebbe i prezzi.

Quasi sempre, questo è già successo prima che voi personalmente ci arriviate. I trader fanno a gara per farlo per primi, letteralmente su millisecondi. Ed è per questo che la vostra brillante idea di trading probabilmente non vi farà guadagnare una fortuna in borsa.

Questo non vuol dire che i prezzi di mercato di oggi siano perfette previsioni di come saranno i prezzi fra una settimana. Significa solo che, quando si tratta di prezzi di asset ben negoziati, è difficile per voi saperne di più.^†

Questa idea può essere generalizzata. Supponiamo che alieni arbitrariamente avanzati, con millenni di scienza e tecnologia alle spalle, visitino la Terra. Vi aspettereste che gli alieni possano indovinare perfettamente il numero di atomi di idrogeno nel Sole (tralasciando alcune discussioni su come definire esattamente quel numero)?

No. "Più avanzati" non vuol dire "onniscienti", e questo sembra un numero che nemmeno una superintelligenza completa potrebbe calcolare con precisione.

Ma una cosa che non diremmo è: "Beh, gli atomi di idrogeno sono molto leggeri, in realtà, e probabilmente gli alieni lo trascureranno, quindi probabilmente sottostimeranno il numero di circa il dieci per cento". Se noi riusciamo pensare a questo dettaglio, anche gli alieni ci riescono. Tutte le nostre brillanti intuizioni dovrebbero già essere incorporate nel loro calcolo.

In altre parole: la stima degli alieni sarà sbagliata. Ma noi non possiamo aspettarci di prevedere in che modo la stima degli alieni sarà sbagliata. Non sappiamo se sarà troppo alta o troppo bassa. Gli alieni estremamente avanzati non faranno errori scientifici che sono ovvi per noi. Dovremmo riconoscere agli alieni questo rispetto — come il rispetto che porteremmo a Magnus Carlsen negli scacchi.

In economia, l'idea corrispondente che si applica alle variazioni dei prezzi degli asset è — purtroppo, secondo la nostra opinione — chiamata "ipotesi di efficienza dei mercati".

Quando sentono questo termine, molte persone lo confondono subito con tutte le interpretazioni comuni della parola "efficienza". Spesso si scatenano discussioni. Una parte insiste che questi mercati "efficienti" devono essere perfettamente saggi e giusti; l'altra parte insiste che non dovremmo inchinarci ai mercati come a un re.

Se gli economisti l'avessero chiamata invece "ipotesi dei prezzi non sfruttabili", forse la gente l'avrebbe fraintesa meno. Perché questo è il contenuto effettivo e formale dell'idea: non che i mercati siano perfettamente saggi e giusti, ma che certi mercati siano difficili da sfruttare.

Ma "efficiente" è ormai diventato il termine standard. Quindi, accettando questo termine e seguendolo, potremmo chiamare l'idea più generale efficienza relativa: c'è una differenza tra qualcosa che è perfettamente efficiente e qualcosa che è efficiente rispetto alle vostre capacità.

Per esempio, "Alice è epistemicamente efficiente (rispetto a Bob) (in un dominio)" vuol dire "le probabilità di previsione di Alice potrebbero non essere perfettamente ottimali, ma Bob non può prevedere in alcun modo gli errori di Alice (in quel dominio)". Questo è il tipo di rispetto che la maggior parte degli economisti nutre nei confronti dei prezzi delle attività liquide a breve termine; il mercato fa previsioni "efficienti" rispetto alle loro capacità.

"Alice è strumentalmente efficiente (rispetto a Bob) (in un dominio)" vuol dire "Alice potrebbe non essere perfetta nel raggiungere i suoi obiettivi, ma Bob non può prevedere in che modo Alice stia fallendo nello scegliere il suo percorso". Questo è il tipo di rispetto che abbiamo per Magnus Carlsen (o l'IA Stockfish) nel campo degli scacchi; sia Carlsen che Stockfish fanno mosse "efficienti" rispetto alle nostre abilità scacchistiche.

Magnus Carlsen è strumentalmente efficiente rispetto alla maggior parte dei giocatori umani, anche se non lo è rispetto a Stockfish. Carlsen può fare mosse sbagliate quando gioca contro Stockfish, ma non dovreste pensare di poter trovare (senza aiuto) mosse migliori che Carlsen avrebbe dovuto fare al suo posto.

L'efficienza non significa solo "qualcuno è un po' più bravo di voi". Se giocate contro qualcuno che è solo moderatamente più bravo di voi a scacchi, di solito vincerà comunque contro di voi, ma a volte commetterà errori che voi riconoscerete correttamente come tali. Ci vuole un divario di abilità maggiore di questo per essere del tutto incapaci di individuare errori e valutazioni sbagliate nel gioco dell'avversario. Per essere efficienti rispetto a voi, il divario di abilità deve essere così grande che, quando il vostro avversario fa una mossa che ritenete sbagliata, dubitate invece della tua vostra analisi.

Questa generalizzazione dei prezzi di mercato efficienti è un'idea che secondo noi dovrebbe essere una sezione standard nei libri di testo di informatica (o forse di economia), ma non lo è. Si veda anche il mio libro (di Yudkowsky) online Inadequate Equilibria: Where and How Civilizations Get Stuck.

Questa è l'idea che sembra mancare nelle rappresentazioni della "superintelligenza" nella cultura popolare e nei film di Hollywood. È il concetto che sembra assente nelle conversazioni sull'IA quando le persone elaborano idee per superare in astuzia una superintelligenza che anche un avversario umano sarebbe in grado di prevedere.

Forse si tratta di bias di ottimismo, o forse della sensazione che le IA debbano essere entità fredde e logiche con punti ciechi critici. Qualunque sia la spiegazione, questo bias cognitivo ha conseguenze reali. Se non si riesce a rispettare il potere dell'intelligenza, si fraintenderà gravemente cosa significa per l'umanità costruire una superintelligenza. Si potrebbe pensare di essere ancora in grado di trovare una mossa vincente quando ci si troverà di fronte a una superintelligenza che preferirebbe vederci sparire e riutilizzare le nostre risorse. Ma in realtà, l'unica mossa vincente è non giocare.