In questo capitolo abbiamo detto che si può "notare una certa superficialità" nell'intelligenza delle attuali IA (a metà-fine 2025), se si sa dove andare a cercarla. Se non l'avete ancora notata, ecco alcuni punti da controllare:

• Claude 3.7 Sonnet di Anthropic è rimasto bloccato in loop ripetitivi mentre cercava di battere un semplice videogioco Pokémon.

• Nel novembre 2022, uno dei migliori giocatori di Go al mondo era un'intelligenza artificiale chiamata KataGo. Almeno fino a quando i ricercatori non hanno trovato un modo per sconfiggerla usando una serie prevedibile di mosse che ha innescato una sorta di "punto cieco" e ha fatto commettere a KataGo un errore che nemmeno un principiante avrebbe fatto. Due anni dopo, gli ingegneri non sono ancora riusciti a renderla robusta contro attacchi di questo tipo.

• Gli attuali modelli linguistici di grandi dimensioni "multimodali" (quelli che possono lavorare con testo, immagini e altri media oltre al solo testo) fanno fatica a interpretare orologi analogici e calendari in problemi che la maggior parte dei bambini di quarta elementare è in grado di risolvere.

• Gli attuali modelli linguistici di grandi dimensioni notoriamente non riescono a risolvere semplici varianti di un classico indovinello su un dottore con risposte dirette e senza trabocchetti, apparentemente incapaci di resistere alla tentazione di dare la risposta trabocchetto che l'indovinello ha nella sua forma usuale.

(Le risorse online per il capitolo 4 offrono una visione più tecnica su da dove potrebbe derivare questa superficialità.)

Questo non vuol dire che le IA siano tutte stupide. Le IA moderne possono anche vincere medaglie d'oro alle Olimpiadi internazionali della matematica, che sono una competizione matematica difficile e rispettabile. Le IA moderne possono fare un sacco di cose diverse, spesso eguagliando o superando le prestazioni umane.

Le loro competenze sono strane. I punti di forza e di debolezza umani sono una direzione inadeguata per capire cosa le IA troveranno più facile o più difficile, perché le IA differiscono radicalmente e fondamentalmente dagli esseri umani sotto molti aspetti.

Non stiamo dicendo che ChatGPT vi ucciderà domani. C'è ancora una sorta di superficialità nelle IA moderne. Piuttosto, osserviamo che il campo sta facendo progressi e non è chiaro quanto durerà questa superficialità.