No. La preoccupazione riguarda i prossimi progressi nell'intelligenza artificiale.

Uno dei motivi per cui state leggendo questo libro è che sviluppi come ChatGPT hanno portato l'intelligenza artificiale alla ribalta. Il mondo sta iniziando a discutere dei progressi dell'IA e del suo impatto sulla società. Questo rappresenta un'opportunità naturale per parlare di un'IA più intelligente dell'uomo e di come la situazione attuale non prometta bene.

Noi, gli autori, lavoriamo in questo campo da molto tempo. I recenti progressi dell'IA informano le nostre opinioni, ma le nostre preoccupazioni non sono nate con ChatGPT, né con i precedenti modelli linguistici di grandi dimensioni. Da decenni facciamo ricerca tecnica per cercare di assicurarci che lo sviluppo di un'IA più intelligente dell'uomo abbia esiti positivi (Soares dal 2013, Yudkowsky dal 2001). Di recente, però, abbiamo avuto prova che il mondo potrebbe essere pronto per questa conversazione. Ed è una conversazione che, con ogni probabilità, dobbiamo fare ora, o il mondo potrebbe perdere per sempre l'opportunità di rispondere.

Il campo dell'IA sta progredendo, e alla fine (non sappiamo quando) arriverà al punto di creare un'IA più intelligente di noi. Questo è l'obiettivo esplicito di tutte le principali aziende di IA:

Ora siamo sicuri di sapere come costruire l'IAG [intelligenza artificiale generale] come l'abbiamo sempre intesa. [...] Stiamo iniziando a puntare oltre, verso la superintelligenza nel vero senso della parola. Amiamo i nostri prodotti attuali, ma siamo qui per un futuro glorioso. Con la superintelligenza, potremo fare tutto il resto.
— Sam Altman, CEO di OpenAI

Penso che l'[IA potente] potrebbe arrivare già nel 2026. […] Per IA potente intendo un modello di IA […] con le seguenti caratteristiche: in termini di pura intelligenza, è più intelligente di un premio Nobel nella maggior parte dei campi rilevanti (biologia, programmazione, matematica, ingegneria, scrittura, ecc.). Questo significa che può dimostrare teoremi matematici irrisolti, scrivere romanzi di altissimo livello, scrivere da zero insiemi di codici complessi, ecc.
— Dario Amodei, CEO di Anthropic

Nel complesso, ci stiamo concentrando sulla creazione di un'intelligenza generale completa. Tutte le opportunità di cui ho parlato oggi derivano dalla realizzazione di un'intelligenza generale e dal farlo in modo efficiente.
— Mark Zuckerberg, CEO di Meta (poco prima che l'azienda annunciasse un progetto di "superintelligenza" da 14,3 miliardi di dollari)

Penso che nei prossimi cinque-dieci anni ci sarà forse il 50% di possibilità che avremo quello che definiamo IAG.
— Demis Hassabis, CEO di Google DeepMind

Wes: Allora, Demis, stai cercando di provocare un'esplosione di intelligenza?
Demis: No, non una incontrollata...
— Wes Roth (intervistatore) e Hassabis

Si sta passando dalle parole ai fatti. Microsoft, Amazon e Google hanno annunciato che nel 2025 investiranno tra i 75 e i 100 miliardi di dollari in centri di calcolo per l'intelligenza artificiale. La startup xAI ha comprato il social media X.com per 80 miliardi di dollari, quasi il doppio del valore di X, poco prima di raccogliere 10 miliardi di dollari per sostenere un enorme centro di calcolo e sviluppare ulteriormente la sua IA, Grok. OpenAI ha annunciato il Progetto Stargate da 500 miliardi di dollari, in collaborazione con Microsoft e altri.

Il CEO di Meta, Mark Zuckerberg, ha dichiarato che Meta prevede di spendere 65 miliardi di dollari in infrastrutture per l'IA quest'anno e "centinaia di miliardi" in progetti di IA nei prossimi anni. Meta ha già investito 14,3 miliardi di dollari in ScaleAI e ha assunto il suo CEO per dirigere i nuovi Meta Superintelligence Labs, il tutto sottraendo oltre una dozzina di ricercatori di punta dai laboratori rivali con offerte che arrivano fino a 200 milioni di dollari per un singolo ricercatore.

Tutto questo non significa che un'intelligenza artificiale più intelligente dell'uomo sia dietro l'angolo. Ma significa che tutte le grandi aziende stanno cercando con ogni mezzo di crearla e che le IA come ChatGPT sono il risultato di questo programma di ricerca. Queste aziende non stanno cercando di creare chatbot. Stanno cercando di creare superintelligenze e i chatbot sono solo una tappa lungo il percorso.

La nostra opinione, dopo decenni passati a cercare di comprendere meglio questa questione e a riflettere seriamente sugli sviluppi futuri, è che non esista alcuna barriera che impedisca ai ricercatori, in linea di principio, di ottenere una svolta domani e riuscire a costruire un'intelligenza artificiale più intelligente dell'uomo.

Non sappiamo se quella soglia sarà effettivamente raggiunta nel prossimo futuro, oppure se ci vorrà ancora un decennio, ecc. La storia dimostra che prevedere le tempistiche delle nuove tecnologie è molto più difficile che prevedere se una tecnologia verrà sviluppata o meno. Tuttavia, riteniamo che le prove del pericolo siano enormemente maggiori di quelle necessarie per giustificare una risposta internazionale aggressiva oggi. Quest'argomentazione, naturalmente, è delineata nel libro.

Notes