Noi mettiamo in guardia le persone influenti nei governi dal fare un piano che comporti sedersi a un tavolo e negoziare con le aziende di IA.

Se siete nuovi a questo argomento e volete controllare personalmente i laboratori o le loro argomentazioni, vi invitiamo a leggere alcuni dei loro blog post pubblici e vedere se li trovate convincenti.^*

Ma se state lavorando per trovare soluzioni ai problemi discussi in Prima che sia troppo tardi e avete un piano che richiede che l'amministratore delegato di OpenAI Sam Altman dica "Sì", temiamo che stiate cercando di fare la cosa sbagliata fin dall'inizio.

I piani giusti sono probabilmente quelli a cui i capi delle aziende di IA si opporranno con veemenza. Inoltre, Sam Altman non ha il potere di salvare il mondo: se domani provasse a chiudere OpenAI, OpenAI e Microsoft si opporrebbero e potrebbero benissimo sostituirlo con qualcuno che preferisce far continuare a scorrere il denaro.

Se OpenAI davvero chiudesse, allora Anthropic, o Google DeepMind, o Meta, o DeepSeek, o qualche altra azienda o nazione, distruggerebbe il mondo al suo posto. Sam Altman potrebbe peggiorare le cose se ci provasse; ha poco potere per migliorarle.

Ci piacerebbe sbagliarci, ma il quadro generale che abbiamo ottenuto, sia dai rapporti pubblici che da interazioni private, è che i dirigenti delle principali aziende di IA (al 2025) non sembrano il tipo di persone oneste e rispettose delle regole con cui sia possibile fare accordi.^†

Ci sembra che quello che serve ora sia un arresto coordinato a livello globale nella corsa alla superintelligenza. Per questo, i responsabili politici avranno probabilmente bisogno del contributo di persone esperte nella produzione di chip per l'IA, nella costruzione di data center e nel monitoraggio della conformità degli attori stranieri. Persone esperte nello sviluppo di IA sempre più potenti? Sono manager competenti, certo, ma non dovrebbero avere potere di veto su nessuno degli sforzi volti a fermare il loro stesso lavoro.

Se, per qualsiasi motivo, le aziende di IA hanno voce in capitolo su ciò che accadrà dopo, questo ci sembra già un segno che qualcosa è andato storto. Il piano che l'umanità elabora per evitare di morire a causa della superintelligenza è il tipo di piano che fallisce se Sam Altman o il capo di Google o le persone dietro DeepSeek dicono "No"? Allora non è affatto un buon piano.

Se le aziende di IA mantengono il potere di scegliere di distruggere il mondo — se quella decisione è in qualche modo ancora nelle loro mani — allora il mondo finirà in automatico. Deve esserci un passaggio nel piano che privi le aziende di IA del loro potere illimitato di costruire dispositivi dell'apocalisse.