C'è chi sostiene che dovremmo assumere una posizione netta contro l'arte generata dall'intelligenza artificiale o le armi robotiche, al fine di lanciare un messaggio più semplice: non contro la superintelligenza, ma contro l'IA in sé.

Tralasciando il merito delle varie posizioni sull'arte generata dall'IA, sui deepfake e così via, non riteniamo che questa sia l'opzione migliore dal punto di vista politico. Vogliamo costruire una coalizione per vietare la superintelligenza. Riteniamo che si tratti di una questione straordinariamente urgente e pressante, e vogliamo che questa coalizione sia la più ampia possibile, includendo persone con un'ampia varietà di opinioni sull'arte generata dall'IA, sulla guerra con i droni, sulle auto a guida autonoma, sull'uso dell'IA nelle scuole e così via.

Abbiamo tutti un interesse comune a impedire la creazione di una superintelligenza incontrollata, a prescindere dalle nostre posizioni su altre questioni.

Vogliamo che l'umanità si estingua, per essere sostituita da qualcosa di desolato? Chiunque risponda "no" a questa domanda può collaborare a uno sforzo comune e urgente per fermare la corsa alla superintelligenza.

Non pensiamo che la coalizione possa sopravvivere se ci si rifiuta di collaborare con chiunque la pensi diversamente sull'arte generata dall'IA o sulla guerra con i droni.

La coalizione non sopravviverà neanche se un insieme di altre questioni verrà abbinato alla superintelligenza, al punto che tutti debbano essere d'accordo su una lunga lista di questioni semi-correlate prima di poter collaborare sulla superintelligenza.

Se vi interessano altre questioni legate all'IA, vi invitiamo a lavorare per risolverle. Ma vi chiediamo di non associare tali questioni alla superintelligenza. Se vogliamo sopravvivere, nulla dovrebbe essere associato alla sopravvivenza dell'umanità.

Uno dei motivi per cui vivete nel Paese in cui vivete, e non in un cumulo di macerie radioattive lasciate dalla Terza Guerra Mondiale, è che decenni fa l'Oriente e l'Occidente convennero sul fatto che la guerra nucleare rappresentasse una minaccia realistica e grave per l'umanità. L'Oriente e l'Occidente sostennero rispettivamente che l'Occidente e l'Oriente costituivano un'ulteriore terribile minaccia per l'umanità. Ma saggiamente trattarono le due minacce (l'annientamento nucleare e la sconfitta ideologica) come aventi una natura diversa.

Dal punto di vista dell'Occidente, era meglio che l'umanità fosse meno minacciata dalla guerra nucleare, anche se ancora minacciata dall'Oriente; ciò significava cooperare con l'Oriente abbastanza a lungo da stabilire una linea diretta tra Washington e Mosca, e collaborare a trattati di non proliferazione e altri accordi.

Troppi Paesi devono coordinarsi. Troppe fazioni sono divise (anche al loro interno) per poter evitare la catastrofe se solo coloro che sono d'accordo su tutto possono agire insieme.

Noi facciamo causa comune, con gioia e senza riserve, con chiunque si preoccupi di altre questioni nel mondo. Collaboreremo senza esitazione con persone con cui siamo in disaccordo politico. Abbiamo lanciato questo messaggio disperato al mondo perché è un messaggio in cui crediamo fermamente, e riteniamo che questo problema vada affrontato immediatamente a livello internazionale.

Chiunque voi siate, qualunque sia la causa per cui lottate, qui o altrove, se volete porre fine allo sviluppo vertiginoso di un'intelligenza artificiale più intelligente dell'uomo, combattiamo la stessa battaglia.