Qual è l'obiettivo della marcia Non Costruirla?
Chiediamo un trattato internazionale che vieti lo sviluppo della Superintelligenza Artificiale (ASI).
Perché?
Crediamo che se un'azienda o un gruppo qualsiasi, in qualunque parte del pianeta, costruirà una superintelligenza artificiale usando qualcosa anche solo lontanamente simile alle tecniche attuali, sulla base di qualcosa anche solo lontanamente simile all'attuale comprensione dell'IA, allora tutti, ovunque sulla Terra, moriranno.
Non lo diciamo come un'iperbole. Non stiamo esagerando per fare effetto. Pensiamo che questa sia l'estrapolazione più diretta delle conoscenze, delle prove e del comportamento istituzionale che oggi circondano l'intelligenza artificiale.
Perché lo pensate?
Le aziende dell'IA stanno correndo per creare una superintelligenza artificiale senza avere idea di ciò che stanno facendo. Secondo la teoria, questa è una pessima idea. E nella pratica, i segnali d'allarme continuano ad accumularsi.
Nel nostro libro esponiamo l'argomento nel modo più chiaro e conciso possibile. Puoi anche leggere le nostre risorse online, che approfondiscono alcuni dettagli non trattati nel libro.
Perché l'impegno entra in vigore solo se 100.000 persone promettono di marciare?
Le marce possono essere molto potenti se sono grandi, ma possono trasmettere il messaggio sbagliato se sono piccole. Per questo ti chiediamo di impegnarti a marciare solo se si uniranno abbastanza altre persone. Se raggiungeremo 100.000 adesioni, organizzeremo la marcia. In caso contrario, indirizzeremo i nostri sforzi verso altre strategie.
Potremmo raggiungere presto una massa critica. Oppure potrebbero volerci mesi o anni, man mano che più persone comprendono i pericoli dell'ASI.
Che cosa intendete con "trattato internazionale"?
Non serve a molto che un solo Paese vieti l'avanzamento delle capacità dell'IA entro i propri confini. Lo sviluppo dell'IA continuerebbe semplicemente in altri Paesi, portato avanti da persone che non comprendono i pericoli, finché prima o poi qualcuno, da qualche parte, non costruirà macchine sostanzialmente più intelligenti di qualsiasi essere umano.
Questo non è un problema che i legislatori possano risolvere approvando una legge nel proprio Paese per proteggere soltanto la propria popolazione. Se qualcuno costruisce una superintelligenza artificiale, tutti muoiono, ovunque. Un problema del genere richiede che più grandi potenze del mondo si uniscano in un accordo condiviso per fermare questa corsa suicida e sconsiderata.
Chiediamo ai nostri leader di dichiarare il proprio sostegno a un simile trattato e di iniziarne subito la stesura. Chiediamo al mondo intero di unirsi per scongiurare questo pericolo.
Non sarebbe la prima volta che l'umanità decide di arrestare una corsa tecnologica. L'umanità ha rinunciato a costruire testate nucleari gigantesche e ad alcune delle armi biologiche più pericolose. L'abbiamo già fatto una volta, e possiamo farlo di nuovo.
Quanto preavviso ci sarà per la marcia vera e propria?
Cercheremo di dare almeno un mese di preavviso una volta raggiunte le 100.000 adesioni, a meno che non si sia superata la soglia a causa di qualche emergenza imminente.
E se non volessi ancora impegnarmi a marciare a Washington DC?
Puoi anche semplicemente iscriverti per ricevere aggiornamenti! Ti faremo sapere quando la nostra marcia principale raggiungerà le 100.000 adesioni.
Se e quando organizzeremo una grande marcia a Washington DC, potremmo anche organizzare molte marce più piccole in altre città del mondo, a seconda dell'interesse e di altri fattori.