No. L'IA superintelligente è un caso molto insolito.

Sosteniamo pubblicamente tecnologie come l'energia nucleare, la crionica, il potenziamento dell'intelligenza umana e gli studi di infezione umana controllata per test medici.

Inoltre, siamo pronti a dire che quando un'invenzione folle rischia solo la vita di clienti volontari che capiscono tutti i pericoli rilevanti, sta quei clienti volontari prendere le loro decisioni.

Applaudiremmo persino certi casi in cui la tecnologia ha effettivamente danneggiato gli spettatori innocenti, come quando Londra bruciò grandi quantità di carbone, causando molti casi di cancro ai polmoni nel processo, al fine di industrializzare la società e migliorare il tenore di vita generale.

Riteniamo che, una volta completata l’industrializzazione, il mondo ne sia uscito migliorato. In generale, attribuiamo grande valore alla scienza, al progresso e allo spirito umano, con la sua capacità di superare quasi ogni ostacolo.

Alcune di queste sono posizioni impopolari tra le persone che ci aspettiamo leggano questo. Descriviamo queste posizioni non per ottenere consenso, ma per chiarire le nostre convinzioni sincere e per sottolineare che l'IA è diversa.

Perché l'IA è diversa? Perché in questo caso specifico non riusciamo a fidarci dello spirito umano e del potere della ricerca scientifica?

La risposta è: la portata. Scommettere la propria vita è diverso dallo scommettere la vita dei propri clienti, che è diverso dallo scommettere la vita di spettatori innocenti, che è diverso dallo scommettere l'intera specie umana.

E lo è doppiamente quando il campo è tristemente immaturo e le probabilità di vincere la scommessa sono terribili.