No.

Le tecniche moderne di IA non producono IA che fanno quello che vogliono i loro operatori (come abbiamo detto nel capitolo 4). Risolvere questo problema è il tipo di cosa che di solito richiederebbe all'umanità un bel po' di tentativi ed errori, e qui non abbiamo margine di errore (come abbiamo detto nel capitolo 10).

Inoltre, la generazione attuale degli ingegneri IA è molto lontana dall'essere all'altezza del compito, come discusso nel capitolo 11. Gli ingegneri di IA moderni mancano gravemente della comprensione scientifica necessaria per avere successo nell'allineamento dell'IA. I ricercatori di IA non sono come gli operatori del reattore nucleare di Chernobyl; quegli operatori lavoravano con un dispositivo che era teoricamente ben compreso e avevano accurati manuali di sicurezza che hanno ignorato in un modo che ha portato alla catastrofe. Non esiste un manuale di sicurezza dell'IA basato su una comprensione completa dei meccanismi interni dell'IA e di quali situazioni potrebbero causare problemi. Non siamo nemmeno lontanamente vicini al livello di competenza di Chernobyl, qui. E Chernobyl è esplosa.

I ricercatori di IA stanno procedendo alla cieca e improvvisando, con pochissime possibilità di successo.

In questo contesto, non importa se sono i "buoni" o i "cattivi" a costruire la superintelligenza. Le preferenze dell'IA non si trasmettono per contagio da chi le sta più vicino.

Non importa quanto siano buone le loro intenzioni e quanto dicano di essere prudenti. Non importa chi "vince" la gara. Se l'umanità corre verso la superintelligenza artificiale, allora moriremo tutti.

Non è impossibile fermarla. Potrebbe anche non essere poi così difficile.

Torneremo su questo punto nell'ultimo capitolo del libro.

Le cose cambiano. Cambiano soprattutto quando c'è un bisogno disperato, urgente e riconosciuto. Il principale ostacolo per fermare tutto questo è il mancato riconoscimento del pericolo da parte dei leader mondiali. E questo processo è già iniziato.