Per fornire una sfida a Sable.

Se Galvanic, i creatori di Sable, fossero inciampati nello sviluppo di una superintelligenza senza prendere alcuna precauzione per tenerla sotto controllo (come avere supervisori dell'IA e honeypot), i lettori potrebbero pensare che l'IA abbia avuto successo solo perché eravamo cinici nei confronti delle aziende che si occupano di IA.

Noi riteniamo che l’azienda di IA più spericolata sarebbe in realtà più spericolata di Galvanic, per le ragioni discusse nel Capitolo 11. Ciò che conta, qui, è l’azienda più irresponsabile che è permesso esista. Se tre aziende responsabili evitano di costruire una superintelligenza perché sarebbe troppo pericoloso, ma una quarta azienda irresponsabile va avanti lo stesso, allora l'alba della superintelligenza inizia in quel quarto laboratorio.

Oggi, i dirigenti aziendali di tutti gli altri laboratori sostengono che "meglio io di loro!" e si precipitano avanti con solo la cautela minima necessaria per non rallentare, il che, a nostro avviso, si traduce in una cautela leggermente inferiore a quella che Galvanic sembra adottare con Sable.

Inoltre, descrivendo Galvanic come un’azienda che si colloca sul lato più paranoico dello spettro (pur cercando di rimanere realistici), abbiamo più possibilità di mostrare come un agente intelligente possa riuscire a sfuggire a una rete di vincoli.