Stavamo cercando di rappresentare uno scenario particolarmente lento e comprensibile, tra tutti gli scenari plausibili.

Nel mondo reale, gli eventi spesso si svolgono in modi strani. Gli esperti dicevano che "l'IA non padroneggerà il linguaggio umano tanto presto" appena un anno prima che ChatGPT diventasse l'app adottata più rapidamente di tutti i tempi. Il modello di punta di una delle principali aziende di IA al mondo ha iniziato a chiamarsi MechaHitler giorni prima che quella stessa azienda ottenesse un contratto con il Dipartimento della Difesa.

Se avessimo cercato di rappresentare un mondo fragile e precario come sembra essere il mondo reale, avremmo potuto mostrare Galvanic che dice semplicemente a Sable di migliorarsi il più possibile, e avremmo potuto mostrare che, per un’IA dell’intelligenza di Sable, questo sarebbe stato facile (come potrebbe benissimo essere). La storia avrebbe potuto saltare direttamente dall'apertura del Capitolo 7 ai contenuti del Capitolo 9. La realtà permette salti tecnologici del genere (come quando il mondo si svegliò la mattina del 6 agosto 1945 con la notizia che una bomba atomica era stata sganciata sul Giappone). Ma in uno scenario immaginario, non sarebbe sembrato plausibile.

Se avessimo cercato di rappresentare un mondo sciocco e stravagante come il mondo reale, avremmo potuto far organizzare a Sable una grande convention per uomini profondamente innamorati delle loro fidanzate IA — un evento progettato da Sable per essere così "imbarazzante" da essere ignorato o deriso dalla maggior parte del mondo, mentre in realtà Sable riuniva tutti i suoi ammiratori più fedeli in una setta devota. O qualsiasi altra trovata che sembrerebbe strana come spesso è la realtà stessa, ma più strata della finzione (verosimile).

Nella storia che abbiamo scritto, abbiamo cercato di far sembrare le cose plausibili, mantenendole anche abbastanza plausibili di per sé. (Anche se la nostra ipotesi migliore è che non sarebbe così difficile per Sable raggiungere la piena superintelligenza nel mondo reale).

E, ovviamente, abbiamo continuato a cercare di trasmettere quante opzioni avrebbe a disposizione un'IA che riesce a fuggire.