Le macchine non saranno fondamentalmente prive di creatività o comunque fatalmente imperfette?
No.
Per ora, lasciamo da parte la questione se le macchine possano essere creative fino al capitolo 3. Ma ora diciamo questo: le macchine non devono per forza avere qualche difetto che le equilibri rispetto agli esseri umani, per far sì che l'indomabile spirito umano possa avere una possibilità di vincere.
Se i dodo avessero avuto una loro industria cinematografica, allora le sceneggiature scritte dai dodo sull'invasione umana della loro isola delle Mauritius avrebbero potuto compensare le armi e l'acciaio degli umani con gli svantaggi umani. Magari l'angoscia esistenziale indotta dall'intelligenza degli umani potrebbe averli fatti bloccare dalla disperazione all'ultimo minuto, giusto il tempo necessario agli eroici dodo per contrattaccare e beccarli tutti a morte.
Questa è una storia che forse i dodo troverebbero soddisfacente: che l'intelligenza non può essere un vantaggio militare netto rispetto ai becchi forti, che i cervelli più grandi degli umani devono avere qualche difetto fatale che permette ai fieri dodo di vincere, alla fine.
In realtà, i vantaggi apparenti degli umani sono vantaggi effettivi. Gli svantaggi del cervello umano non sono svantaggi netti in un conflitto militare con cervelli di uccello. Lo scontro tra umani e dodo finisce per essere impari, c'è poco da fare.
Anche quando gli umani combattono contro altri umani, le mitragliatrici sono un vantaggio tale che un esercito dotato di mitragliatrici di solito batte un esercito che ne è sprovvisto. Ci sono rare eccezioni a questa regola, e la gente ama raccontarle perché l'eccezione è una storia più divertente della normalità. Ma le eccezioni si verificano nella vita reale molto meno spesso di quanto non si verifichino nelle storie.
Prevederemmo lo stesso per IA avanzate con vaste memorie e menti, che possono copiarsi migliaia di volte e pensare a una velocità diecimila volte superiore a quella di un essere umano; menti in grado di ragionare in modo più valido, generalizzare più rapidamente e con maggiore precisione da un numero minore di dure lezioni, e migliorarsi.
Non è una domanda trabocchetto e non ci sarà un colpo di scena sorprendente, per quanto ci piacerebbe che ci fosse.