Probabilmente no.

Come illustrato nella discussione approfondita su Antropomorfismo e Meccanomorfismo, in genere non è utile immaginare che le IA possiedano qualità simili a quelle umane solo in virtù della loro intelligenza. Sarebbe davvero sciocco dire "Questo modello linguistico di grandi dimensioni assomiglia a un essere umano, quindi proietterò su di esso ogni tipo di caratteristica umana, compresa quella di avere desideri".

Attenzione, però. Un errore speculare nel pensare alle IA è quello che chiamiamo "meccanomorfismo", cioè pensare che, poiché un'IA è fatta di parti meccaniche, debba essere difettosa nei modi stereotipici delle macchine. Dire "Questo modello linguistico di grandi dimensioni è una macchina, quindi proietterò su di esso ogni tipo di caratteristica che associo alle macchine, come l'essere logico e incapace di comprendere" è altrettanto infruttuoso.

Per prevedere il comportamento dell'IA, non dovremmo immaginare che sarà motivata da emozioni umane, né dovremmo aspettarci che sia incapace di notare soluzioni creative ai problemi. Come discusso nel libro, un metodo migliore è chiedersi quale comportamento è necessario affinché l'IA abbia successo.

Se state giocando a scacchi contro un'IA scacchistica e tendete una trappola alla sua regina usando il vostro cavallo come esca, non chiedetevi se sia abbastanza diffidente da notare la trappola; non chiedetevi se la fredda logica la costringa a prendere il cavallo nonostante la trappola; chiedetevi quale comportamento dell'IA sia più vincente. Un'IA abile tenderà a esibire un comportamento orientato alla vittoria.

E la ragione per cui le IA agiranno come se desiderassero delle cose è che il comportamento simile al desiderare e il comportamento di successo sono collegati.