La gentilezza sembra dipendere dalle particolarità della nostra biologia e storia evolutiva.

La gentilezza non sembra essere il tipo di proprietà che ogni mente finisce per avere, per una varietà di ragioni. Eccone quattro, che approfondiremo nelle discussioni estese:

1. La curiosità non è convergente: Cose come la curiosità e la noia aiutano le persone a risolvere sfide mentali specifiche, come quella di comprendere l'ambiente circostante. Ma ci sono altri modi per risolvere queste sfide, e le IA probabilmente le risolveranno in modi diversi. I sottomarini si muovono bene nell'acqua, ma non è che proprio "nuotino". Molte altre cose, come la gentilezza, possono essere comprese allo stesso modo.
2. I valori umani sono contingenti: Gli esseri umani hanno sviluppato tratti come la gentilezza e l’empatia grazie alle particolarità della nostra biologia e della nostra storia evolutiva. Per esempio, è stato plausibilmente importante che gli esseri umani si siano evoluti in gruppi tribali dove avevamo una capacità limitata di ingannare gli altri e una capacità limitata di tracciare quanto fossero imparentati i diversi membri della tribù.
3. Differenze profonde tra le IA e le specie evolute: L'evoluzione e la discesa del gradiente funzionano in modo molto diverso ed entrambi i processi sono molto imprevedibili. Anche se si ripetesse l'evoluzione sui primati, non è chiaro se si otterrebbero in modo affidabile tratti come la gentilezza e l'amicizia vera una seconda volta.
4. La riflessione e l'auto-modifica complicano tutto: Anche nell'improbabile eventualità che le IA partissero con una certa dose di gentilezza, potrebbero non conservarla man mano che diventano più intelligenti e cambiano in vari modi.