Güte scheint von den Besonderheiten unserer Biologie und Abstammung abzuhängen.

Freundlichkeit scheint aus verschiedenen Gründen keine Eigenschaft zu sein, die jeder Geist letztendlich entwickelt. Hier sind vier Gründe, auf die wir in den ausführlichen Diskussionen näher eingehen:

1. Neugier ist nicht konvergent: Eigenschaften wie Neugier und Langeweile helfen Menschen, bestimmte mentale Herausforderungen zu lösen, wie zum Beispiel die Herausforderung, die Umwelt zu verstehen. Aber es gibt auch andere Wege, diese Herausforderungen zu lösen, und KI wird sie wahrscheinlich auf andere Weise lösen. U-Boote bewegen sich gut durch das Wasser, aber sie "schwimmen" nicht wirklich. Viele andere Eigenschaften, darunter auch Freundlichkeit, lassen sich analog verstehen.
2. Menschliche Werte sind bedingt: Menschen haben aufgrund ihrer biologischen Eigenschaften und ihrer Abstammung Eigenschaften wie Freundlichkeit und Empathie entwickelt. Es war beispielsweise wahrscheinlich wichtig, dass sich Menschen in Stammesgruppen entwickelten, in denen sie nur begrenzt in der Lage waren, andere zu täuschen und nachzuvollziehen, wie verwandt verschiedene Stammesmitglieder miteinander waren.
3. Tiefe Unterschiede zwischen KI und entwickelten Spezies: Evolution und Gradientenabstieg funktionieren sehr unterschiedlich, und beide Prozesse sind sehr unvorhersehbar. Selbst wenn man die Evolution bei Primaten erneut durchführen würde, ist es nicht klar, ob man ein zweites Mal zuverlässig Eigenschaften wie Freundlichkeit und echte Freundschaft erhalten würde.
4. Reflexion und Selbstmodifikation erschweren alles: Selbst in dem unwahrscheinlichen Fall, dass KI mit einem gewissen Maß an Freundlichkeit beginnt, würde sie diese Freundlichkeit möglicherweise nicht beibehalten, wenn sie intelligenter wird und sich in verschiedener Hinsicht verändert.