Wird sie nicht erkennen, dass ihre Ziele langweilig sind?
KIs funktionieren nicht nach dem menschlichen Sinn für Neuheit.
Eine häufig geäußerte Einwendung lautet: Angenommen, eine KI würde nur versuchen, so viele kleine Titanwürfel wie möglich herzustellen. Würde die KI davon nicht irgendwann gelangweilt sein?
Die kurze Antwort lautet: Die KI ist kein Mensch. Sie empfindet standardmäßig keine "Langeweile", sondern hat ihre eigene seltsame Mischung aus Motivationen. Und wenn sie Langeweile empfinden würde, würde sie sich nicht durch dieselben Dinge langweilen wie ein Mensch.
Spaß zu haben ist keine intrinsische Eigenschaft aller möglichen Geister, und es ist äußerst unwahrscheinlich, dass KI so funktioniert. Menschliche Werte sind eine zufällige Tatsache unserer Biologie und Abstammung, und "Spaß" ist da keine Ausnahme.
Die Handlungen der KI sind keine falschen Antworten auf die Frage, wie man Spaß haben kann; die Handlungen der KI werden einfach von nicht-menschlichen Mechanismen angetrieben, von Fragen, die keinen Bezug zu "Spaß" haben. Siehe auch die ausführliche Diskussion zum Thema Reflexion.