Der Bau von KI, die beeindruckende Dinge leisten kann, führt dazu, dass die KI Dinge will.

Wenn wir sagen, dass eine KI etwas "will", meinen wir damit nicht, dass die KI notwendigerweise menschliche Wünsche oder Gefühle haben wird. Vielleicht wird sie das, vielleicht auch nicht. Was wir stattdessen meinen, ist, dass die KI sich so verhalten wird, als ob sie Dinge will. Sie wird die Welt zuverlässig auf bestimmte Ergebnisse hinsteuern und Hindernisse antizipieren, sich an veränderte Umstände anpassen und fokussiert, zielgerichtet und motiviert bleiben.

Dies ist der rote Faden für den folgenden Inhalt. Themen, die wir im Folgenden nicht behandeln, da sie im Buch enthalten sind, sind unter anderem:

• Wie könnte eine Maschine die Fähigkeit erwerben, Dinge im relevanten Sinne zu "wollen"?
• Gibt es Hinweise darauf, dass KI Dinge wollen kann?
• Müssen fortgeschrittenere KIs Dinge wollen?