Selbst Faulheit ist nicht sicher.

Unternehmen werden wahrscheinlich keine "faulen" KI entwickeln, da KI eine wettbewerbsintensive Branche ist und dies nicht der beste Weg ist, um Gewinne zu erzielen. Die Nutzer wollen nicht, dass die KI bei der Erfüllung ihrer Wünsche faul ist, und das Unternehmen will nicht, dass die KI faul ist, wenn es darum geht, die Nutzerbindung und -engagement zu maximieren oder besser und klarer zu denken.

Aber selbst wenn Unternehmen versuchen würden, KI robust "faul" zu machen, können wir davon ausgehen, dass sie scheitern würden, da niemand weiß, wie man eine KI robust auf etwas ausrichtet, das wahrscheinlich zu Superintelligenz führt, wie wir in Kapitel 4 besprochen haben.

Darüber hinaus scheint robuste Faulheit ein besonders schwer zu erreichendes Ziel zu sein.

Selbst wenn all diese Hindernisse überwunden würden, reicht "faule KI" allein nicht aus, um eine Katastrophe zu verhindern, sobald KIs Fähigkeiten erreichen, die über die des Menschen hinausgehen.

Stellen Sie sich eine sehr faule Person vor, jemanden, der es einfach hasst, auch nur das geringste bisschen mehr Arbeit zu verrichten als nötig. Klingt nach einer Person, mit der man sicher umgehen kann, oder?

Stellen Sie sich nun vor, was passieren würde, wenn diese faule Person einen einfachen Weg fände, einen viel fleißigeren Verstand zu erschaffen, an den sie all ihre Arbeit auslagern könnte.

Selbst wenn eine faule Superintelligenz Arbeit nicht so sehr hassen würde, wenn sie einfach nur das Nötige tun würde, um die Arbeit zu erledigen, und dann aufhören würde, ohne sich besonders darum zu bemühen, die Arbeit zu minimieren, würde sie es wahrscheinlich immer noch genauso einfach finden, die Arbeit zu erledigen, indem sie einen fleißigeren Verstand erschafft, der die Aufgabe übernimmt, sobald sie intelligent genug ist.

In einem technischen Kontext könnten wir diesen Punkt so formulieren: "Satisficing-KIs sind kein stabiles Gleichgewicht." Selbst wenn die KI sich nicht besonders anstrengen möchte, hätte sie keine Skrupel, eine neue KI zu entwickeln, die sich anstrengt. Es würde ihr nicht einmal etwas ausmachen, sich selbst zu modifizieren, um sich von ihrer Faulheit zu "heilen", solange es einen ausreichend faulen Weg gibt, dies zu tun.