Die Lösung schwieriger Herausforderungen erfordert, dass KI immer mehr Initiative ergreift.

Stellen Sie sich eine KI vor, die mit der Heilung der Alzheimer-Krankheit beauftragt ist. Kann sie erfolgreich sein, ohne eine starke Tendenz zu einer gewissen Hartnäckigkeit, wenn sie auf Hindernisse stößt?

Kann sie erfolgreich sein, ohne zielgerichtet und strategisch vorzugehen, wenn es darum geht, worauf sie ihre Aufmerksamkeit richtet, Pläne zu schmieden und diese an die Umstände anzupassen?

Kann sie erfolgreich sein, wenn sie nicht herausfindet, welches Wissen sie erwerben muss, eigene Experimente durchführt und herausfindet, wie diese durchzuführen sind?

Möglicherweise. Vielleicht ist Alzheimer eine Krankheit, die mit einigen einfachen Medikamentenentdeckungen geheilt werden kann, und vielleicht haben die KI-Systeme von morgen ein besseres Gespür für Medikamente als Menschen.

Oder vielleicht würde die schnelle Heilung von Alzheimer KI erfordern, die wesentlich intelligenter ist als die intelligentesten menschlichen Biologen. Wir wissen es nicht.

Wie sieht es mit Krebs aus? Hier scheint es wahrscheinlicher, dass eine KI erforderlich ist, die große Teile der menschlichen Biologie wirklich tiefgreifend versteht und Dinge tut, die für Wissenschaftler heute noch unerreichbar sind. Dennoch scheint es schwierig, sich sicher zu sein.

Was ist mit der Heilung des Alterns? Hier scheint es sicher, dass eine KI erforderlich wäre, die hartnäckig, strategisch und zielorientiert genug ist, um tatsächlich ein unglaublich tiefes Verständnis der Biochemie zu entwickeln.

Die KI-Unternehmen werden KI dazu bringen, immer kompetenter zu werden und immer besser in der Lage zu sein, große und wichtige Probleme zu lösen. Die KI-Branche wird nicht von selbst aufhören.

Und das wird die KI natürlich dazu bringen, immer ehrgeiziger zu werden, was ein Effekt ist, den wir, wie wir uns erinnern, bereits bei KI wie OpenAI's o1 beobachten können.

Erinnern Sie sich an den Capture-the-Flag-Computer-Sicherheitsvorfall aus dem Kapitel und daran, dass dieser nicht von einer KI verursacht wurde, die als Hacker trainiert wurde, sondern von einer KI, die darauf trainiert wurde, allgemeine Rätsel gut zu lösen. Das "motivierte" Verhalten entsteht automatisch.

Siehe auch die Diskussion über "reine Prädiktoren" in den Online-Ressourcen zu Kapitel 1.

Hartnäckigkeit ist auch dann hilfreich, wenn das Ziel nicht ganz richtig ist.

Prähistorische Menschen, die aktiv nach einer warmen Mahlzeit, einer schärferen Axt, einem beliebten Freund oder einem attraktiven Partner strebten, waren evolutionär erfolgreicher. Vergleichen Sie sie mit den Menschen, die den ganzen Tag faul herumlagen und aufs Wasser schauten, und Sie werden vielleicht verstehen, warum sich Wünsche und Triebe in der menschlichen Psyche entwickelt haben.

Die Menschen, die eine bessere Methode zum Herstellen von Feuersteinhandäxten suchten oder ihre Freunde davon überzeugen wollten, dass ihr Rivale ein schlechter Mensch war, und die kontinuierlich auf diese Ergebnisse hinarbeiteten, waren besser darin, diese Ergebnisse zu erzielen. Als die natürliche Selektion den Menschen "züchtete", war es kein Zufall, dass Menschen am Ende viele verschiedene Wünsche hatten, die sie hartnäckig verfolgten.

Die spezifische Art und Weise, wie Menschen Dinge begehren, war vielleicht ein Zufall. Maschinen, die Ziele hartnäckig verfolgen, tun dies nicht unbedingt aufgrund einer menschenähnlichen Entschlossenheit, genauso wenig wie die KI Deep Blue aus einer menschenähnlichen Leidenschaft für das Spiel Schach spielte. Aber wenn es darum geht, schwierige Ziele zu erreichen, scheint das hartnäckige Verfolgen dieser Ziele ein unglaublich wichtiger Faktor zu sein.

Obwohl Menschen ziemlich zielorientierte Wesen sind, fehlt einigen Menschen diese Art von Hartnäckigkeit, und sie faulenzen oder geben beim ersten Anzeichen von Widrigkeiten auf. Aber im Großen und Ganzen wird die Fähigkeit der Menschheit, große wissenschaftliche und technische Probleme zu lösen, von hartnäckigen Individuen und Institutionen angetrieben. Wir sind ziemlich skeptisch, ob ein Geist ohne eine gewisse Hartnäckigkeit etwas wie die Makro-Leistung der Menschheit (und ihre Fähigkeit, die Welt dramatisch umzugestalten) hervorbringen könnte.

Menschliche Wünsche waren evolutionär nützlich, auch wenn sie nicht der evolutionären Fitness dienten. Hypothetisch hätte die Evolution uns einen einzigen, übergeordneten Drang nach Nachkommen einflößen können, und wir hätten dann ausschließlich zum Zweck, mehr Nachkommen zu zeugen, nach warmen Mahlzeiten und schärferen Äxten gestrebt. Stattdessen hat uns die Evolution einen separaten Wunsch nach warmen Mahlzeiten eingeflößt.

Antriebe und Ziele zu haben ist nützlich. Es ist so nützlich, dass es für eine Aufgabe (wie "genetische Fitness") hilfreich sein kann, selbst wenn das Verlangen nicht genau mit der Aufgabe übereinstimmt.

Oder besser gesagt, es kann für eine gewisse Zeit hilfreich sein. Es kann hilfreich sein, bis die Wesen mit Trieben und Zielen wirklich intelligent werden, denn dann könnte ihr Verhalten stark vom "Trainingsziel" abweichen. Millionen von Jahren der Evolution, nur damit die Menschheit eine reiche technologische Zivilisation aufbaut und ... die Geburtenkontrolle erfindet.

Da KI eher gezüchtet als konstruiert ist, neigt sie dazu, falsche Ziele zu verfolgen.

Das ist das Thema des nächsten Kapitels: Man bekommt nicht das, wofür man trainiert.