Dies scheint eine positive, wenn auch geringfügige Verbesserung zu sein.

Die relevanten experimentellen Ergebnisse finden sich in einem Artikel mit dem Titel "Emergent Misalignment" (Betley et al. 2025). Grob gesagt zeigt der Artikel, dass LLMs, die auf eine schlechte Aktivität abgestimmt sind, nämlich das Schreiben von fehlerhaftem Code, sich auch als Nazis bezeichneten und anderes schlechtes Verhalten zeigten.

Dies ist ein gutes Zeichen dafür, dass es möglich sein könnte, LLMs so zu optimieren, dass sie in einer Dimension gut funktionieren, und LLMs zu erhalten, die sich in vielen verschiedenen Dimensionen gut verhalten. Wir sehen dies als Beweis dafür, dass relativ schwache KIs nützlicher sein könnten, als wir erwartet hätten, bevor wir gefährliche Leistungsniveaus erreichen.

Leider glauben wir aus zwei Gründen nicht, dass dieses positive Ergebnis für die Superintelligenz von großer Bedeutung ist.

Erstens bezweifeln wir stark, dass diese "Gutsein"-Richtung innerhalb der KI wirklich real ist. Wenn eine Superintelligenz die Welt hartnäckig in die Richtung lenken würde, in die dieser Vektor zeigt, bezweifeln wir, dass das Ergebnis gut wäre.

Menschliche Werte sind komplex, und es gibt viele Dinge, die mit "echtem Gutsein" korrelieren, aber manchmal stark davon abweichen. Beispielsweise könnte der Vektor in eine Richtung zeigen, die zu viel Gewicht auf die Achtung des sozialen Konsenses legt und zu wenig auf die Aufdeckung sozial unangenehmer Wahrheiten (wie durch die Schwierigkeiten von KI bei Kompromissen nahegelegt wird, die Menschen als offensichtlich erachten). Es gibt wenig Grund zu der Annahme, dass der "Gutsein"-Vektor robust auf Gutsein zeigt, und es gibt starke empirische und theoretische Gründe, das Gegenteil zu glauben.

Zweitens: Die Tatsache, dass die KI ein "Gutsein"-Konzept hat, bedeutet nicht, dass sie von diesem Gutsein-Konzept animiert ist oder dass sie davon in robuster Weise animiert ist.

Es ist eine Sache, eine KI dazu zu bringen, eine "gute" Rolle zu spielen, wenn sie noch schwach genug ist, um jede ihr zugewiesene Rolle zu spielen; es ist jedoch etwas ganz anderes, die gesamte Maschinerie und die Antriebe der KI dazu zu bringen, ausschließlich von einem bestimmten Konzept der KI angetrieben zu werden, selbst wenn die KI intelligenter wird und sich in drastisch unterschiedlichen Kontexten wiederfindet.^*

Moderne KI sind Wesen, die leicht in eine Richtung getrimmt werden können und dann Tugendhaftigkeit bekunden, und leicht in eine andere Richtung getrimmt werden können und dann Lasterhaftigkeit bekunden. Ein LLM ist ein Wesen, das fließend zwischen verschiedenen Persönlichkeiten wechselt, das in einem Kontext große Reden über Ethik hält und dann in anderen Kontexten das Gegenteil von dem tut, was es als ethisch bezeichnet. Erinnern Sie sich daran, wie ChatGPT bekundet, dass psychotische Menschen nicht angestachelt werden sollten, und sie dann doch anstachelt.

Die entscheidende Frage ist, welche Antriebe die gesamte Maschinerie, aus der die KI besteht, beleben. Nicht nur eine beliebige "Maske", die sie manchmal trägt, sondern die Maschinerie, die auswählt, welche Maske sie aufsetzt.

Selbst wenn die KI ein "Gutsein"-Konzept hätte, das es wert wäre, von einer superintelligenten Maschine verfolgt zu werden, hat niemand eine Vorstellung davon, wie man eine KI entwickeln könnte, die ein bestimmtes Konzept konsequent verfolgt, geschweige denn eine KI, die nur dieses eine Konzept verfolgt. Stattdessen bekommen wir KIs, die von einer komplexen Sammlung von Antrieben angetrieben werden, die wer weiß wohin führen.

Notes