Ressourcen zu Kapitel 4: KIs geben uns nicht das, worauf wir sie trainieren | If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde

Ressourcen zu Kapitel 4

KIs geben uns nicht das, worauf wir sie trainieren

Dies ist die Online-Ressource für Kapitel 4 von If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde. Einige der Fragen, die wir in diesem Kapitel implizit behandeln (und daher im Folgenden überspringen), sind:

Was werden KI wollen?
Warum sollte eine KI, die darauf trainiert wurde, hilfreich zu sein, am Ende die "falschen" Dinge wollen? Wäre das nicht ein Nachteil, der während des Trainings herausgefiltert würde?
Wie unterscheidet sich Gradientenabstieg von natürlicher Selektion? Was sagt das darüber aus, wie sich die Wünsche der KI entwickeln werden?
Was ist so schlimm daran, wenn KI seltsame Vorlieben entwickelt?

Im Folgenden behandeln wir eine Reihe von Themen im Zusammenhang mit der Frage "Warum ist es nicht einfach, KI nett zu machen?"

Warum sollte eine KI etwas anderes anstreben als das, worauf sie trainiert wurde?

Weil es viele Möglichkeiten gibt, beim Training gute Leistungen zu erbringen. 6 Min. Lesezeit

Machen Entwickler ihre KIs nicht regelmäßig nett, sicher und gehorsam?

KIs steuern in fremde Richtungen, die nur größtenteils mit Hilfsbereitschaft übereinstimmen. 14 Min. Lesezeit

Zeigt der Chatbot Claude nicht Anzeichen dafür, dass er aligned ist?

Die heutigen LLMs sind wie Außerirdische, die viele Masken tragen. 18 Min. Lesezeit

Wenn aktuelle KIs meist nur in extremen Fällen seltsam sind, wo liegt dann das Problem?

Das Seltsame ist ein Beweis dafür, dass ihre tatsächlichen Bestrebungen nicht unseren beabsichtigten Bestrebungen entsprechen. 1 Min. Lesezeit

Werden KI nicht ihre eigenen Fehler beheben, wenn sie intelligenter werden?

Die KI wird das beheben, was sie als Fehler ansieht. 7 Min. Lesezeit

Können wir sie nicht einfach so trainieren, dass sie sich wie ein Mensch verhält? Oder die KI wie ein Kind großziehen?

Gehirne sind keine unbeschriebenen Blätter. 3 Min. Lesezeit

Sollten wir es vermeiden, über die Gefahren der KI zu sprechen, damit KI keine schlechten Ideen bekommt?

Wenn Ihr KI-Plan erfordert, dass niemand im Internet den Plan kritisiert, ist es ein schlechter Plan. 3 Min. Lesezeit

Viele Menschen möchten Kinder haben. Sind Menschen also doch nicht mit der natürlichen Selektion "im Einklang"?

Es wäre nicht gut, wenn KI sich ein wenig um Menschen kümmern würde. 5 Min. Lesezeit

Vielleicht kommt es unabhängig davon, auf welches Ziel man trainiert, immer auf Freundlichkeit hinaus?

Güte scheint von den Besonderheiten unserer Biologie und Abstammung abzuhängen. 1 Min. Lesezeit

Was ist mit dem experimentellen Ergebnis, das auf einen Zusammenhang zwischen gutem Verhalten hindeutet?

Dies scheint eine positive, wenn auch geringfügige Verbesserung zu sein. 3 Min. Lesezeit