Werden wir uns nicht wie immer irgendwie durchwursteln? | If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde | If Anyone Builds It, Everyone Dies

Werden wir uns nicht wie immer irgendwie durchwursteln?

Die Welt kommt normalerweise durch Versuch und Irrtum durch. In diesem Fall würden frühe Fehler keine Überlebenden hinterlassen.

Siehe Kapitel 10 und die dazugehörige ausführliche Diskussion über den Unterschied zwischen Vorher und Nachher.

Sehen Sie Alignment als eine Frage von "alles oder nichts"?

›

Werden wir uns nicht wie immer irgendwie durchwursteln?

Die Welt kommt normalerweise durch Versuch und Irrtum durch. In diesem Fall würden frühe Fehler keine Überlebenden hinterlassen. 1 Min. Lesezeit

Sehen Sie Alignment als eine Frage von "alles oder nichts"?

Nein. Aber ein "teilweises Alignment" dürfte dennoch katastrophale Folgen haben. 2 Min. Lesezeit

Wird sich die Situation nicht verbessern, wenn sich die Regierungen stärker engagieren?

Das hängt davon ab, wie (und wie schnell) sie sich einmischen. 2 Min. Lesezeit

Sind die rücksichtslosesten Unternehmen nicht automatisch auch die inkompetentesten und stellen daher keine Bedrohung dar?

Selbst die vorsichtigeren Unternehmen sind heute noch leichtsinnig. 4 Min. Lesezeit

Ist es nicht wichtig, wegen des "Hardware-Überhangs" voranzukommen?

Das wäre selbstmörderisch, weil wir noch zu weit von einer Lösung für das Alignment entfernt sind. 3 Min. Lesezeit

Ist es nicht wichtig, voranzupreschen, damit wir Alignment-Forschung betreiben können?

Wir raten dringend von diesem gesamten KI-Paradigma ab. 3 Min. Lesezeit

Was wäre, wenn KI-Unternehmen ihre KIs nur für ungefährliche Aktionen einsetzen würden?

Auch scheinbar harmlose Handlungen können gefährliche Fähigkeiten erfordern. 9 Min. Lesezeit

Warum nicht einfach die Gedanken der KI lesen?

Ihre Gedanken sind schwer zu lesen. 6 Min. Lesezeit

Was wäre, wenn wir KI dazu bringen würden, miteinander zu debattieren, zu konkurrieren oder sich gegenseitig zu überwachen?

Wenn die KIs intelligent genug werden, um eine Rolle zu spielen, werden sie wahrscheinlich zusammenarbeiten. 3 Min. Lesezeit

Was ist mit verschiedenen anderen Plänen zum KI-Alignment?

Wir behandeln weitere Vorschläge zum Alignment in unserem Buch. 1 Min. Lesezeit

Gibt es keine Frühwarnsysteme, mit denen Forscher Probleme erkennen können?

Warnzeichen helfen nicht, wenn man nicht weiß, was man damit anfangen soll. 8 Min. Lesezeit

Ihre Frage wurde hier nicht beantwortet?Eine Frage einreichen.

Erweiterte Diskussion

Mehr zu einigen der Pläne, die wir in dem Buch kritisiert haben

Wir wissen, wie es aussieht, wenn ein Problem mit Respekt behandelt wird, und das ist hier nicht der Fall

Shutdown-Knöpfe und Korrigierbarkeit