Dies ist die Online-Ressource für Kapitel 11 von If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde, in dem erörtert wird, wie moderne KI-Labore das Alignment-Problem künstlicher Superintelligenz angehen. Antworten auf Fragen wie die folgenden finden Sie in dem Buch:

• Wie sollten wir die derzeitige Bereitschaft von KI-Unternehmen bewerten, das ASI-Alignment-Problem zu lösen?
• Wo passt die "Interpretierbarkeitsforschung", also die Forschung zum Lesen und Verstehen von KI-Gedanken, in dieses Bild?
• Können wir KI nicht einfach anweisen, das Problem für uns zu lösen?

Im Folgenden behandeln wir eine Reihe von Ideen zum Alignment und zum Einsatz von KI sowie Gründe für Optimismus und Gründe, warum es trotz der düsteren Lage sinnvoll sein könnte, die KI-Forschung voranzutreiben.