Wir erwarten im Durchschnitt nicht, mit dem Buch Geld zu verdienen. Unabhängig davon würden wir uns freuen, wenn wir mit der These des Buches falsch liegen würden.

Wir (Soares und Yudkowsky) beziehen unser Gehalt vom Machine Intelligence Research Institute (MIRI), das durch Spenden von Menschen finanziert wird, die diese Themen für wichtig halten. Vielleicht wird das Buch zu Spenden führen.

Allerdings haben wir auch andere Möglichkeiten, Geld zu verdienen, und wir schreiben das Buch nicht, um Geld zu verdienen. Der Vorschuss, den wir für dieses Buch erhalten haben, wurde vollständig für die Werbung für dieses Buch verwendet, und die Tantiemen gehen vollständig an das MIRI, um die investierte Arbeitszeit und Mühe der Mitarbeiter des Instituts zu vergüten.^*

Und natürlich wären beide Autoren überglücklich, wenn sie zu dem Schluss kämen, dass unsere Zivilisation nicht in Gefahr ist. Wir würden uns gerne einfach zur Ruhe setzen oder anderswo mehr Geld verdienen.

Wir glauben nicht, dass es uns schwerfallen würde, unsere Meinung zu ändern, wenn die Beweislage tatsächlich eine Änderung unserer Meinung rechtfertigen würde. Das ist schon einmal passiert. MIRI wurde (unter dem Namen "Singularity Institute") als Projekt zur Entwicklung einer Superintelligenz gegründet. Es dauerte ein Jahr, bis Yudkowsky erkannte, dass dies nicht automatisch gut gehen würde, und noch ein paar Jahre, bis ihm klar wurde, dass es ziemlich schwierig sein würde, überhaupt sicherzustellen, dass es gut geht.

Wir haben schon einmal eine Kehrtwende gemacht und würden dies gerne wieder tun. Wir glauben nur nicht, dass die Beweislage dies rechtfertigt.

Wir halten die Situation nicht für hoffnungslos, aber es scheint uns, dass es hier ein echtes Problem gibt und dass die Gefahr extrem ist, wenn die Welt sich dieser Herausforderung nicht stellt.

Es ist auch wichtig zu betonen, dass man über KI nachdenken muss, um herauszufinden, ob sie uns alle töten wird. Wenn man nur an Menschen denkt, kann man Gründe finden, jede Quelle abzulehnen: Wissenschaftler haben keinen Bezug zur Realität, Unternehmen versuchen, einen Hype zu erzeugen, gemeinnützige Organisationen wollen Geld sammeln, Hobbyisten wissen nicht, wovon sie reden.

Wenn man diesen Weg einschlägt, wird die eigene endgültige Meinung davon bestimmt, wen man ablehnt, sodass Argumente und Beweise keinen Raum haben, die eigene Meinung zu ändern, wenn man sich irrt. Um herauszufinden, was wahr ist, gibt es keinen Ersatz dafür, die Argumente zu bewerten und zu prüfen, ob sie für sich allein stehen, unabhängig davon, wer sie vorgebracht hat.

Unser Buch beginnt nicht mit dem einfachen Argument, dass die Führungskräfte von Unternehmen, die KI-Labore betreiben, ein Interesse daran haben, die Bevölkerung davon zu überzeugen, dass KI sicher ist. Es beginnt mit einer Diskussion über KI. Später im Buch widmen wir uns kurz der Geschichte des übertriebenen Optimismus der Wissenschaftler, aber wir sagen niemals, dass Sie die Argumente von jemandem ignorieren sollten, nur weil er in einem KI-Labor arbeitet. Wir diskutieren einige der tatsächlichen Pläne der Entwickler und warum diese Pläne aus eigener Kraft nicht funktionieren würden. Wir geben unser Bestes, um uns hinzusetzen und ein Gespräch über die tatsächlichen Argumente zu führen, denn es sind die tatsächlichen Argumente, die zählen.

Wenn Sie der Meinung sind, dass wir falsch liegen, laden wir Sie ein, sich mit unseren Argumenten auseinanderzusetzen und konkret aufzuzeigen, wo wir Ihrer Meinung nach falsch liegen. Wir halten dies für einen zuverlässigeren Weg, um herauszufinden, was wahr ist, als hauptsächlich auf den Charakter und die Motive von Menschen zu achten. Selbst die voreingenommenste Person der Welt kann behaupten, dass es regnet, aber das bedeutet nicht automatisch, dass es sonnig ist.