Was ist das Ziel des Marsches „Baut sie nicht“?
Wir fordern einen internationalen Vertrag, der die Entwicklung künstlicher Superintelligenz (ASI) verbietet.
Warum?
Wir sind überzeugt: Wenn irgendein Unternehmen oder irgendeine Gruppe irgendwo auf der Welt eine künstliche Superintelligenz baut – mit Methoden, die den heutigen auch nur entfernt ähneln, und auf der Grundlage eines Verständnisses von KI, das dem heutigen auch nur entfernt ähnelt –, dann sterben alle Menschen überall auf der Erde.
Das ist nicht als Übertreibung gemeint. Wir übertreiben nicht, um Wirkung zu erzielen. Wir halten das für die direkteste Schlussfolgerung aus dem heutigen Wissen, den heutigen Belegen und dem heutigen institutionellen Verhalten im Bereich der künstlichen Intelligenz.
Warum diese Einschätzung?
KI-Unternehmen wetteifern darum, eine künstliche Superintelligenz zu erschaffen, ohne zu wissen, was sie tun. Das ist nach der Theorie eine schlechte Idee. Und in der Praxis häufen sich die Warnsignale.
Wir legen das Argument so klar und knapp wie möglich in unserem Buch dar. Sie können auch unsere Online-Ressourcen lesen, die auf einige Details eingehen, die im Buch nicht vorkommen.
Warum gilt die Zusage nur, wenn sich 100.000 Menschen zum Marschieren verpflichten?
Märsche können sehr wirkungsvoll sein, wenn sie groß sind, aber die falsche Botschaft senden, wenn sie klein sind. Deshalb bitten wir Sie nur dann um Ihre Zusage, wenn genug andere Menschen mitmachen. Wenn wir 100.000 Zusagen erreichen, planen wir den Marsch. Falls nicht, konzentrieren wir uns stattdessen auf andere Strategien.
Wir könnten die kritische Masse bald erreichen. Oder es könnte Monate oder Jahre dauern, während immer mehr Menschen von den Gefahren der ASI erfahren.
Was ist mit „internationaler Vertrag“ gemeint?
Es ist nicht sinnvoll, wenn nur ein Land den Fortschritt der KI-Fähigkeiten innerhalb seiner Grenzen verbietet. Die KI-Entwicklung würde in anderen Ländern einfach von Menschen weiterbetrieben, die die Gefahren nicht verstehen, bis irgendwann irgendjemand Maschinen baut, die deutlich intelligenter sind als jeder Mensch.
Das ist kein Problem, bei dem Gesetzgeber in ihrem eigenen Land ein Gesetz verabschieden können, um ihre eigene Bevölkerung zu schützen. Wenn jemand eine künstliche Superintelligenz baut, sterben alle, überall. Ein solches Problem erfordert, dass sich mehrere Großmächte der Welt auf ein gemeinsames Abkommen verständigen, um dieses rücksichtslose Selbstmordrennen zu stoppen.
Wir rufen unsere Regierungen dazu auf, ihre Unterstützung für einen solchen Vertrag zu erklären und jetzt mit der Ausarbeitung zu beginnen. Wir rufen die ganze Welt dazu auf, sich zu vereinen, um die Gefahr abzuwenden.
Es wäre nicht das erste Mal, dass die Menschheit ein technologisches Wettrennen stoppt. Die Menschheit hat auf die Entwicklung riesiger Nuklearsprengköpfe verzichtet, ebenso auf einige der gefährlichsten Biowaffen. Wir haben es schon einmal geschafft und können es wieder schaffen.
Wie viel Vorlauf wird es für den tatsächlichen Marsch geben?
Wir werden anstreben, mindestens einen Monat im Voraus zu informieren, sobald wir 100.000 Zusagen erreicht haben – es sei denn, wir haben die Schwelle aufgrund einer bevorstehenden Notlage überschritten.
Was ist, wenn ich mich noch nicht verpflichten möchte, in Washington DC zu marschieren?
Sie können sich auch einfach für Updates anmelden! Wir informieren Sie, wenn unser Hauptmarsch 100.000 Zusagen erreicht, und falls es andere Märsche in Ihrer Nähe gibt.
Sollten wir einen großen Marsch in Washington DC veranstalten, könnten je nach Interesse und weiteren Faktoren auch viele kleinere Märsche in anderen Städten weltweit dazukommen.