Aber die Experten sind sich nicht alle über die Risiken einig!
Das Fehlen eines Expertenkonsenses ist ein Zeichen für einen noch nicht ausgereiften technischen Bereich.
Wir haben festgestellt, dass viele erfahrene KI-Wissenschaftler der Meinung sind, dass diese Technologie eine ernsthafte Gefahr für die Menschheit darstellt. So hat beispielsweise der Nobelpreisträger Geoffrey Hinton, der eine wichtige Rolle bei der Entwicklung des modernen Ansatzes für KI gespielt hat, erklärt, dass er persönlich die Wahrscheinlichkeit, dass KI uns alle vernichtet, auf über 50 Prozent schätzt. Mehr als 300 KI-Wissenschaftler haben die Erklärung zu den Risiken der KI aus dem Jahr 2023 unterzeichnet, mit der wir dieses Buch begonnen haben.*
Andere Wissenschaftler vertreten jedoch die gegenteilige Ansicht, bekannte Beispiele hierfür sind Yann LeCun und Andrew Ng.
Was ist von diesem Mangel an wissenschaftlichem Konsens zu halten?
Nun, wir empfehlen Ihnen vor allem, sich die verschiedenen Argumente beider Seiten (einschließlich unserer eigenen Argumente in diesem Buch) anzusehen und selbst zu beurteilen. Wir sind der Meinung, dass die Qualität der Argumentation weitgehend für sich selbst spricht und dass alle Versuche, die anhaltende Uneinigkeit zu erklären, als nachträgliche Überlegungen betrachtet werden sollten.
Wir möchten jedoch nebenbei anmerken, dass dieser Sachverhalt nach dem, was wir in den Kapiteln 11 und 12 diskutiert haben, kein großes Rätsel ist. Die bloße Existenz einer weit verbreiteten Meinungsverschiedenheit unter Experten begründet natürlich nicht die These des Buches. Aber sie passt besser zu dem Bild, das wir gezeichnet haben, dass sich das Fachgebiet in einem frühen, alchemieähnlichen Stadium befindet, als zu dem gegenteiligen Bild, dass KI ein ausgereiftes Fachgebiet mit starken technischen Grundlagen ist.
Es ist definitiv etwas seltsam, dass das Gebiet der KI so gespalten ist, obwohl es leistungsstarke Technologien hervorbringt. Bei anderen technologischen Gefahren herrschte mehr Konsens. Ungefähr 100 von 100 Wissenschaftlern des Manhattan-Projekts hätten gesagt, dass ein globaler thermonuklearer Krieg ein erhebliches Risiko für eine globale Katastrophe darstellt. Im Gegensatz dazu äußern sich zwei der drei Wissenschaftler, die für ihre Forschung, die mehr oder weniger den Startschuss für die moderne KI-Revolution gab, mit dem Turing-Preis† ausgezeichnet wurden (Hinton und Bengio), offen über die Gefahren der Superintelligenz, während einer (LeCun) diese offen ablehnt.
Ein derartiges Maß an Uneinigkeit über die Funktionsweise einer Maschine ist unter Experten in einem ausgereiften technischen Bereich nicht normal. Es ist ein Zeichen für technische Unreife.
In den meisten Technologiebereichen ist diese Unreife eigentlich ein Zeichen für Sicherheit. Als Physiker noch über die grundlegenden Eigenschaften von Materie diskutierten, waren sie noch weit davon entfernt, Atomwaffen zu entwickeln. Man konnte ihre Meinungsverschiedenheiten beobachten und fundiert vermuten, dass sie nicht im Begriff waren, eine Bombe zu entwickeln, die ganze Städte zerstören könnte. Tatsächlich ist es nicht möglich, eine Atombombe zu entwickeln, ohne Wissenschaftler, die die Funktionsweise der Bombe im Detail verstehen.
Anders wäre es, wenn die Physiker immer noch über die grundlegenden Funktionsprinzipien ihres Fachgebiets streiten würden, während sie immer größere Explosionen erzeugen.
Stellen Sie sich eine Welt vor, in der Physiker irgendwie Atomwaffen "züchten" könnten, ohne wirklich zu verstehen, warum und wie sie funktionieren. Nehmen wir nun an, dass zwei Drittel der renommiertesten Wissenschaftler sagen würden: "Wir haben unser Bestes getan, um herauszufinden, was vor sich geht. Es sieht so aus, als könnten diese Geräte übermäßige Mengen an krebserregender Strahlung erzeugen, die viele Zivilisten in großer Entfernung töten würde, wenn wir diesen Weg weitergehen. Bitte sehen Sie sich unsere Argumente an, warum dies so gefährlich ist, und hören Sie auf, diesen Weg weiter zu beschreiten." Das verbleibende Drittel antwortet: "Das klingt lächerlich! Es gibt immer Leute, die den Untergang prophezeien, und man darf nicht zulassen, dass sie den Fortschritt behindern."
Nun, das wäre in der Tat eine ganz andere Situation gewesen.
Uneinigkeit unter Wissenschaftlern in einem solchen Szenario wäre nicht besonders beruhigend. Ingenieure sollten in einer solchen Situation wahrscheinlich nicht die Erlaubnis erhalten, immer größere Sprengstoffe zu entwickeln.
KI-Unternehmen entwickeln Jahr für Jahr immer intelligentere Maschinen. Sie verstehen jedoch nicht die inneren Abläufe der von ihnen entwickelten Geräte. Viele der renommiertesten Wissenschaftler auf diesem Gebiet äußern große Bedenken, andere winken diese Bedenken ohne nennenswerte Gegenargumente beiseite. Dies ist zumindest ein Beweis dafür, dass das Gebiet noch nicht ausgereift ist. Die fehlende Einigkeit ist zumindest kein Beweis dafür, dass alles in Ordnung ist. Der Mangel an Konsens in einer Situation wie dieser sollte zumindest Anlass zur Sorge geben.
Wie kann man herausfinden, ob diese Sorgen berechtigt sind? Wie kann man herausfinden, wer Recht hat – diejenigen, die Alarm schlagen, oder diejenigen, die versuchen, die Bedenken zu entkräften? Wie immer muss man einfach die Argumente abwägen.
* Weitere Beispiele, darunter Umfragen, die zeigen, dass diese Beispiele in der Branche weit verbreitet sind, finden Sie in unserer Diskussion darüber, was KI-Experten über Katastrophenszenarien sagen.
† Gilt als die höchste Auszeichnung in diesem Bereich.