Nein. Die Sorge gilt den bevorstehenden Fortschritten in der KI.

Ein Grund, warum Sie dieses Buch gerade lesen, ist, dass KI durch Entwicklungen wie ChatGPT in die Schlagzeilen gebracht wurde. Die Welt beginnt nun, über den Fortschritt der KI und deren Auswirkungen auf die Gesellschaft zu diskutieren. Dies bietet natürlich eine Gelegenheit, über KI, die intelligenter als der Mensch ist, zu diskutieren und darüber, dass die aktuelle Situation nicht gut aussieht.

Wir, die Autoren, arbeiten seit langem auf diesem Gebiet. Die jüngsten Fortschritte in der KI beeinflussen unsere Ansichten, aber unsere Sorgen wurden weder durch ChatGPT noch durch frühere große Sprachmodelle ausgelöst. Wir betreiben seit Jahrzehnten technische Forschung, Im Versuch sicherzustellen, dass KI, die intelligenter ist als der Mensch, gut für uns ausgeht (Soares seit 2013, Yudkowsky seit 2001). Aber wir haben kürzlich Anzeichen dafür gesehen, dass die Welt bereit sein könnte, diese Diskussion zu führen. Und es ist eine Diskussion, die wir jetzt führen müssen, sonst könnte die Welt ihre Chance verpassen, rechtzeitig darauf zu reagieren.

Der Bereich der KI macht Fortschritte, und irgendwann (wir wissen nicht wann) wird er so weit fortgeschritten sein, dass KI entwickelt wird, die intelligenter ist als wir. Das ist das erklärte Ziel aller führenden KI-Unternehmen:

Wir sind nun zuversichtlich, dass wir wissen, wie man AGI [künstliche allgemeine Intelligenz] in unserem traditionellen Verständnis entwickelt. […] Wir beginnen, unser Ziel darüber hinaus auf Superintelligenz im wahrsten Sinne des Wortes auszurichten. Wir lieben unsere aktuellen Produkte, aber wir sind hier, um eine glorreiche Zukunft zu gestalten. Mit Superintelligenz können wir alles andere erreichen.

Ich denke, dass [leistungsstarke KI] bereits 2026 verfügbar sein könnte. […] Mit leistungsstarker KI meine ich ein KI-Modell […] mit den folgenden Eigenschaften: In Bezug auf reine Intelligenz ist es intelligenter als ein Nobelpreisträger in den meisten relevanten Bereichen – Biologie, Programmierung, Mathematik, Ingenieurwesen, Schreiben usw. Das bedeutet, dass es ungelöste mathematische Theoreme beweisen, extrem gute Romane schreiben, schwierige Codebasen von Grund auf neu schreiben kann usw.

Insgesamt konzentrieren wir uns auf die Entwicklung einer vollständigen allgemeinen Intelligenz. Alle Möglichkeiten, die ich heute angesprochen habe, sind Folgeerscheinungen der Bereitstellung allgemeiner Intelligenz und deren effizienter Umsetzung.

Ich denke, dass es in den nächsten fünf bis zehn Jahren eine Wahrscheinlichkeit von vielleicht 50 Prozent gibt, dass wir das erreichen, was wir als AGI definieren würden.

Wes: Demis, versuchen Sie also, eine Intelligenzexplosion auszulösen?

Demis: Nein, keine unkontrollierte ...

Sie lassen ihren Worten Taten folgen und auch sehr viel Geld. Microsoft, Amazon und Google haben alle Pläne angekündigt, bis 2025 zwischen 75 und 100 Milliarden Dollar in KI-Rechenzentren zu investieren. Das Start-up xAI hat kurz vor der Beschaffung von 10 Milliarden Dollar zur Unterstützung eines riesigen Rechenzentrums und zur Weiterentwicklung seiner KI Grok das Social-Media-Unternehmen X.com mit einer Bewertung von 80 Milliarden Dollar aufgekauft, was etwa doppelt so viel ist wie X selbst wert ist. OpenAI hat in Zusammenarbeit mit Microsoft und anderen das 500-Milliarden-Dollar-Projekt Stargate angekündigt.

Meta-CEO Mark Zuckerberg hat erklärt, dass Meta in diesem Jahr 65 Milliarden Dollar für KI-Infrastruktur und in den kommenden Jahren "Hunderte von Milliarden" für KI-Projekte ausgeben will. Meta hat bereits 14,3 Milliarden Dollar in ScaleAI investiert und dessen CEO für die Leitung des neuen Meta Superintelligence Labs eingestellt. Dabei hat das Unternehmen mehr als ein Dutzend Spitzenforscher aus konkurrierenden Labors abgeworben und ihnen Angebote von bis zu 200 Millionen Dollar pro einzelnem Forscher gemacht.

Das bedeutet nicht, dass eine KI, die intelligenter ist als der Mensch, schon vor der Tür steht. Aber es bedeutet, dass alle großen Unternehmen mit aller Kraft daran arbeiten, sie zu entwickeln, und dass KIs wie ChatGPT das Ergebnis dieses Forschungsprogramms sind. Diese Unternehmen wollen keine Chatbots entwickeln. Sie wollen Superintelligenzen entwickeln, und Chatbots sind nur eine Zwischenstation auf diesem Weg.

Nach jahrzehntelangem Bemühen, dieses Thema besser zu verstehen und ernsthaft über zukünftige Entwicklungen nachzudenken, sind wir zu der Ansicht gelangt, dass es keine grundsätzlichen Hindernisse dafür gibt, dass Forscher morgen einen Durchbruch erzielen und es schaffen, eine KI zu entwickeln, die intelligenter ist als der Mensch.

Wir wissen nicht, ob diese Schwelle tatsächlich in naher Zukunft erreicht wird oder ob es noch ein Jahrzehnt dauern wird. Die Geschichte zeigt, dass es viel schwieriger ist, den Zeitpunkt für neue Technologien vorherzusagen, als vorherzusagen, dass eine Technologie überhaupt entwickelt wird. Wir glauben jedoch, dass die Anzeichen für eine Gefahr bereits weitaus größer sind, als es erforderlich wäre, um heute schon eine heftige internationale Reaktion zu rechtfertigen. Dieses Argument wird natürlich im Buch dargelegt.

Notes