Können wir anhand der bisherigen Fortschritte extrapolieren, wann wir eine KI entwickeln werden, die intelligenter ist als der Mensch?
Dafür verstehen wir Intelligenz nicht gut genug.
Eine Art erfolgreicher Vorhersagen besteht darin, eine gerade Linie in einem Diagramm zu nehmen, die seit vielen Jahren stabil ist, und vorherzusagen, dass diese gerade Linie mindestens noch ein oder zwei Jahre lang anhält.
Das funktioniert nicht immer. Trendlinien ändern sich manchmal. Aber oft funktioniert es recht gut. Das ist eine der Arten, auf die Menschen in der Praxis erfolgreiche Vorhersagen treffen.
Das große Problem bei dieser Methode ist, dass wir oft eigentlich nicht etwa wissen wollen, "wie hoch diese Linie im Diagramm bis 2027 sein wird", sondern vielmehr "Was passiert qualitativ, wenn diese Linie weiter steigt?" Welche Höhe der Linie entspricht welchen wichtigen Ergebnissen in der realen Welt?
Und im Fall der KI wissen wir das einfach nicht. Es ist leicht genug, eine Messgröße für künstliche Intelligenz auszuwählen, die eine gerade Linie auf einem Diagramm bildet (z. B. "Perplexität" ), und diese Linie nach außen zu projizieren. Aber niemand weiß, welches zukünftige Niveau der "Perplexität" welchem Niveau der qualitativen Schachspielfähigkeit entspricht. Das kann man nicht im Voraus vorhersagen, man muss einfach die KI laufen lassen und es herausfinden.
Niemand weiß, wo auf diesem Diagramm die Linie "Jetzt hat sie die Fähigkeit, alle zu töten" liegt. Man kann nur die KI laufen lassen und es herausfinden. Die Extrapolation der geraden Linie auf dem Diagramm hilft uns also nicht weiter. (Und das noch bevor das Diagramm durch den algorithmischen Fortschritt irrelevant wird.)
Aus diesem Grund verbringen wir in dem Buch keine Zeit damit, Linien auf Diagrammen zu extrapolieren, um genau vorherzusagen, wann jemand 1027 Gleitkommaoperationen für das Training einer KI einsetzen wird oder welche Folgen dies haben würde. Das ist eine unsichere Vorhersage. Das Buch konzentriert sich auf das, was uns als einfache Entscheidungen erscheinen. Dies ist ein enges Spektrum an Themen, und unsere Fähigkeit, eine kleine Anzahl wichtiger Vorhersagen in diesem engen Bereich zu treffen, rechtfertigt es nicht, willkürliche Prognosen über die Zukunft zu stellen.