Was lässt Sie glauben, dass Menschen eine übermenschliche KI bauen können, wenn sie nicht einmal Intelligenz verstehen? | If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde | If Anyone Builds It, Everyone Dies

Was lässt Sie glauben, dass Menschen eine übermenschliche KI bauen können, wenn sie nicht einmal Intelligenz verstehen?

Bisherige Fortschritte im Bereich der KI erforderten kein großes Verständnis von Intelligenz.

Wie in Kapitel 2 erläutert, hat der Bereich der KI seine jüngsten Erfolge durch den Einsatz der Gradientenabstiegsmethode erzielt, einem Verfahren, das kein Verständnis von Intelligenz seitens des Menschen erfordert. Die Menschen sind wirklich weit gekommen, ohne Intelligenz verstehen zu müssen.

Die natürliche Selektion musste Intelligenz nicht "verstehen".

Die Evolution war in der Lage, menschliche Intelligenz hervorzubringen, ohne dass die natürliche Selektion jemals Intelligenz verstanden hätte. Verständnis mag in der Praxis hilfreich sein oder auch nicht, aber die Vorstellung, dass wir sie verstehen müssen, um sie hervorzubringen, ist nicht stichhaltig.

Zeigen Halluzinationen nicht, dass moderne KIs schwach sind?

›

Warum ist Gradientenabstieg wichtig?

Er ist wichtig, um zu verstehen, wie Ingenieure moderne KI gestalten können und wie nicht. 2 Min. Lesezeit

Verstehen Experten, was im Inneren von KI vor sich geht?

Nein. 12 Min. Lesezeit

Ist Intelligenz grundsätzlich verständlich?

Wahrscheinlich. 1 Min. Lesezeit

Aber einige KI denken teilweise auf Englisch – hilft das nicht?

Nicht so sehr, wie man hoffen könnte, denn wir sehen bereits Anzeichen von Untreue. 5 Min. Lesezeit

Sind KI nicht "nur Mathematik"?

Zu sagen, KI sei "nur Mathematik", ist wie zu sagen, Menschen seien "nur Biochemie". 4 Min. Lesezeit

Sagen KI nicht einfach nur das nächste Zeichen voraus?

Um Zeichen vorherzusagen, muss man die Welt verstehen. 3 Min. Lesezeit

Sind KI nicht nur in der Lage, das nachzuplappern, was Menschen sagen?

KI kann bereits ihre Trainingsdaten übertreffen oder auf menschliche Daten verzichten. 6 Min. Lesezeit

Werden KI nicht zwangsläufig kalt und logisch sein oder ihnen sonst etwas Entscheidendes fehlen?

Nein. 2 Min. Lesezeit

Werden LLMs nicht wie die Menschen in den Daten sein, mit denen sie trainiert werden?

Es gibt einen Unterschied zwischen den Mechanismen, die erforderlich sind, um eine Person zu sein, und den Mechanismen, die erforderlich sind, um viele Individuen vorherzusagen. 8 Min. Lesezeit

Wie könnte eine KI, die nur mit menschlichen Daten trainiert wurde, den Menschen übertreffen?

Vielleicht indem sie allgemeine Fähigkeiten erlernt und diese besser umsetzt. 4 Min. Lesezeit

Was lässt Sie glauben, dass Menschen eine übermenschliche KI bauen können, wenn sie nicht einmal Intelligenz verstehen?

Bisherige Fortschritte im Bereich der KI erforderten kein großes Verständnis von Intelligenz. 1 Min. Lesezeit

Zeigen Halluzinationen nicht, dass moderne KIs schwach sind?

Halluzinationen offenbaren sowohl eine Einschränkung als auch ein Misalignment. 5 Min. Lesezeit

Aber werden uns nicht die Daten ausgehen, bevor die KI ihr Ziel erreicht? Oder die elektrische Energie? Oder die Finanzierung?

Wahrscheinlich nicht. 2 Min. Lesezeit

Könnten LLMs sich bis zur Superintelligenz weiterentwickeln?

Andere Ansätze könnten bald zu Superintelligenz führen, auch wenn LLM dies nicht schaffen. 1 Min. Lesezeit

Ihre Frage wurde hier nicht beantwortet?Eine Frage einreichen.

Ausführliche Diskussion

Was bringt das Wissen über LLMs?

"Offensichtliche" Erkenntnisse brauchen Zeit

Eine vollständige Beschreibung eines LLM