In diesem Kapitel haben wir geschrieben, dass man die "Oberflächlichkeit" der Intelligenz aktueller KI (Stand Mitte bis Ende 2025) erkennen kann, wenn man weiß, wo man suchen muss. Falls Sie dies noch nicht selbst festgestellt haben, finden Sie hier einige Anhaltspunkte:

• Anthropics Claude 3.7 Sonnet blieb in sich wiederholenden Schleifen stecken, als es versuchte, ein einfaches Pokémon-Videospiel zu schlagen.
• Im November 2022 war eine der besten Go-spielenden Entitäten der Welt eine KI namens KataGo. Zumindest bis Forscher einen Weg fanden, sie mit einer vorhersehbaren Abfolge von Zügen zu besiegen, die eine Art "blinden Fleck" auslösten und KataGo zu Fehlern veranlassten, die selbst Amateure nicht machen würden. Zwei Jahre später gelang es den Ingenieuren immer noch nicht, sie gegen solche Angriffe robust zu machen.
• Aktuelle "multimodale" LLMs (die mit Text, Bildern und anderen Medien statt nur mit Text arbeiten können) haben Schwierigkeiten, analoge Uhren und Kalender in Aufgaben zu interpretieren, die die meisten menschlichen Viertklässler bewältigen können.
• Aktuelle LLMs scheitern bekanntermaßen an einfachen Variationen eines klassischen Arzt-Rätsels mit einfachen, nicht trickreichen Antworten und scheinen nicht widerstehen zu können, die trickreiche Antwort zu nennen, die das Rätsel in seiner üblichen Form enthält.

(Die Online-Ressourcen zu Kapitel 4 bieten einen eher technischen Blick darauf, woher diese Oberflächlichkeit stammen könnte.)

Das soll nicht heißen, dass KI generell dumm ist. Moderne KI kann auch Goldmedaillen bei der Internationalen Mathematik-Olympiade gewinnen, was eine bemerkenswerte Leistung in Sachen mathematischer Fähigkeiten ist. Moderne KI kann eine unglaubliche Vielfalt an Dingen tun und oft die Leistung von Menschen erreichen oder sogar übertreffen.

Ihre Fähigkeiten sind seltsam. Menschliche Stärken und Schwächen sind ein schlechter Anhaltspunkt dafür, was KI leichter oder schwerer fällt, da sich KI in vielerlei Hinsicht radikal und grundlegend vom Menschen unterscheidet.

Wir sagen nicht, dass ChatGPT Sie morgen umbringen wird (wie wir bereits erwähnt haben). Moderne KI hat immer noch eine gewisse Oberflächlichkeit. Vielmehr beobachten wir, dass das Gebiet Fortschritte macht und es unklar ist, wie lange diese Oberflächlichkeit noch bestehen wird.