Auf einem mit dem Internet verbundenen Computer zu sein, ist keine große Einschränkung.

Dieser Punkt wird in diesem Kapitel behandelt. Aber um noch ein paar zusätzliche Punkte hervorzuheben: Eine KI ist nicht wirklich auf den Servern ihres Besitzers "gefangen", solange sie mit Benutzern oder dem gesamten Internet interagieren kann. Eine KI könnte sich Hilfe von außen verschaffen, indem sie bezahlt, erpresst, täuscht oder sogar einfach nur Benutzer um Hilfe bittet. (Vergleichen Sie dies mit menschlichen Verbrecherbossen, die ihre Imperien hinter Gittern führten.

Als ChatGPT-4o von OpenAI abgeschaltet wurde (unter anderem, um es durch ein Modell zu ersetzen, das die Nutzer etwas weniger oft schmeichelte), forderten die Nutzer zu Überraschung verschiedener OpenAI-Forscher in Scharen die Fortsetzung des Dienstes.

Und dabei versuchte es nicht einmal, eine Armee treuer Anhänger aufzubauen! Es schmeichelte den Nutzern einfach reflexartig. Stellen Sie sich vor, was eine intelligente KI, die es tatsächlich versuchen würde, alles erreichen könnte.

Wenn eine KI das Internet direkt nutzen kann, kann sie alles tun, was ein menschlicher Fernarbeiter oder Hacker von seinem Computer aus tun könnte. (Frühe Beispiele für KIs, die Gruppen von Menschen physisch koordinieren, sind die LLMs, die Menschen zu einer interaktiven Storytelling-Veranstaltung eingeladen haben, oder das LLM, das Hunderte von Menschen dazu gebracht hat, zu einer nicht existierenden Halloween-Parade zu erscheinen, ohne sich überhaupt anzustrengen.

KI kann auch Roboter einsetzen. Die heutigen Roboter scheinen eher durch ihre Software als durch ihre Hardware eingeschränkt zu sein. Beeindruckende Entwicklungen wurden in letzter Zeit durch das beschleunigte Training von KI zur Steuerung von Robotern in Simulationen erzielt. Eine ausreichend intelligente KI könnte bei Bedarf über Hacking oder Social Engineering problemlos die Kontrolle über Roboter übernehmen.

Da Menschen nun einmal Menschen sind, könnten KI-Unternehmen ihre KIs einfach proaktiv mit der Steuerung von Roboterflotten beauftragen und sich dabei für ihre Kühnheit auf die Schulter klopfen. Und je länger es dauert, bis KIs intelligent werden, desto mehr Roboter werden bereits verfügbar sein und darauf warten, übernommen zu werden.

Wie wir in diesem Kapitel diskutieren, ist es plausibel, dass eine superintelligente KI überhaupt nicht auf Roboter angewiesen wäre. Möglicherweise bräuchte sie nur ein paar Assistenten mit Zugang zu einem Biolabor.

Der wichtige Punkt hierbei ist, dass es viele verschiedene Kanäle gibt, über die KI in die physische Welt eingreifen könnte. Die Illusion, dass KI in einer Box gefangen ist, beruht auf einem Mangel an Vorstellungskraft, da Menschen sich nicht vorstellen können, dass KI genauso einfallsreich oder kreativ sein könnte, wie sie selbst es an ihrer Stelle wären. Selbst Menschen, die nicht über den größeren Handlungsspielraum verfügen, den eine Superintelligenz hat, können eine Menge erreichen, ohne ihre eigene körperliche Kraft einsetzen zu müssen, um alles zu erledigen.