Warum haben Sie eine Geschichte mit nur einer KI erzählt, die so intelligent ist wie Sable?
Zum Teil, weil es realistisch ist.
AlphaGo (die erste KI, die einen Menschen im Go-Spiel besiegte) war bei ihrer Veröffentlichung im Grunde genommen allein in ihrer Klasse. ChatGPT war bei seiner Veröffentlichung im Grunde genommen allein in seiner Klasse.
KI-Experten sprechen manchmal davon, dass verschiedene andere Konkurrenten nicht weit hinterher waren.*
Aber ähnliche Systeme können dramatisch unterschiedliche Auswirkungen haben. Eine nukleare Kettenreaktion, die 0,98 Neutronen pro Neutron erzeugt, ist in gewisser Weise einer nuklearen Kettenreaktion sehr ähnlich, die 1,02 Neutronen pro Neutron erzeugt; aber die erstere verebbt und die letztere explodiert. Das Gehirn von Schimpansen ist in gewisser Weise dem menschlichen Gehirn sehr ähnlich, aber sie haben sehr unterschiedliche Auswirkungen auf die Welt.
Und bei der Entwicklung der KI im wirklichen Leben hat OpenAI tatsächlich vor allen anderen einen nützlichen Chatbot entwickelt. Eine Reihe anderer Akteure arbeitete an ähnlichen KIs und eine Reihe anderer Akteure holte später auf. Aber es gab eine KI, die als erste die qualitative Grenze überschritten hat, vor allen anderen.
Es scheint eine wichtige Grenze zu geben, die die Menschheit überschritten hat und die Schimpansen nicht, eine Grenze, die es uns ermöglicht hat, eine technologische Zivilisation aufzubauen, während sie in den Bäumen herumhängen. Unsere beste Vermutung ist, dass es irgendwo eine ähnliche Grenze (oder möglicherweise mehrere solche Grenzen) gibt, die moderne KI-Systeme v n KI-Systemen trennt, deren Denken so gut "zusammenpasst", dass sie ihre eigenen vielfältigen Technologien entwickeln können.†
Unsere Argumentation setzt nicht voraus, dass es für Maschinen eine qualitative Kluft gibt, wie es sie für biologisches Leben gab. Vielleicht gibt es diese Kluft gar nicht! Wir hätten auch eine alternative Geschichte schreiben können, in der es diese Kluft nicht gibt. Aber wir haben die Geschichte so geschrieben, weil wir vermuten, dass es eine solche Kluft gibt.
Zum Teil auch, weil es einfacher zu schreiben ist.
Vielleicht wird es keine qualitative Kluft zwischen den heutigen LLMs und künstlicher Superintelligenz geben. Vielleicht werden viele konkurrierende KI-Unternehmen ihre KIs langsam und im Gleichschritt verbessern. Vielleicht gibt es aus irgendeinem Grund keine Sammlung von Fähigkeiten und Fertigkeiten, die es einer KI ermöglichen, sich von der Masse abzuheben, so wie sich Menschen von den übrigen Tieren abgehoben haben. Das ist nicht unsere beste Vermutung, aber nach allem, was wir wissen, ist es möglich.
Aber eine solche Geschichte wäre schwieriger zu schreiben und würde voller unnötiger Details über KI-Fraktionen und ihre interne Politik sein. Wir gehen davon aus, dass dies eher ablenkend wäre. Wir gehen auch davon aus, dass es für die späteren Phasen der Geschichte nicht so wichtig ist. Es spielt keine Rolle, ob es sich um eine KI oder eine Reihe von KIs handelt, die einen Plan ausführen, um sich auf Kosten der Menschheit zu stärken.
Siehe auch unsere Diskussion darüber, dass koordinierte KI den Menschen nichts hinterlassen wird (es sei denn, eine von ihnen kümmert sich bereits um uns).
* Eine solche Analyse finden Sie in “How Far Behind Are Open Models?“, einem Bericht von Cottier et al. von Epoch AI.
† Wir behaupten nicht, dass es eine scharfe Diskontinuität in der Evolution der Primaten gab. Die menschliche Gesellschaft unterschied sich zunächst langsam und dann schnell von der Gesellschaft der Schimpansen. Wir sagen, dass es eine große und äußerst wichtige Kluft zwischen den Dingen gibt, die Menschen heute tun können, und den Dingen, die Schimpansen tun können, unabhängig davon, wie allmählich oder reibungslos der Übergang damals war. Siehe auch unsere Diskussion über kognitive Schwellenwerte im Anhang zu Kapitel 1.