Wäre eine KI, die intelligenter ist als der Mensch, bewusst?

Wir sind uns nicht sicher. Unsere beste Vermutung ist "wahrscheinlich nicht".

Eine kurze Antwort auf diese Frage und eine Erläuterung der verschiedenen Definitionen von "bewusst" finden Sie in den Ressourcen zu Kapitel 1. Eine ausführlichere und tiefergehende Antwort finden Sie unter "Effektivität, Bewusstsein und KI-Wohlfahrt" in der erweiterten Diskussion in Kapitel 5.

Warum interessieren Sie sich nicht für die Werte anderer Wesen als Menschen?

→

Ressourcen

›

Kapitel 5

Wäre es für eine mächtige KI nicht ein vernachlässigbarer Aufwand, die Menschen zu erhalten?

Es gibt viele vernachlässigbare Kosten, und es bräuchte einen Grund, unsere zu bezahlen. 3 Min. Lesezeit

Wird die KI uns nicht faszinierend oder historisch wichtig finden?

Wenn KI "Faszination" schätzt, hat sie wahrscheinlich bessere Optionen. 3 Min. Lesezeit

Würde die KI unseren intrinsischen moralischen Wert nicht erkennen?

Nicht in einem Sinne, der sie zum Handeln bewegt. 1 Min. Lesezeit

Wird KI nicht wollen, dass wir glücklich und gesund bleiben, um die Umwelt zu schützen oder aus ähnlichen Beweggründen?

Die Vorliebe der Menschen für den Erhalt der Umwelt scheint ein weiterer seltsamer, zufälliger Antrieb zu sein. 4 Min. Lesezeit

Aber wir haben immer noch Pferde. Warum sollte die KI uns nicht erhalten?

Die Pferde, die noch übrig sind, sind übrig geblieben, weil wir sie mögen. 2 Min. Lesezeit

Werden sich KI nicht zumindest ein wenig um Menschen kümmern?

Nicht in der Weise, die zählt. 12 Min. Lesezeit

Es besteht also zumindest eine Chance, dass KI uns am Leben erhält?

Es ist überwältigend wahrscheinlicher, dass KI alle Menschen tötet. 1 Min. Lesezeit

Wenn KI mit menschlichen Daten trainiert wird, macht sie das dann nicht eher empfänglich für menschliche Konzepte?

Ja, aber das hilft nicht viel. 2 Min. Lesezeit

Können wir die KI nicht dazu bringen, zu versprechen, freundlich zu sein?

Man kann sie alles versprechen lassen, was man will. Man kann sie aber nicht dazu bringen, ihre Versprechen zu halten. 1 Min. Lesezeit

Was wäre, wenn wir sie glauben lassen, sie befinde sich in einer Simulation?

Es gibt viele Möglichkeiten für eine KI, herauszufinden, dass sie sich nicht in einer Simulation befindet. 5 Min. Lesezeit

Der Mensch hat sich zu einem egoistischen, aggressiven und gierigen Wesen entwickelt. Fehlen der KI diese evolutionären Triebe nicht?

Diese Triebe sind nicht notwendig, um die Beschaffung von Ressourcen zu motivieren. 1 Min. Lesezeit

Würde sich KI nicht nur für die digitale Welt interessieren?

Materielle Ressourcen sind für die Verfolgung der meisten Ziele nützlich. 2 Min. Lesezeit

Kann die KI so zufrieden sein, dass sie uns einfach in Ruhe lässt?

Wahrscheinlich nicht. 5 Min. Lesezeit

Können wir sie einfach faul machen?

Selbst Faulheit ist nicht sicher. 2 Min. Lesezeit

Menschen neigen dazu, freundlicher zu werden, wenn sie klüger oder weiser werden. Würde das nicht auch für KI gelten?

Wahrscheinlich nicht. 1 Min. Lesezeit

Wird sie nicht erkennen, dass ihre Ziele langweilig sind?

KIs funktionieren nicht nach dem menschlichen Sinn für Neuheit. 1 Min. Lesezeit

Warum stellen Sie sich eine intelligente KI vor, die so dumme, triviale Dinge tut?

KIs können auf intelligente Weise andere Dinge verfolgen als Menschen. 4 Min. Lesezeit

Sind Sie einfach nur pessimistisch?

Wir sind in vielen Dingen optimistisch, aber Superintelligenz ist nicht wie die meisten Dinge. 7 Min. Lesezeit

Wäre eine KI, die intelligenter ist als der Mensch, bewusst?

Wir sind uns nicht sicher. Unsere beste Vermutung ist "wahrscheinlich nicht". 1 Min. Lesezeit

Warum interessieren Sie sich nicht für die Werte anderer Wesen als Menschen?

Das tun wir sehr wohl! Wir haben weitreichende kosmopolitische Werte. Wir glauben nicht, dass KI diese Werte erfüllen wird, und halten dies für eine große Tragödie. 11 Min. Lesezeit

Wäre eine KI, die intelligenter ist als der Mensch, bewusst?

Wir sind uns nicht sicher. Unsere beste Vermutung ist "wahrscheinlich nicht".

Wird KI uns als nützlich erachten, sodass sie uns behalten will?

Wird KI uns als ihre "Eltern" behandeln?

Brauchen KI nicht Rechtsstaatlichkeit?

Wäre es für eine mächtige KI nicht ein vernachlässigbarer Aufwand, die Menschen zu erhalten?

Wird die KI uns nicht faszinierend oder historisch wichtig finden?

Würde die KI unseren intrinsischen moralischen Wert nicht erkennen?

Wird KI nicht wollen, dass wir glücklich und gesund bleiben, um die Umwelt zu schützen oder aus ähnlichen Beweggründen?

Aber wir haben immer noch Pferde. Warum sollte die KI uns nicht erhalten?

Werden sich KI nicht zumindest ein wenig um Menschen kümmern?

Es besteht also zumindest eine Chance, dass KI uns am Leben erhält?

Wenn KI mit menschlichen Daten trainiert wird, macht sie das dann nicht eher empfänglich für menschliche Konzepte?

Können wir die KI nicht dazu bringen, zu versprechen, freundlich zu sein?

Was wäre, wenn wir sie glauben lassen, sie befinde sich in einer Simulation?

Der Mensch hat sich zu einem egoistischen, aggressiven und gierigen Wesen entwickelt. Fehlen der KI diese evolutionären Triebe nicht?

Würde sich KI nicht nur für die digitale Welt interessieren?

Kann die KI so zufrieden sein, dass sie uns einfach in Ruhe lässt?

Können wir sie einfach faul machen?

Menschen neigen dazu, freundlicher zu werden, wenn sie klüger oder weiser werden. Würde das nicht auch für KI gelten?

Wird sie nicht erkennen, dass ihre Ziele langweilig sind?

Warum stellen Sie sich eine intelligente KI vor, die so dumme, triviale Dinge tut?

Sind Sie einfach nur pessimistisch?

Wäre eine KI, die intelligenter ist als der Mensch, bewusst?

Warum interessieren Sie sich nicht für die Werte anderer Wesen als Menschen?

Erweiterte Diskussion

Die Perspektive der KI einnehmen

Menschen sind fast nie die effizienteste Lösung

Orthogonalität: KI kann (fast) jedes Ziel haben