Nein. Superintelligente KI ist ein sehr ungewöhnlicher Fall.

Wir setzen uns öffentlich für Technologien wie Kernenergie, Kryonik, die Erweiterung der menschlichen Intelligenz und Human Challenge Trials für medizinische Tests ein.

Mehr noch, wir sind bereit zu sagen, dass es, wenn eine verrückte Erfindung nur das Leben freiwilliger Kunden gefährdet, die alle relevanten Gefahren verstehen, Sache dieser freiwilligen Kunden ist, ihre eigenen Entscheidungen zu treffen.

Wir würden sogar bestimmte Fälle begrüßen, in denen Technologie Unbeteiligten schadet, wie es der Fall war, als London viel Kohle verbrannte und dabei viel Lungenkrebs verursachte, um die Gesellschaft zu industrialisieren und Lebensstandard und Lebensqualität insgesamt anzuheben.

Wir glauben, dass die Welt nach Abschluss der Industrialisierung besser geworden ist. Wir schätzen im Allgemeinen die Wissenschaft, den Fortschritt und den menschlichen Geist und seine Fähigkeit, die meisten Hindernisse zu überwinden.

Einige dieser Positionen sind bei den Menschen, von denen wir erwarten, dass sie dies lesen, unbeliebt. Wir beschreiben diese Positionen nicht, um Ihre Gunst zu gewinnen, sondern um unsere ehrlichen Überzeugungen deutlich zu machen und zu unterstreichen, dass KI anders ist.

Warum ist KI anders? Warum vertrauen wir in diesem einen speziellen Fall nicht auf den menschlichen Geist und die Kraft der wissenschaftlichen Forschung?

Die Antwort lautet: Umfang. Es ist etwas anderes, das eigene Leben zu riskieren, als das Leben Ihrer Kunden zu riskieren, was wiederum etwas anderes ist, als das Leben unschuldiger Zuschauer zu riskieren, was wiederum etwas anderes ist, als die gesamte Menschheit zu riskieren.

Dies gilt umso mehr, wenn Ihr Fachgebiet noch in den Kinderschuhen steckt und die Chancen, Ihr Risiko zu gewinnen, verschwindend gering sind.