Ja. Wir befürworten auch ein Forschungsverbot.

Es macht uns keine Freude, das zu sagen. Es wäre ein Verlust, wenn es ab 2024 für Einzelpersonen illegal wäre, mehr als (sagen wir) acht unüberwachte H100-GPUs zu besitzen.

Aber es würde nicht so viel verloren gehen, dass die Menschheit versuchen müsste, genau herauszufinden, wie groß ein Rechenzentrum sein darf, bevor es riskant wird. Eine zu niedrige Grenze bedeutet, dass einige wenige Menschen in ihrer Fähigkeit behindert werden, Fortschritte bei interessanten Projekten zu erzielen. (Neun H100-GPUs würden heute mindestens 270.000 Dollar kosten.) Eine zu hohe Grenze bedeutet, dass alle sterben.

Außerdem wird dieses Regime, in dem KI enorme Rechenleistung erfordert, um aufgebaut zu werden, nicht ewig bestehen bleiben. LLMs gibt es heutzutage bereits. Selbst wenn der Bau neuer LLMs verboten würde und der Aufbau enormer Rechenleistung verboten wäre, könnten die Menschen im Prinzip ihre inneren Abläufe untersuchen und einige Erkenntnisse darüber gewinnen, wie Intelligenz funktioniert, Erkenntnisse, die ihnen helfen könnten, effizientere Algorithmen zu entwickeln, die sich Überwachungsversuchen entziehen können.