Sind die rücksichtslosesten Unternehmen nicht automatisch auch die inkompetentesten und stellen daher keine Bedrohung dar?
Nicht generell. Abstriche bei der Qualität zu machen ist oft wettbewerbsfähig.
Die Bemühungen von Volkswagen, von 2008 bis 2015 bei Abgastests zu betrügen, waren gewagt – und offenbar effektiv. Die Abstürze der Boeing 737 MAX in den Jahren 2018 und 2019, die auf Mängel im Flugsteuerungssystem zurückzuführen sind, von denen das Management wusste und die es heruntergespielt hat, kosteten 346 Menschen das Leben. Aber die Automobil- und Flugzeugindustrie sind hart umkämpfte Branchen, in denen Volkswagen und Boeing Giganten waren und bleiben.
Es erscheint uns nicht besonders mysteriös, dass Unternehmen, die bereit sind Abstriche bei der Qualität zu machen, trotzdem wettbewerbsfähig sind. In beiden Fällen scheint das Verhalten durch den Druck motiviert gewesen zu sein, leistungsstarke Produkte billiger und schneller als die Konkurrenz auf den Markt zu bringen. Selbst jetzt, nach massiven Vergleichszahlungen und Imageschäden, ist es nicht offensichtlich, dass die Unternehmen aufgrund ihrer Unternehmenskultur, die geschickte Abstriche bei der Qualität zu machen fördert, weniger wettbewerbsfähig sind, auch wenn dies gelegentlich bedeutet, dass sie erwischt werden.
Wenn Sie glauben, dass führende KI-Unternehmen eine Ausnahme von dieser Regel darstellen, betrachten Sie die folgende Schlagzeile (und Unterüberschrift) vom Juli 2025:
Wir glauben nicht, dass es technisch möglich ist, dass ein Team, das moderne Methoden verwendet, eine Superintelligenz aufbaut, ohne eine Katastrophe auszulösen. Aber selbst wenn dies mit der heutigen Technologie entfernt möglich wäre, scheint es angesichts des heutigen Kompetenzniveaus und der heutigen Ernsthaftigkeit fast unvermeidlich, dass ein KI-Unternehmen ohnehin Fehler machen und uns alle umbringen würde.
Selbst die vorsichtigeren Unternehmen sind heute noch leichtsinnig.
Das KI-Unternehmen Anthropic wird von einer beträchtlichen Anzahl von Menschen als führend im Bereich "KI-Sicherheit" angesehen, da es Pionierarbeit bei freiwilligen Sicherheitsverpflichtungen geleistet hat. Aber selbst sie ändern ihre freiwilligen Verpflichtungen in letzter Minute, wenn sich herausstellt, dass sie diese nicht erfüllen können, und ihre "Pläne" sind vage und schlecht durchdacht, wie in Kapitel 11 und in der ausführlichen Diskussion unten kritisiert wird.
Anthropic profitiert stark davon, dass Beobachter nach einer Bewertungskurve vorgehen. In einer normalen Branche würde ein Unternehmen, das sich dafür entscheidet, das Leben von Milliarden von Menschen zu gefährden (wie der CEO zugibt), während es seine Aktivitäten gegenüber der Öffentlichkeit und den Gesetzgebern* routinemäßig herunterspielt, kein Lob für seine Zurückhaltung erhalten.
Wie in vielen wettbewerbsintensiven Branchen ist es auch in der KI-Branche üblich, Abstriche bei der Qualität zu machen. Leichtsinn ist weit verbreitet. Und die weniger leichtsinnigen Unternehmen sind ganz offensichtlich trotzdem nicht auf der Höhe der Herausforderungen.
* Zum Beispiel in einer Stellungnahme vor dem Kongress:
Ähnlich wie Autos oder Flugzeuge sollten wir die KI-Modelle der nahen Zukunft als leistungsstarke Maschinen betrachten, die einen großen Nutzen haben, aber tödlich sein können, wenn sie schlecht konstruiert oder missbraucht werden. […] Neue KI-Modelle sollten sowohl während der Entwicklung als auch vor der Veröffentlichung für die Öffentlichkeit oder für Kunden eine Reihe strenger Sicherheitstests bestehen müssen. […] Im Idealfall würden die Standards jedoch Innovationen im Bereich der Sicherheit vorantreiben, anstatt den Fortschritt zu verlangsamen.
Wir schätzen es, dass Amodei klar zum Ausdruck bringt, dass es seiner Meinung nach Gefahren gibt, die angegangen werden müssen. Das geht einen Schritt weiter als das, was viele Führungskräfte in Unternehmen tun würden. Aber eine Technologie, die seiner Meinung nach eine Wahrscheinlichkeit von 10 bis 25 % hat, eine Katastrophe auf zivilisatorischer Ebene zu verursachen, mit Autos und Flugzeugen zu vergleichen, erscheint uns unaufrichtig.
Notes
[1] Für die Öffentlichkeit: In “Machines of Loving Grace" beispielsweise beschreibt Dario Amodei, CEO von Anthropic, leistungsstarke KI als “ein Land voller Genies in einem Rechenzentrum” und skizziert eine Reihe wunderbarer Vorteile für Gesundheit, Wohlstand, Frieden und Sinn, die solche Köpfe für die Menschheit hervorbringen könnten. Er kommt zu folgendem Schluss:
Grundlegende menschliche Intuitionen wie Fairness, Zusammenarbeit, Neugier und Autonomie sind schwer zu widerlegen und summieren sich auf eine Weise, wie es unsere destruktiveren Impulse oft nicht tun. [...] Diese einfachen Intuitionen führen, wenn man sie zu ihrem logischen Schluss führt, letztendlich zu Rechtsstaatlichkeit, Demokratie und den Werten der Aufklärung. Wenn auch nicht zwangsläufig, so doch zumindest als statistische Tendenz, war dies der Weg, den die Menschheit bereits eingeschlagen hatte. KI bietet lediglich die Möglichkeit, uns schneller dorthin zu bringen – die Logik klarer und das Ziel deutlicher zu machen.
Das ist eine seltsame Art, die Überzeugung zu präsentieren, dass man eine Technologie entwickelt, von der man glaubt, dass sie eine Wahrscheinlichkeit von 10 bis 25 Prozent hat, katastrophale Folgen für die Zivilisation zu haben, selbst wenn man die enormen potenziellen Vorteile im Falle eines Erfolgs berücksichtigt. Selbst wenn die Gefahren so gering sind, wie Amodei glaubt, sollten wir uns bemühen, eine dritte Alternative zu finden, die zwischen “niemals weitermachen” und “vorpreschen” liegt. Und wenn das Unternehmen glaubt, dass es gezwungen ist, voranzuschreiten (weil andere bereits voranschreiten), sollte es die Staats- und Regierungschefs der Welt bitten, diesem Selbstmordrennen ein Ende zu setzen, damit eine dritte Alternative gefunden werden kann. Ein rosiges Bild zu zeichnen, scheint nur eine Ablenkung zu sein, wenn es darum geht, mit dem Leben aller zu spielen.