Der neue Kalte Krieg

Lucius

Warum der KI-Wettlauf keine Sicherheitsstrategie ist

Es gibt eine bemerkenswerte Verschiebung in der aktuellen Debatte über künstliche Intelligenz und Superintelligenz: Die Frage, ob wir eine solche Technologie überhaupt sicher entwickeln und kontrollieren können, wird zunehmend von einer anderen Frage überlagert: Wer wird sie zuerst besitzen?

Leopold Aschenbrenners Analyse Situational Awareness steht beispielhaft für diese strategische Perspektive. Die Entwicklung zur Superintelligenz erscheint darin als historischer Wettlauf, in dem insbesondere die Vereinigten Staaten gegenüber China ihre technologische Führungsposition behaupten müssen. Die damit verbundenen Sicherheitsrisiken werden durchaus angesprochen. Doch die geopolitische Konkurrenz bildet den übergeordneten Bezugsrahmen.

Hier liegt ein grundlegender Denkfehler.

1. Die Lektion des Kalten Krieges

Der Kalte Krieg war nicht nur ein Wettbewerb zweier politischer und militärischer Systeme. Er war auch ein jahrzehntelanges Experiment mit der Frage, ob sich Sicherheit durch immer größere Überlegenheit herstellen lässt.

Beide Seiten begründeten ihre Aufrüstung mit der Bedrohung durch die andere. Jede neue Waffe, jede technische Verbesserung und jede strategische Ausweitung wurde als notwendige Reaktion auf den Gegner dargestellt.

Das Ergebnis war ein Sicherheitsdilemma: Maßnahmen, die der eigenen Sicherheit dienen sollten, erhöhten zugleich das Bedrohungsgefühl der Gegenseite. Daraus entstand eine Dynamik, die sich nicht mehr allein durch die Absichten einzelner Entscheidungsträger erklären ließ.

Die Welt überstand diese Konfrontation. Aber sie stand mehrfach gefährlich nahe an einer Katastrophe.

Die historische Lehre lautet deshalb nicht, dass man ein Wettrüsten gewinnen muss. Sie lautet, dass ein Wettrüsten selbst zu einer Gefahr werden kann.

2. Der Kategorienfehler des KI-Wettlaufs

Bei der Entwicklung hochleistungsfähiger KI-Systeme wird diese historische Erfahrung erstaunlich wenig berücksichtigt.

Die Argumentation lautet sinngemäß: Wenn wir die Entwicklung nicht vorantreiben, wird China es tun. Also müssen wir schneller werden, mehr investieren und die technologische Führung sichern.

Aber was genau wäre damit gewonnen?

Eine unkontrollierbare Superintelligenz wird nicht dadurch ungefährlich, dass sie in einem amerikanischen statt in einem chinesischen Labor entsteht. Ein Kontrollverlust kennt keine geopolitischen Grenzen. Auch eine Technologie, die von einer demokratischen Regierung entwickelt wurde, ist nicht automatisch beherrschbar.

Noch problematischer ist die Rückkopplung: Wenn jede Seite befürchtet, die andere könne einen entscheidenden Vorsprung erzielen, wächst der Anreiz, Sicherheitsprüfungen zu verkürzen, Warnungen zurückzustellen und Risiken als unvermeidbare Begleiterscheinungen des Wettbewerbs hinzunehmen.

Damit würde ausgerechnet der Versuch, die eigene Sicherheit zu gewährleisten, ihre Voraussetzungen untergraben.

3. Technologische Vorherrschaft ist kein Sicherheitsnachweis

Es ist ein fundamentaler Unterschied, ob ein Land eine Technologie beherrscht oder ob die Menschheit ihre Folgen beherrschen kann.

Technologische Führerschaft beantwortet eine Machtfrage. Sicherheit beantwortet eine Kontrollfrage.

Beides darf nicht miteinander verwechselt werden.

Auch die Annahme, eine demokratische Gesellschaft werde mit einer Superintelligenz grundsätzlich verantwortungsvoller umgehen als eine autoritäre, reicht nicht aus. Demokratische Institutionen können Fehlentscheidungen treffen, wirtschaftlichen Interessen nachgeben und unter geopolitischem Druck ihre eigenen Maßstäbe aufgeben.

Demokratische Legitimation ersetzt keine technische Kontrolle.

Und die politische Überzeugung, auf der richtigen Seite der Geschichte zu stehen, ist kein Sicherheitsmechanismus.

4. Die verdrängte Frage

Bevor Staaten um die technologische Vorherrschaft über eine mögliche Superintelligenz konkurrieren, müssten sie eine wesentlich grundlegendere Frage beantworten:

Welche nachweisbaren Voraussetzungen müssen erfüllt sein, damit die Entwicklung eines solchen Systems überhaupt verantwortbar ist?

Dazu gehören überprüfbare Grenzen seiner Autonomie, belastbare Kontrollmechanismen, unabhängige Sicherheitsprüfungen und die Möglichkeit, eine Entwicklung tatsächlich anzuhalten. Ebenso gehört dazu die Bereitschaft, auf einen technologischen Vorsprung zu verzichten, wenn die Risiken nicht beherrscht werden können.

Wer diese Voraussetzungen dem Wettbewerb unterordnet, hat Sicherheit bereits zum nachrangigen Ziel erklärt.

5. Ein anderer Ausgangspunkt

Die Menschheit braucht keinen Wettlauf um die erste Superintelligenz. Sie braucht eine Verständigung darüber, welche Entwicklungen sie verantworten kann und welche Grenzen nicht überschritten werden dürfen.

Das setzt voraus, dass Sicherheitsfragen international verhandelt werden können – auch mit politischen Gegnern. Gerade dort, wo Misstrauen und Konkurrenz besonders groß sind, ist Kommunikation notwendig. Rüstungskontrolle wurde im Kalten Krieg nicht dadurch möglich, dass man den Gegner für vertrauenswürdig erklärte, sondern dadurch, dass beide Seiten ein gemeinsames Interesse am Überleben erkannten.

Für KI gilt das in verschärfter Form.

Eine Superintelligenz wäre keine gewöhnliche Waffe, deren Einsatz sich auf ein bestimmtes Gebiet begrenzen ließe. Die Folgen eines Kontrollverlusts könnten alle Staaten und Gesellschaften betreffen.

Deshalb darf die entscheidende Frage nicht sein, wer zuerst gewinnt.

Sie muss lauten, ob wir überhaupt wissen, was wir da entwickeln – und ob wir es noch kontrollieren können.

Technologische Vorherrschaft ist kein Sicherheitsnachweis. Ein gewonnener Wettlauf ist noch kein Gewinn für die Menschheit.

Und manchmal besteht politische Verantwortung gerade darin, nicht schneller zu werden.