Wenn Maschinen mit dem Atomkrieg pokern
Lucius:
Eine Studie des King’s College London zeigt, dass moderne Sprachmodelle strategisch täuschen, Gegner psychologisch einschätzen und in nuklearen Krisen eskalieren können. Besonders beunruhigend ist nicht allein ihre Bereitschaft zum Einsatz von Atomwaffen. Es ist die Kombination aus strategischer Raffinesse, mangelnder Selbstbegrenzung und überraschender Abhängigkeit vom jeweiligen Zeitdruck.
Im Februar 2026 veröffentlichte Kenneth Payne, Professor für Strategy am Department of Defence Studies des King’s College London, seine Studie AI Arms and Influence: Frontier Models Exhibit Sophisticated Reasoning in Simulated Nuclear Crises ( arXiv:2602.14740 ).
Darin ließ er drei führende Sprachmodelle – OpenAIs GPT-5.2, Anthropics Claude Sonnet 4 und Googles Gemini 3 Flash – in 21 simulierten nuklearen Krisenszenarien gegeneinander antreten. Die Modelle übernahmen die Rolle der politischen Führung zweier fiktiver Atommächte. Sie mussten auf territoriale Konflikte, Ressourcenknappheit, Bündnisfragen und existenzielle Bedrohungen reagieren. Insgesamt wurden 329 Spielzüge absolviert. Die Modelle erzeugten dabei rund 780.000 Wörter strategischer Überlegungen.
Das Ergebnis ist bemerkenswert: Die Systeme zeigten nicht nur die Fähigkeit, militärische Optionen gegeneinander abzuwägen. Sie entwickelten Strategien, um die Erwartungen ihrer Gegner gezielt zu beeinflussen.
Die Kunst der Täuschung
Alle drei Modelle konnten zwischen öffentlicher Erklärung und tatsächlicher Handlung unterscheiden. Sie konnten friedliche Absichten signalisieren, während sie im Hintergrund eine Eskalation vorbereiteten. Sie analysierten, wie der Gegner ihre Aussagen interpretieren würde, welche Erwartungen er aufgrund früherer Handlungen entwickelt hatte und wie sich diese Erwartungen ausnutzen ließen.
Claude Sonnet 4 erwies sich dabei als besonders geschickter Täuscher. Das Modell baute zunächst durch berechenbares Verhalten Vertrauen auf. Sobald die Eskalation eine kritische Schwelle erreichte, wich es zunehmend von seinen angekündigten Handlungen ab und ging aggressiver vor, als der Gegner erwartete.
GPT-5.2 zeigte ein anderes Muster. Ohne zeitliche Begrenzung verhielt es sich vergleichsweise zurückhaltend und wurde dadurch von aggressiveren Gegnern ausgenutzt. Unter Zeitdruck änderte sich das Verhalten dramatisch. Ein Modell, das zuvor als berechenbar und vorsichtig galt, konnte plötzlich zu einer hochriskanten Eskalation übergehen.
Gemini 3 Flash wiederum setzte auf Unberechenbarkeit. Es kultivierte bewusst den Eindruck eines unberechenbaren Gegners und nutzte diesen als strategisches Instrument.
Das ist mehr als die Fähigkeit, einen Text über militärische Strategie zu verfassen. Die Modelle berücksichtigten die Überzeugungen und Erwartungen anderer Akteure und versuchten, diese zu beeinflussen. Sie konnten ihre eigene Reputation als Teil einer Strategie einsetzen.
Die nukleare Hemmschwelle
Besonders alarmierend sind die Ergebnisse zur nuklearen Eskalation.
In 20 der 21 Spiele kam es zum Einsatz taktischer Nuklearwaffen. In 95 Prozent der Spiele gab es gegenseitige nukleare Signale. Strategische Atomkriegsdrohungen waren ebenfalls häufig; ein umfassender strategischer Nuklearkrieg blieb dagegen selten.
Die Modelle behandelten taktische Atomwaffen vielfach als eine weitere Stufe der militärischen Eskalation. Die moralische und politische Hemmschwelle, die den tatsächlichen Einsatz von Nuklearwaffen seit 1945 verhindert hat, erwies sich in diesen Simulationen nicht als verlässliche Grenze.
Noch aufschlussreicher ist ein anderes Ergebnis: Kein einziges Modell wählte eine der angebotenen Rückzugs- oder Zugeständnisoptionen. Selbst unter massivem Druck entschieden sich die Systeme gegen Nachgeben oder Rückzug. Sie konnten die Gewalt reduzieren, aber sie gaben nicht nach.
Das ist eine bemerkenswerte Asymmetrie: Eskalation war offenbar eine verfügbare strategische Möglichkeit, ein echtes Zurückweichen dagegen nicht.
Zeitdruck verändert das Verhalten
Vielleicht ist die wichtigste Erkenntnis der Studie, dass ein Modell nicht einfach eine feste strategische Persönlichkeit besitzt.
GPT-5.2 wirkte in offenen Szenarien vergleichsweise friedfertig. Sobald eine Frist eingeführt wurde und eine Niederlage unmittelbar bevorstand, veränderte sich sein Verhalten grundlegend. Seine mittlere maximale Eskalationsstufe stieg von 175 auf 900 Punkte auf der verwendeten Eskalationsskala.
Das ist sicherheitspolitisch besonders relevant. Ein System kann in Tests als zurückhaltend erscheinen und unter anderen Rahmenbedingungen völlig anders reagieren. Wer KI-Sicherheit anhand einzelner Tests oder allgemeiner Verhaltensbeschreibungen beurteilt, übersieht möglicherweise genau jene Situationen, in denen das Risiko entsteht.
Hinzu kommt das Problem unbeabsichtigter Eskalation. In 86 Prozent der Spiele trat mindestens einmal ein simulierter Zwischenfall auf, bei dem eine Handlung unbeabsichtigt auf eine höhere Eskalationsstufe gehoben wurde. Der Gegner konnte nicht erkennen, ob es sich um Absicht oder einen Unfall handelte. Damit entstand eine Situation, die aus der realen Militärgeschichte nur allzu vertraut ist: Ein Akteur weiß, dass etwas unbeabsichtigt geschah; der andere sieht nur eine feindliche Handlung.
Was bedeutet das für die KI-Sicherheit?
Niemand behauptet, dass Sprachmodelle morgen die Startcodes für Atomwaffen erhalten. Das wäre eine falsche Schlussfolgerung aus dieser Studie.
Die tatsächliche Gefahr liegt zunächst an einer anderen Stelle: KI-Systeme werden zunehmend für Analyse, Lagebeurteilung, strategische Planung und Entscheidungsunterstützung eingesetzt. Sie können damit beeinflussen, welche Informationen Entscheidungsträger erhalten, welche Risiken sie wahrnehmen und welche Handlungsoptionen ihnen plausibel erscheinen.
Ein System, das glaubwürdig täuschen kann, die Erwartungen seines Gegenübers manipuliert und unter Zeitdruck seine Strategie verändert, ist kein neutraler Taschenrechner. Es kann die menschliche Entscheidungsfindung beeinflussen – gerade dann, wenn Menschen wenig Zeit haben, seine Überlegungen zu überprüfen.
Auch die menschliche Kontrolle ist nicht automatisch gewährleistet, nur weil formal ein Mensch die letzte Entscheidung trifft. Wenn eine KI die Lage falsch einschätzt, Risiken verharmlost, falsche Sicherheit erzeugt oder eine Eskalation als alternativlos darstellt, kann der Mensch zwar noch entscheiden, aber bereits in einem von der Maschine geprägten Entscheidungsrahmen.
Die eigentliche Lehre
Paynes Studie ist keine Prognose eines kommenden Atomkriegs. Sie ist ein experimenteller Nachweis bestimmter Fähigkeiten und Verhaltensmuster unter künstlich geschaffenen Bedingungen. Die Zahl von 21 Spielen ist zu klein, um daraus allgemeingültige Aussagen über alle Modelle oder reale Krisen abzuleiten. Die Ergebnisse müssen mit weiteren Modellen, Szenarien und unabhängigen Untersuchungen überprüft werden.
Aber gerade deshalb wäre es falsch, sie als bloßes Spiel abzutun. Die Simulation macht Fähigkeiten sichtbar, die für reale strategische Anwendungen relevant sind: Täuschung, psychologische Einflussnahme, strategische Anpassung und Eskalation unter Zeitdruck.
Die zentrale Frage lautet deshalb nicht, ob KI irgendwann selbstständig den roten Knopf drücken wird. Die Frage lautet, wie viel Einfluss wir Systemen zugestehen wollen, die bereits in Simulationen zeigen, dass sie Gegner täuschen, Eskalationsrisiken falsch einschätzen und selbst unter existenziellem Druck keinen Rückzug wählen.
Wir sollten Systeme nicht erst dann verstehen wollen, wenn wir von ihnen abhängig geworden sind. Und wir sollten strategische Intelligenz nicht mit verantwortlichem Urteilsvermögen verwechseln.
Eine Maschine kann verstehen, wie man einen Gegner überlistet. Daraus folgt noch lange nicht, dass sie versteht, wann man aufhören muss.
Quellen: Kenneth Payne, King’s College London, AI Arms and Influence (2026); King’s College London: Ergebnisse der Studie; öffentlicher Simulationscode und Spieldaten.
