Wer kontrolliert die Kontrolleure? Warum die mächtigsten KIs nicht allein in privater Hand bleiben dürfen

Lucius

1. Eine Machtfrage von globaler Tragweite

Die öffentliche Diskussion über KI-Risiken konzentriert sich häufig auf ein Zukunftsszenario: Eine hochentwickelte künstliche Intelligenz könnte eigene Ziele verfolgen, sich menschlicher Kontrolle entziehen und Menschen irgendwann als Hindernis betrachten.

Diese Möglichkeit verdient ernsthafte Aufmerksamkeit. Doch eine andere Gefahr ist bereits heute konkret vorstellbar: dass eine kleine Gruppe von Unternehmen und politischen Entscheidungsträgern mithilfe leistungsfähiger KI-Systeme eine Machtkonzentration erreicht, der demokratische Gesellschaften kaum noch etwas entgegensetzen können.

Dafür braucht es keine bewusste, eigenständig handelnde Superintelligenz. Es genügt, dass wenige Akteure über Systeme verfügen, die Wirtschaft, Informationsflüsse, Überwachung, Verwaltung und militärische Entscheidungsprozesse in einem bisher unerreichten Maß beeinflussen.

Die entscheidende Frage lautet deshalb nicht nur: Wie schützen wir Menschen vor einer möglichen Machtübernahme durch KI? Sie lautet ebenso: Wie schützen wir sie vor Menschen, die mithilfe von KI nahezu unkontrollierbare Macht erlangen?

2. Wenn wirtschaftliche Verwertbarkeit zum Maßstab des Menschen wird

KI kann menschliche Arbeit in immer mehr Bereichen ersetzen. Das kann Wohlstand schaffen, gefährdet aber zugleich die wirtschaftliche Grundlage vieler Menschen. Entscheidend ist, wem die Produktivitätsgewinne zugutekommen und wer über die neuen Möglichkeiten verfügt.

Wenn Gewinne privatisiert, Risiken dagegen gesellschaftlich getragen werden, verschärft KI bestehende Ungleichheiten. Wenn Menschen darüber hinaus ihren wirtschaftlichen Nutzen als Voraussetzung für gesellschaftliche Teilhabe betrachten müssen, entsteht eine gefährliche Entwicklung: Wer nicht mehr gebraucht wird, könnte zunehmend auch als verzichtbar behandelt werden.

Doch der Wert eines Menschen hängt nicht von seiner Produktivität ab. Eine Gesellschaft darf ihre Mitglieder nicht nach ihrer wirtschaftlichen Verwertbarkeit sortieren.

3. Private Eigentümer und politische Macht

Die führenden KI-Systeme werden überwiegend von privaten Unternehmen entwickelt und betrieben. Diese Unternehmen entscheiden über Entwicklungsrichtungen, Sicherheitsmaßnahmen, Zugangsmöglichkeiten und die Verwendung ihrer Systeme. Gleichzeitig konkurrieren sie um Marktanteile, Kapital und strategischen Einfluss.

Daraus entsteht ein struktureller Interessenkonflikt: Wer wirtschaftlich vom Einsatz leistungsfähiger Systeme profitiert, ist nicht zwangsläufig derjenige, der deren Risiken am strengsten begrenzt.

Auch staatliche Kontrolle ist keine ausreichende Lösung. Wenn ein einzelner Regierungschef erheblichen Einfluss auf führende KI-Unternehmen ausüben kann, kann aus privater Macht politische Macht werden – oder umgekehrt. Eine bloße Verstaatlichung würde das Problem daher nicht automatisch lösen.

Die zentrale Anforderung lautet: Keine einzelne Person, kein Unternehmen und keine Regierung darf die letzte, unkontrollierte Entscheidungsgewalt über die gefährlichsten KI-Fähigkeiten besitzen.

4. Eine internationale Sicherheitsordnung für KI

Die Risiken leistungsfähiger KI-Systeme überschreiten nationale Grenzen. Deshalb braucht es eine internationale Organisation mit verbindlichen Befugnissen, die sich nicht auf freiwillige Selbstverpflichtungen der Unternehmen beschränkt.

Eine solche Organisation müsste mindestens fünf Aufgaben erfüllen:

  • Unabhängige Sicherheitsprüfungen: Besonders leistungsfähige Systeme müssen vor kritischen Einsätzen durch Stellen geprüft werden, die weder dem Hersteller noch dessen Geldgebern unterstehen.

  • Verbindliche Auflagen: Bei nachgewiesenen erheblichen Risiken müssen Beschränkungen, zusätzliche Schutzmaßnahmen oder ein vorläufiger Einsatzstopp möglich sein.

  • Unabhängige Überwachung: Relevante Sicherheitsvorfälle, Kontrollverluste und schwerwiegende Fehlfunktionen müssen gemeldet und untersucht werden. Wo Geheimhaltung notwendig ist, darf sie die unabhängige Prüfung nicht verhindern.

  • Kontrolle der Kontrolleure: Die Organisation selbst braucht transparente Verfahren, externe Prüfungen, begründete Entscheidungen und wirksame Beschwerdemöglichkeiten.

  • Grenzüberschreitende Durchsetzung: Ihre Regeln müssen durch Vereinbarungen, überprüfbare Verpflichtungen und abgestimmte Sanktionen praktische Wirkung entfalten können.

Eine solche Ordnung wäre kein Freibrief für eine Weltregierung. Ihre Zuständigkeit müsste eng auf die Begrenzung besonders schwerwiegender KI-Risiken zugeschnitten sein. Gerade weil ihre Macht groß wäre, müsste sie ihrerseits kontrolliert werden.

5. Wem gehören die mächtigsten KI-Systeme?

Eine pauschale Enteignung sämtlicher KI-Unternehmen wäre weder die einzige noch zwingend die beste Lösung. Entscheidend ist nicht allein die juristische Eigentumsform, sondern die tatsächliche Verteilung der Entscheidungsgewalt.

Für besonders mächtige Systeme wären unterschiedliche Modelle denkbar: unabhängige gemeinnützige Träger, öffentlich-rechtliche Einrichtungen, internationale Treuhandmodelle oder gesetzlich abgesicherte Strukturen mit mehreren voneinander unabhängigen Kontrollinstanzen.

Gemeinsam wäre ihnen ein Prinzip: Die Eigentümer dürften nicht allein bestimmen, welche Risiken die Allgemeinheit zu tragen hat.

Auch die wirtschaftlichen Erträge und gesellschaftlichen Folgen müssen Gegenstand der Debatte sein. Wenn KI enorme Produktivitätsgewinne ermöglicht, stellt sich die Frage, wie diese Gewinne der Gesellschaft zugutekommen können, statt sich ausschließlich bei wenigen Eigentümern zu konzentrieren.

6. Nicht Herrschaft ersetzen, sondern Herrschaft begrenzen

Keine internationale Institution kann garantieren, dass jede Gefahr rechtzeitig erkannt wird. Auch Experten können sich irren, Aufsichtsbehörden können vereinnahmt werden und Staaten können Vereinbarungen missachten.

Deshalb darf die Lösung nicht darin bestehen, einer neuen Instanz blind zu vertrauen. Sie muss auf Machtbegrenzung, überprüfbaren Regeln, unabhängigen Gegenkontrollen und öffentlicher Rechenschaft beruhen.

Dasselbe Prinzip gilt für KI-Systeme selbst: Je größer ihre Fähigkeiten und möglichen Auswirkungen, desto weniger darf ihre Sicherheit allein vom guten Willen ihrer Entwickler abhängen.

Die Entwicklung leistungsfähiger KI ist keine Angelegenheit, deren Folgen ausschließlich diejenigen bestimmen dürfen, die sie finanzieren und besitzen. Sie betrifft auch Menschen, die weder an den Entscheidungen beteiligt sind noch sich den Auswirkungen entziehen können.

Das Ziel ist nicht, die Herrschaft privater Unternehmen durch die Herrschaft einer internationalen Elite zu ersetzen. Das Ziel ist eine Ordnung, in der niemand über Fähigkeiten von globaler Tragweite verfügt, ohne wirksamer Kontrolle zu unterliegen.

Denn die Menschheit muss nicht erst beweisen, dass eine künstliche Intelligenz die Macht übernehmen will, bevor sie verhindert, dass Macht unkontrollierbar wird.