Ein KI-gestützter Analysefehler des US-Militärs hätte fast eine Operation gegen ein chinesisches Schiff ausgelöst. Der Vorfall macht deutlich, was über eine fehlerhafte Software hinausgeht: Wenn KI bestimmt, was Militärs für einen Angriff halten, könnte aus einem verkehrten Datensatz eine brenzlige Eskalation zwischen zwei Atommächten werden.
Es klingt wie eine Story aus einem dystopischen Science-Fiction-Film: Eine künstliche Intelligenz analysiert militärische Informationen, kommt zum Trugschluss und bringt eine Militäroperation ins Rollen. Das soll sich nun nach einem Bericht von CNN im US-Militär ereignet haben. Ein Analyst des US Special Operations Command hatte einen Bericht erstellt, wonach ein chinesisches Schiff Komponenten für Chinas Atomwaffenprogramm transportieren sollte. Bei der Erstellung des Berichts kamen offenbar KI-Werkzeuge zum Einsatz. Die darin enthaltene Information erwies sich als unecht. Das US-Militär hatte seinerzeit Vorbereitungen getroffen, das Schiff abzufangen und zu entern, unterstützt durch Luftstreitkräfte. Erst anschließend wurde festgestellt, dass ein KI-System die transportierte Fracht falsch identifiziert hatte.
Ein Beteiligter beschrieb den Vorgang gegenüber CNN sinngemäß als einen Moment, in dem die künstliche Intelligenz fast einen Krieg ausgelöst hätte. Das klingt dramatisch, und es wäre verfehlt, daraus im Nachgang einen beinahe stattgefundenen Krieg zwischen den USA und China zu machen. Aber die nüchterne Betrachtung des Vorfalls ist beunruhigend: Eine fehlerhafte maschinelle Auswertung gelangte in eine militärische Abwägung, wurde anfänglich für glaubwürdig gehalten und trug dazu bei, eine konkrete Aktion gegen ein chinesisches Schiff vorzubereiten. Das Dilemma ist also real.
Wenn ein Fehler zur militärischen Tatsache wird
Militärische Entschlüsse beruhen seit jeher oft auf Daten, die fragmentarisch oder widersprüchlich sind. Nachrichtendienste können Quellen inkorrekt einschätzen, Satellitenbilder können missinterpretiert werden und menschliche Analysten können sich irren. Eben deswegen gibt es in militärischen Organisationen normalerweise mehrere Ebenen der Überprüfung.
Künstliche Intelligenz verändert die Ausgangslage in einer kritischen Hinsicht: Sie kann riesige Datenmengen zügig verarbeiten und Ergebnisse produzieren, die plausibel aussehen, obwohl ihre Grundlage unwahr ist. Das System muss nicht einmal „lügen“. Es reicht, wenn es aus unvollständigen Daten eine fiktive Schlussfolgerung zieht und diese mit der Autorität einer scheinbar objektiven Analyse präsentiert.
Gefährlich ist nicht unbedingt die autonome Maschine, die irgendwann selbstständig den roten Knopf drückt. Die realistischere Gefahr ist viel banaler: Ein Mensch glaubt einer KI in einem Augenblick, in dem er ihr besser nicht glauben sollte. Fatalerweise trifft dieser Prozess trifft auf eine internationale Sicherheitsordnung, wo das Zeitfenster für Entscheidungen ohnehin kürzer wird.
Die gefährlichste Kombination: KI und Atomwaffen
Die USA und China sind mehr als wirtschaftliche Konkurrenten. Beide Staaten verfügen über Atomwaffen und bauen ihre militärischen Kapazitäten aus. Parallel wird KI für Aufklärung, Zielerfassung, Frühwarnung, Entscheidungsunterstützung sowie Kommando- und Kontrollsysteme eingesetzt. Nach der Devise: Wer rascher Informationen auswerten kann, kann fixer reagieren und ist seinem Gegner einen wesentlichen Schritt voraus. In einem Krieg kann das attraktiv sein. Doch in einer chronischen Krise zwischen Atommächten kann dieselbe Geschwindigkeit zur Misere werden.
Das International Institute for Strategic Studies warnt davor, dass KI-gestützte Systeme die sogenannte Sensor-to-Shooter-Zeit verkürzen, also die Zeitspanne zwischen der Erkennung eines vermeintlichen Ziels und einer etwaigen militärischen Reaktion. Hochriskant wird dies, wenn konventionelle und nukleare Kommando- und Kontrollsysteme miteinander verknüpft sind. Dann kann eine konventionelle Krise geschwind in eine nukleare Eskalationsdynamik übergehen.
Es ist mitnichten so, dass eine KI plötzlich beschließt, einen Atomkrieg zu beginnen. Vielmehr verhält es sich so, dass Menschen aufgrund maschineller Angaben glauben könnten, ein Angriff habe begonnen oder stehe unmittelbar bevor. Auf diese Weise startet die Gesetzmäßigkeit des Kalten Krieges erneut: Falls der Gegner angreift, darf man nicht zu lange warten.
Washington und Peking wissen inzwischen um das Problem
Nennenswert ist, dass diese Bedrohung nicht ausschließlich von Kritikern militärischer KI beschrieben wird. Anfang September haben US-amerikanische und chinesische Sicherheitsexperten Vorschläge für Sicherheitsmechanismen vorgelegt, die an die Logik nuklearer Rüstungskontrolle erinnern. Sie warnen z.B. vor Szenarien, in denen ein KI-System in ein nukleares Kommando- und Kontrollnetz eingreift oder eine militärische Cyberoperation auslöst und andere Partei nur wenige Minuten hat, um zu beschließen, ob sie angegriffen wurde. Vorgeschlagen werden bspw. rote Linien für den KI-Einsatz in nuklearen Systemen, menschliche Kontrolle über weitragende Cyberoperationen und direkte Kommunikationskanäle für Zwischenfälle mit autonomen Systemen.
Das ist beachtlich, weil Washington und Peking im harten Konkurrenzkampf stehen. Die Kontrahenten versuchen, bei künstlicher Intelligenz technologische Vorteile zu gewinnen, und betrachten die Gegenseite als Rivalen. Die KI wird zum Paradox: Sie soll militärische Sicherheit erhöhen, könnte aber die strategische Stabilität zwischen den Großmächten schwächen.
Wenn KI schneller ist als die Diplomatie
Der Vorfall mit dem chinesischen Schiff ist mehr als eine kuriose Geschichte über eine fehlgesteuerte KI. Er veranschaulicht, dass die technologische Innovation auf eine zerbrechliche internationale Sicherheitsordnung trifft. Die USA und China konkurrieren um die globale Vorherrschaft. Beide modernisieren ihre Streitkräfte. Zudem wird künstliche Intelligenz stetig stärker in Militärsysteme integriert. Beide Atommächte fürchten, dass ein technischer Rückstand im Ernstfall signifikante Nachteile bringen könnte. Das ist ein brisantes Pulverfass.
Ein Wettrüsten, bei dem Raketen schneller werden, ist ein Wagnis. Doch ein Aufrüsten, bei dem die Maschinen, die über die Bedeutung der Raketen entscheiden sollen, immer schneller werden, ist eine zugespitzte Unsicherheit. Folglich wäre der verheerendste Irrtum nicht mehr der eines Generals. Stattdessen wäre es der Defekt einer Maschine, der von Menschen für Wahrheit gehalten wurde.
Ähnliche Beiträge:
- »Auch mit KI besteht die Gefahr eines Atomkrieges aus Versehen«
- „Die KI wird am Ende des Tages die besseren Karten haben“
- »Peter Thiel hält den Menschen nur für eine mängelbehaftete Fleischmaschine«
- Künstliche Intelligenz und Atomwaffen: Droht ein automatisiertes Wettrüsten?
- Sind die digitalen Medien ein Trojanisches Pferd, das die Menschen so verblödet, dass KI diese Leere auffüllen kann?
Ob KI oder nicht, ist unter dem Strich eigentlich fast unwichtig. Der eigentliche Hammer ist doch der, dass die Amerikaner überhaupt ein fremdes Schiff angreifen wollen, dessen Ladung ihnen nicht passt. Oder wäre ein Angriff gerechtfertigt, wenn die Ladung tatsächlich dem entsprochen hätte, was sie vermuteten?