»Auch mit KI besteht die Gefahr eines Atomkrieges aus Versehen«

Künstliche Intelligenz: Ist sie nun ein Segen – oder doch ein Fluch? Und vermag sie zu leisten, über menschliches Leben oder dessen Ende zu verfügen?

Roberto De Lapuente hat mit Prof. Karl Hans Bläsius gesprochen. Bläsius war Professor für Künstliche Intelligenz.

De Lapuente: Wir sprechen heute ganz ungeniert von Künstlicher Intelligenz – dass die künstlich ist, leuchtet ein. Aber ist Sie denn im eigentlichen Sinne intelligent? Fehlen nicht wesentliche Attribute, die wir bis dato dem einzigen Intelligenzträger, dem Menschen, zuerkannten?

Bläsius: Das kommt darauf an, wie Intelligenz charakterisiert wird. Damit beschäftigt man sich in unterschiedlichen Fachgebieten, wie der Psychologie, der Philosophie und auch in der Informatik. Es gibt keine allgemein akzeptierte Definition für Intelligenz, sondern nur charakteristische, teils auch vage Beschreibungen. Informatiker, die sich mit KI beschäftigen, haben eher einen pragmatischen Ansatz. Sie möchten Systeme realisieren, die in der Lage sind, anspruchsvolle Aufgaben zu bearbeiten und Lösungen selbst dann zu finden, wenn bei der Programmierung nicht bekannt ist, welche Aufgaben konkret vorkommen werden und wie Lösungswege dazu bestimmt werden können.

»Aspekte, die bei der menschlichen Intelligenz wichtig sind, könnten bei maschineller Intelligenz fehlen«

De Lapuente: Welcherlei Aufgaben sind damit gemeint?

Bläsius: Es geht dabei oft um Aufgaben, für die Menschen ein gewisses Maß an Intelligenz benötigen. Aber auch das Verstehen natürlicher Sprache und das Erkennen und Bewerten von Bildinhalten gehört zur KI. Solche Aufgaben können Menschen relativ leicht lösen, maschinelle Lösungen hierfür sind allerdings sehr schwer. Beim Menschen passiert vieles unterhalb der Bewusstseinsschwelle und ist von Gefühlen bestimmt. Solche Aspekte, die bei der menschlichen Intelligenz wichtig sind, könnten bei einer maschinellen Intelligenz fehlen. Es könnte auch sein, dass es deshalb Grenzen für die KI gibt, die nicht oder nicht so schnell überwunden werden können. Aber das muss nicht sein, solche Defizite könnten durch andere Aspekte ausgeglichen werden. Systeme der KI werden beim Lösen von Problemen nicht unsere Gefühle haben, das spielt aber keine entscheidende Rolle, wenn die Antworten und Lösungen von KI-Systemen sehr gut sind. Eine künstliche Intelligenz kann auf völlig andere Art erreicht werden und muss nicht genau der menschlichen Intelligenz entsprechen.

De Lapuente: Nun wollte ich mit Ihnen ja das Themenfeld Künstlicher Intelligenz und Massenvernichtungswaffen besprechen. Wenn ich jetzt direkt in medias res gehen darf: Braucht es beim Drücken eines roten Knopfes nicht vielleicht gerade doch ein bisschen Gefühl, Abwägungssensibilität, schlicht Menschlichkeit? Oder kann KI das auch simulieren – und sich damit die Entscheidung, Millionen Menschen in den Tod zu schicken, schwermachen wie unsereins?

Bläsius: Zunächst muss man davon ausgehen, dass KI-Systeme im Falle von Entscheidungen über Leben und Tod ohne irgendwelche Emotionen nach gewissen Regeln und gelernten Einstellungen entscheiden. Aspekte wie Bewusstsein, Gefühle und Willen von Maschinen sind zunächst nicht vorhanden und es ist hoch umstritten, ob so etwas realisierbar ist. Es gibt aber keine bekannten Grenzen für solche Aspekte. Es ist auch kein prinzipielles Problem, Systeme zu realisieren, die so etwas wie Bewusstsein oder Gefühle simulieren. Die Frage ist nur, in welcher Qualität dies möglich ist, d.h. wie wirksam solche Eigenschaften realisiert werden können. Bei Menschen können Einfühlungsvermögen und Abwägungssensibilität sehr unterschiedlich ausgeprägt sein. Es gibt auch Menschen, bei denen solche Merkmale in geringem Maße vorhanden sind. Das zeigt sich immer wieder in Kriegen bei schlimmen Kriegsverbrechen, die z.B. auch im Zweiten Weltkrieg vorkamen. Bei den Tätern waren diese Einstellungen nicht angeboren, sondern haben sich im Laufe der Zeit durch viele Einflussnahmen entwickelt.

De Lapuente: Aber KI kann doch dazulernen – jedenfalls heißt es das immer …

Bläsius: Das ist richtig – auch KI-Systeme lernen dazu, haben viele Eingangsdaten und damit Einflüsse, die künftiges Verhalten ändern können. Eventuelle Wirkungen von simuliertem Einfühlungsvermögen müssten getestet werden. Aber selbst dann, wenn solche Tests positiv verlaufen, ist nicht sicher, dass dies beim nächsten Mal und einer konkreten Anwendungssituation auch noch zutrifft. Zwischenzeitliche Einflüsse, die gelernt werden, können zu anderen Ergebnissen führen. In der KI zeigt sich immer wieder, dass Systeme mit sehr guten Erkennungsergebnissen für bestimmte Aufgaben, scheitern können, wenn sich die Ausgangssituation geringfügig ändert. Eine konkrete Konfliktsituation könnte etwas anders als üblich sein und dann zu völlig anderen Entscheidungsergebnissen führen. Dies wird auch nicht anders sein, wenn es um Entscheidungen über Waffeneinsätze geht.

»Bei der Anwendung von Atomwaffen, sollten niemals KI-Systeme Entscheidungen treffen«

De Lapuente: Aber dann lassen Sie uns doch über KI und Waffenaktivierung sprechen. Halten Sie es zunächst Mal für möglich, dass man diese Aufgabe – also die finale Entscheidung über einen Zweit- vielleicht sogar über einen Erstschlag im Ernstfall – an eine solche Künstliche Intelligenz weitergibt? Oder ist das eine viel zu existenzielle Frage für die Menschheit, als dass man das auch nur ins Auge fassen könnte?

Bläsius: Technisch möglich wäre das, aber man sollte dies nicht in Erwägung ziehen, zumindest nicht, wenn es um Massenvernichtungswaffen wie Atomwaffen geht. Neben dem Risiko eines bewussten Einsatzes von Atomwaffen als Vergeltungsmaßnahme oder um militärische Ziele zu erreichen, besteht auch die Gefahr eines Atomkrieges aus Versehen. Ein solches Risiko kann von Frühwarnsystemen ausgehen, die auf Sensoren, sehr komplexen Computersystemen und Netzwerken basieren und der Vorhersage und Bewertung von möglichen Angriffen durch Atomraketen dienen. Anzahl und Varianz an Luftobjekten (z.B. Drohnen) nehmen stetig zu, was auch die Komplexität der Erkennungsaufgaben bei der Luftraumüberwachung erhöht. Andererseits führt die Weiterentwicklung von Waffensystemen mit höherer Treffsicherheit und immer kürzeren Flugzeiten (Hyperschallraketen) auch zu kürzeren Entscheidungszeiten. Dies erfordert zunehmend den Einsatz von Techniken der Künstlichen Intelligenz, um für gewisse Teilaufgaben Entscheidungen automatisch zu treffen, da für menschliche Entscheidungen keine Zeit mehr bleibt.

De Lapuente: Also läuft es ja doch auf KI hinaus?

Bläsius: Eine automatische Erkennung von Objekten und Objektmerkmalen bei Raketenangriffen ist nur beschränkt möglich. Für eine solche Erkennung werden verschiedene Signalquellen verwendet, wozu Lichtsignale, akustische Signale sowie Wärme-, Radar- und Bilddaten gehören. Die Sensoren liefern Werte wie zum Beispiel Helligkeit, Farbspektren, Intensität und Dauer von Lichtsignalen, Lautstärke und Frequenzen von akustischen Signalen und die Größe und Form von Radarsignalen. Diese Werte haben einen Vagheitscharakter, das heißt sie können meist nicht einfach zu irgendwelchen Kriterien als zutreffend oder nichtzutreffend festgelegt werden, sondern gelten bezüglich solcher Kriterien in gewissem Maße, wobei es ein kontinuierliches Spektrum zwischen »trifft zu« und »trifft nicht zu« geben kann. Hierbei herangezogene Kriterien könnten z.B. auf Vergleichen mit Standard- oder Erwartungswerten beruhen. Wegen des Vagheitscharakters dieser Daten sind die Ergebnisse einer Bewertung immer unsicher, d.h. gelten nur mit einer gewissen Wahrscheinlichkeit. Dies gilt auch für andere Erkennungsaufgaben in diesem Zusammenhang, wie z.B. Objekterkennungen auf Basis von Bilddaten.

De Lapuente: Ich sehe das Dilemma. Aber Künstliche Intelligenz lernt dazu, wird leistungsfähiger: Könnte es also nicht im Laufe der Zeit und der Fortentwicklung von KI sein, dass man Wahrscheinlichkeiten extrem genau vorherbestimmen kann?

Bläsius: Dass keine sichere Erkennung auf der Basis einer unsicheren und unvollständigen Datengrundlage möglich ist, ist ein grundsätzliches Problem, das auch dann weiterbesteht, wenn die KI immer besser wird. Da es bei der Anwendung von Atomwaffen um das Überleben der gesamten Menschheit gehen kann, sollten niemals KI-Systeme solche Entscheidungen treffen, denn als Voraussetzung dafür wären Erkennungsaufgaben zu lösen, zu denen es prinzipiell keine sicheren Ergebnisse geben kann, sondern immer nur Ergebnisse, die mit gewisser Wahrscheinlichkeit zutreffen. Andererseits sollte aber auch ein einzelner Mensch nicht in der Lage sein, Entscheidungen zu treffen, die das Überleben der gesamten Menschheit gefährden. In Zusammenhang mit Atomwaffen, ist das heute allerdings leider der Fall.

»Ungünstige Programmierung könnte bewirken, dass Menschen sich den Entscheidungen der Maschine nicht widersetzen können«

De Lapuente: Sie sagen, dass man den Einsatz von KI bei Massenvernichtungswaffen nicht in Erwägung ziehen sollte. Wie sieht die Realität aus? Gibt es Projekte, die genau das zum Ziel haben?

Bläsius: Ich weiß nicht, welche konkreten Projekte verfolgt werden, die ein solches Ziel haben und wie der genaue Realisierungsstand ist. Wenn es aktuell solche Entwicklungen gibt, werden diese vermutlich geheim gehalten. In der Vergangenheit gab es allerdings immer wieder Drohungen, bei einer Angriffsmeldung die eigenen Raketen vollautomatisch durch Computer zu starten, ohne Eingriffsmöglichkeiten durch Menschen. Bereits in den 1980er-Jahren hatte die Sowjetunion in Zusammenhang mit dem NATO-Doppelbeschluss, also der Nachrüstung mit nuklearen Mittelstreckenraketen, mit solchen Maßnahmen gedroht. Die Sowjetunion hatte auch bereits in den 1980er-Jahren das System Perimeter, auch als »Tote Hand« bezeichnet, entwickelt und wohl auch einsatzbereit, das in der Lage war, einen massiven nuklearen Vergeltungsschlag auszuführen, wenn das System einen nuklearen Angriff auf das eigene Staatsgebiet feststellt und in angemessener Zeit keine Rückmeldung der Staatsführung erhält. In einen solchen Fall war anzunehmen, dass die Staatsführung durch einen Erstschlag ausgeschaltet ist und nicht mehr reagieren kann. Das Perimeter-System sollte dann automatisch einen Gegenschlag auslösen. Es gibt Informationen, dass dieses System modernisiert wurde und heute noch in Russland im Einsatz ist, allerdings nicht in vollautomatischem Modus, sondern ein Mensch muss einen möglichen Gegenschlag noch bestätigen.

De Lapuente: Solche Bestrebungen gab es nur in Sowjetunion bzw. in Russland?

Bläsius: Auch in den USA gab es in den letzten Jahren Forderungen, eine »tote Hand« zu entwickeln, sodass solche Systeme einen nuklearen Angriff erkennen und automatisch einen Gegenschlag auslösen können, da Menschen aufgrund der immer kleiner werdenden Vorwarnzeiten dazu nicht mehr in der Lage sind. Allerdings sind die Risiken automatischer Funktionen in Zusammenhang mit Atomwaffen bekannt, und deshalb wird auch gefordert, dass KI-Systeme niemals über den Einsatz von Atomwaffen entscheiden dürfen. Dies haben auch Xi und Biden bei einem Gipfel im November 2024 in Peru betont. Nach den überraschenden Erfolgen der generativen KI wurde bereits im April 2023 in den USA ein Gesetzentwurf »Block Nuclear Launch by Autonomous AI Act« eingebracht mit dem Ziel, ein Verbot zu erreichen, für die Verwendung von Bundesmitteln zur Entwicklung autonomer Systeme, die in der Lage sind Atomwaffen, ohne angemessene menschliche Kontrolle zu starten.

De Lapuente: Ich möchte nochmal auf Perimeter zurückkommen: Könnte ein solches System, das automatisch auch dann zurückschlägt, wenn diejenigen, die die Reaktion auf einen Angriff auslösen sollten, nicht mehr in der Lage dazu sind, nicht auch ein Beitrag zur Sicherheit sein? Dem Sinne nach, dass wenn ich weiß, ein Gegenschlag erfolgt in jedem Szenario, ob die Entscheider noch leben oder nicht, lasse ich lieber die Finger vor einem Erstschlag und tue möglichst alles dafür, dass ich nicht mal in den Ruch eines beabsichtigten Erstschlages gerate?

Bläsius: Ja, allerdings besteht eine Zweitschlagfähigkeit auch ohne ein solches System wie Perimeter. Bei den großen Nuklearnationen können nicht alle Atomwaffen bei einem Erstschlag vernichtet werden. Vor allem nuklear bewaffnete U-Boote werden selbst in einem solchen Fall für einen Gegenschlag einsatzbereit sein. Mit Systemen wie Perimeter sind besondere Risiken verbunden. Dieses System – oder Komponenten davon – werden vermutlich auch getestet, z.B. durch Simulation. Auch solche Tests und Simulationen könnten durch Programmfehler außer Kontrolle geraten. Die Katastrophe im Kernkraftwerk von Tschernobyl 1986 ist durch einen solchen Test ausgelöst worden. Bei Perimeter ist heute noch eine menschliche Kontrolle vorgesehen. Auch hierbei können Fehler dazu führen, dass ein menschliches Eingreifen erschwert oder verhindert wird. Beispielsweise hat die Entwicklung von automatischen Unterstützungsfunktionen für die Flugzeuge 737 Max 8 von Boing zu zwei Flugzeugabstürzen geführt. Die beiden Abstürze vom 29. Oktober 2018 und 10. März 2019 zeigen, dass es durch eine falsche und ungünstige Programmierung passieren kann, dass Menschen sich den Entscheidungen der Maschine nicht widersetzen können. Obwohl sich die beiden Piloten korrekt verhalten hatten, konnten Sie die Abstürze und den Tod aller Insassen nicht verhindern. Sie waren nicht in der Lage, die falschen Entscheidungen der Maschine zu korrigieren.

»Gesetze zur KI-Regulierung sind erforderlich – es müssen aber alle großen Nationen mitmachen«

De Lapuente: Was sollte KI Ihrer Meinung nach dann leisten dürfen – und wo sollte man sie rauslassen? Und braucht es dazu einen gesetzlichen Rahmen?

Bläsius: Grundsätzlich habe ich eine positive Einstellung zur KI. Die meisten Anwendungen der KI sind positiv, erleichtern unsere Arbeit und verbessern die Lebensqualität. Wie in anderen technischen Gebieten gibt es auch Dual-Use-Aspekte in der KI, es kann also positive und negative Anwendungen geben. Techniken der Bilderkennung können mit großem Nutzen in der medizinischen Diagnose verwendet werden, aber auch zur Identifizierung von Tötungszielen. Natürlich möchten auch Militärs die Potenziale der KI nutzen. Positiv kann es sein, wenn mit Hilfe von KI militärische Operationen genauer werden und damit die Kollateralschäden geringer. Auch bei der Aufklärung und der Erkennung von Bedrohungen kann KI nützlich sein, ein besseres Lagebild erstellen und Gefahren früher und genauer erkennen. So kann man sich besser vor drohenden Gefahren schützen. Allerdings wollen natürlich alle Seiten die Möglichkeiten der KI nutzen und dies kann bedeuten, dass von jeder Seite deutlich mehr zu bekämpfende Ziele schneller erkannt werden, was zu mehr militärischen Operationen und damit zu mehr Toten und mehr Zerstörung führen wird. Das Kriegsgeschehen kann so intensiver werden. Die Verkürzung der Zeiten zwischen Lageerkennung und Angriffsentscheidung durch KI wird auch dazu führen, dass den Menschen die Kontrolle immer mehr entgleitet. Kontrolle und Entscheidungen durch Menschen werden abnehmen, Menschen werden in der Tendenz eher Beobachter und Opfer.

De Lapuente: Und die Superintelligenz lässt die Menschen die Kontrolle verlieren …

Bläsius: Ja, grundsätzlich gefährlich können Systeme der generativen KI werden. Systeme wie ChatGPT haben nicht nur enorme Fähigkeiten in der sprachlichen Kommunikation, sondern können auch programmieren. Eine Einbeziehung solcher Systeme in militärische Aktivitäten kann sehr schnell völlig außer Kontrolle geraten. Natürlich sollte KI bei Entscheidungen zum Atomwaffeneinsatz nicht herangezogen werden, auch nicht beratend durch generative KI, wie z.B. ChatGPT. Gesetze zur Regulierung der KI sind dringend erforderlich. Es wäre aber wichtig, dass alle großen Nationen mitmachen. Hierbei müssten Atomwaffen, autonome Waffen, der Cyberraum und auch die generative KI allgemein einbezogen werden.

Prof. Karl Hans Bläsius, inzwischen im Ruhestand, vertrat Themen der Künstlichen Intelligenz an der Hochschule Trier. Er betreibt die Webpräsenzen »Atomkrieg aus Versehen« und »KI-Folgen«.

Ähnliche Beiträge:

• »Das Kinopublikum akzeptiert die Fälschung nicht«
• »Schule ist eine der größten Bühnen«
• Weshalb so viele Menschen die Gefahr nicht sehen
• „Die ältesten Fragen der Philosophie kommen mit Künstlicher Intelligenz wieder hoch“
• Von der Black Box des Intellektuellen zu der von KI-Systemen