Philosophenkönige oder New-Age-Militaristen?

Silicon Valley und der Ansturm auf die automatisierte Kriegsführung.

Risikokapital- und militärische Startup-Firmen im Silicon Valley haben damit begonnen, aggressiv eine Version der automatisierten Kriegsführung zu verkaufen, in die tief Künstliche Intelligenz (KI) eingebaut sein wird. Diese Unternehmen und ihre CEOs treiben die Entwicklung dieser neuen Technologie mit Hochdruck voran, wobei sie das Risiko von Fehlfunktionen, die in Zukunft zum Abschlachten von Zivilisten führen könnten, weitgehend ausblenden, ganz zu schweigen von der Möglichkeit gefährlicher Eskalationsszenarien zwischen großen Militärmächten. Zu den Gründen für diese überstürzte Eile gehört ein unangebrachter Glaube an “Wunderwaffen”, aber vor allem wird diese Welle der Unterstützung für neu entstehende Militärtechnologien von der ultimativen Logik des militärisch-industriellen Komplexes angetrieben: riesige Geldsummen einzunehmen.

Die neuen Techno-Enthusiasten

Während einige im Militär und im Pentagon tatsächlich über die zukünftigen Risiken von KI-Waffen besorgt sind, ist die Führung des Verteidigungsministeriums ganz an Bord. Ihr energisches Engagement für neue Technologien wurde erstmals im August 2023 in einer Rede der stellvertretenden Verteidigungsministerin Kathleen Hicks vor der National Defense Industrial Association, der größten Handelsgruppe der Rüstungsindustrie des Landes, in die Welt getragen. Sie nutzte die Gelegenheit, um die so genannte “Replikator-Initiative” anzukündigen, eine übergreifende Initiative, die helfen soll, “einen neuen Stand der Technik zu schaffen –  genau wie es Amerika zuvor getan hat -, in allen Bereichen auf angreifbare, autonome Systeme zu setzen, die kostengünstiger sind, weniger Menschen in die Schusslinie bringen und mit wesentlich kürzerer Vorlaufzeit geändert, aktualisiert oder verbessert werden können”.

Hicks war alles andere als zurückhaltend, wenn es darum ging, auf den Hauptgrund für diesen Vorstoß in die robotergestützte Kriegsführung hinzuweisen: China zu überholen und einzuschüchtern. “Wir müssen”, so Hicks, “dafür sorgen, dass die Führung der Volksrepublik China jeden Tag aufwacht, die Risiken einer Aggression bedenkt und zu dem Schluss kommt: ‘Heute ist nicht der richtige Tag’ – und zwar nicht nur heute, sondern jeden Tag, von heute bis 2027, von heute bis 2035, von heute bis 2049 und darüber hinaus.”

Hicks überragendes Vertrauen in die Fähigkeit des Pentagon und der amerikanischen Waffenhersteller, künftige Technokriege zu führen, wurde durch eine Gruppe von New-Age-Militaristen im Silicon Valley und darüber hinaus gestärkt, angeführt von Unternehmensführern wie Peter Thiel von Palantir, Palmer Luckey von Anduril und Risikokapital-Investoren wie Marc Andreessen von Andreessen Horowitz.

Patrioten oder Profiteure?

Diese Unternehmen, die eine neue Art des Krieges propagieren, sehen sich selbst auch als eine neue Art von Patrioten, die bereit und in der Lage sind, die militärischen Herausforderungen der Zukunft erfolgreich zu meistern.

Ein Beispiel dafür ist “Rebooting the Arsenal of Democracy”, ein langes Manifest auf dem Blog von Anduril. Darin wird die Überlegenheit von Start-ups aus dem Silicon Valley gegenüber militärisch-industriellen Giganten der alten Schule wie Lockheed Martin bei der Bereitstellung der für den Sieg in den Kriegen der Zukunft erforderlichen Technologie angepriesen:

“Die größten Rüstungsunternehmen sind mit Patrioten besetzt, die jedoch nicht über das Software-Know-how oder das Geschäftsmodell verfügen, um die Technologie zu entwickeln, die wir brauchen… Diese Unternehmen haben die Werkzeuge gebaut, die uns in der Vergangenheit sicher gemacht haben, aber sie sind nicht die Zukunft der Verteidigung.”

Im Gegensatz zu dem von ihm kritisierten Ansatz des Industriezeitalters streben Luckey und seine Mitstreiter bei Anduril eine völlig neue Art der Entwicklung und des Verkaufs von Waffen an:

“Software wird die Art und Weise verändern, wie Krieg geführt wird. Auf dem Schlachtfeld der Zukunft wird es von künstlich intelligenten, unbemannten Systemen wimmeln, die kämpfen, Aufklärungsdaten sammeln und mit atemberaubender Geschwindigkeit kommunizieren.”

Auf den ersten Blick scheint Luckey ein äußerst unwahrscheinlicher Kandidat zu sein, der in den Reihen der Führungskräfte der Rüstungsindustrie so weit aufgestiegen ist. Er hat sein erstes Vermögen mit der Entwicklung des Oculus Virtual Reality-Geräts gemacht, einer Neuheit, die man sich auf den Kopf schnallen kann, um eine Vielzahl von 3D-Szenen zu erleben (mit dem Gefühl, darin eingebettet zu sein). Seine Vorliebe für Sandalen und hawaiianische Hemden ist groß, aber jetzt hat er sich voll und ganz auf die Arbeit im Militär verlegt.

Im Jahr 2017 gründete er Anduril, teilweise mit Unterstützung von Peter Thiel und seiner Investmentfirma Founders Fund. Anduril stellt derzeit autonome Drohnen, automatisierte Kommando- und Kontrollsysteme und andere Geräte her, die die Geschwindigkeit beschleunigen sollen, mit der Militärs Ziele identifizieren und zerstören können.

Thiel, ein Mentor von Palmer Luckey, bietet ein Beispiel dafür, wie sich die Leiter der neuen Waffen-Startup-Unternehmen von den Titanen der Ära des Kalten Krieges unterscheiden. Zunächst einmal steht er voll hinter Donald Trump. Früher versuchten die Chefs großer Waffenhersteller wie Lockheed Martin, sowohl zu den Demokraten als auch zu den Republikanern gute Beziehungen zu unterhalten, indem sie beiden Parteien und ihren Kandidaten beträchtliche Wahlkampfspenden zukommen ließen und Lobbyisten mit Verbindungen zu beiden Seiten des Ganges einstellten. Die Logik dieses Vorgehens hätte damals nicht klarer sein können. Sie wollten einen parteiübergreifenden Konsens für immer höhere Ausgaben für das Pentagon zementieren, eines der wenigen Dinge, über die sich die meisten wichtigen Mitglieder beider Parteien einig waren. Und sie wollten auch besonders gute Beziehungen zu der Partei haben, die gerade das Weiße Haus und/oder den Kongress kontrollierte.

Die Emporkömmlinge aus dem Silicon Valley und ihre Vertreter äußern sich auch sehr viel lauter in ihrer Kritik an China. Sie sind die kältesten (oder meine ich heißesten?) der neuen kalten Krieger in Washington und bedienen sich einer schärferen Rhetorik als das Pentagon oder die großen Auftragnehmer. Im Gegensatz dazu lassen die großen Auftragnehmer ihre Kritik an China und ihre Unterstützung für Kriege in der ganzen Welt, die dazu beigetragen haben, ihre Gewinne zu steigern, in der Regel über Denkfabriken laufen, die sie jährlich mit Dutzenden von Millionen Dollar finanzieren.

Thiels Hauptunternehmen, Palantir, wurde auch für die Bereitstellung von Systemen kritisiert, die ein hartes Vorgehen der US-Einwanderungs- und Zollbehörde (ICE) an den Grenzen sowie eine “vorhersagende Polizeiarbeit” (predictive policing) ermöglicht haben. Dazu gehört (es wird Sie nicht überraschen) die Sammlung riesiger Mengen personenbezogener Daten ohne richterliche Anordnung, die sich auf Algorithmen mit eingebauten rassistischen Vorurteilen stützt, die zu einer systematisch ungerechten Ausrichtung auf und Behandlung von farbigen Menschen führen.

Um zu verstehen, wie die Militaristen im Silicon Valley die Kriegsführung der nächsten Generation sehen, müssen Sie sich die Arbeit von Christian Brose, dem Chief Strategy Officer von Palantir, ansehen. Er war ein langjähriger Militärreformer und ehemaliger Berater des verstorbenen Senators John McCain. Sein Buch „Kill Chain“ dient als eine Art Bibel für Befürworter der automatisierten Kriegsführung. Seine Kernaussage lautet, dass im Kampf die Seite gewinnt, die die “Kill Chain” (die Zeit zwischen der Identifizierung und der Zerstörung eines Ziels) am effektivsten verkürzen kann. In seinem Buch geht er davon aus, dass der wahrscheinlichste Gegner im nächsten technischen Krieg tatsächlich China sein wird, und er übertreibt die militärischen Fähigkeiten Pekings, während er gleichzeitig die militärischen Ambitionen des Landes überbewertet und darauf besteht, dass der einzige Weg zum künftigen Sieg darin besteht, das Land bei der Entwicklung neuer Militärtechnologien zu überholen.

Broses Vision einer Verkürzung der Tötungskette birgt immense Risiken. Je weniger Zeit bleibt, um zu entscheiden, welche Maßnahmen zu ergreifen sind, desto größer wird die Versuchung, den Menschen “aus dem Spiel zu nehmen” und die Entscheidungen über Leben und Tod Maschinen zu überlassen, die keinen moralischen Kompass haben und anfällig für katastrophale Fehlfunktionen sind, wie sie in jedem komplexen Softwaresystem vorkommen.

Vieles von Broses Kritik am gegenwärtigen militärisch-industriellen Komplex ist zutreffend. Einige wenige große Firmen werden reich, indem sie immer anfälligere, riesige Waffenplattformen wie Flugzeugträger und Panzer herstellen, während das Pentagon Milliarden für ein riesiges, kostspieliges globales Stützpunktnetz ausgibt, das durch eine weitaus kleinere, stärker verteilte militärische Präsenz ersetzt werden könnte. Leider wirft seine alternative Vision jedoch mehr Probleme auf, als sie löst.

Erstens gibt es keine Garantie dafür, dass die vom Silicon Valley propagierten softwaregesteuerten Systeme so funktionieren, wie sie angepriesen werden. Schließlich gibt es eine lange Geschichte von “Wunderwaffen”, die gescheitert sind, vom elektronischen Schlachtfeld in Vietnam bis zu Präsident Ronald Reagans desaströsem Star Wars-Raketenschild. Selbst wenn die Fähigkeit, Ziele schneller zu finden und zu zerstören, tatsächlich verbessert wurde, waren Kriege wie die im Irak und in Afghanistan, die mit eben diesen Technologien geführt wurden, ein kläglicher Misserfolg.

Eine aktuelle Untersuchung des Wall Street Journal deutet darauf hin, dass auch die neue Generation der Militärtechnologie überbewertet wird. Das Journal stellte fest, dass sich die kleinen, hochmodernen neuen US-Drohnen, die der Ukraine für ihren Verteidigungskrieg gegen Russland geliefert wurden, als viel zu “fehlerhaft und teuer” erwiesen haben, so dass sich die Ukrainer ironischerweise dafür entschieden haben, stattdessen billigere, aber zuverlässigere chinesische Drohnen zu kaufen.

Schließlich wird der von Brose und seinen Gefolgsleuten vertretene Ansatz einen Krieg wahrscheinlicher machen, da technologische Hybris den Glauben weckt, dass die Vereinigten Staaten eine rivalisierende, atomar bewaffnete Macht wie China in einem Konflikt tatsächlich “schlagen” können, wenn wir nur in eine flinke neue High-Tech-Truppe investieren.

Das Ergebnis ist, wie mein Kollege Michael Brenes und ich vor kurzem feststellten, dass ungezählte Milliarden Dollar privater Gelder in Firmen fließen, die versuchen, die Grenzen des Technokrieges zu erweitern. Die Schätzungen reichen von 6 bis 33 Milliarden Dollar jährlich und laut New York Times von 125 Milliarden Dollar in den letzten vier Jahren. Wie auch immer die Zahlen lauten mögen, der Technologiesektor und seine Geldgeber spüren, dass mit Waffen der nächsten Generation viel Geld zu verdienen ist, und sie lassen sich von niemandem aufhalten.

In der Zwischenzeit hat eine Untersuchung von Eric Lipton von der New York Times ergeben, dass Risikokapitalgeber und Startup-Firmen, die die KI-gestützte Kriegsführung bereits vorantreiben, auch fleißig ehemalige Militär- und Pentagon-Beamte einstellen, die für sie arbeiten. Ganz oben auf dieser Liste steht der ehemalige Verteidigungsminister Mark Esper.

Solche Verbindungen können von patriotischem Eifer getrieben sein, aber eine wahrscheinlichere Motivation ist einfach der Wunsch, reich zu werden. Ellen Lord, ehemalige Leiterin der Beschaffungsabteilung im Pentagon, bemerkte dazu: “Die Verbindungen zwischen der Verteidigungsgemeinschaft und Private Equity haben jetzt einen gewissen Schwung. Aber sie hoffen auch, dass sie im großen Stil abkassieren und eine Menge Geld verdienen können.”

Der König der Philosophen

Eine weitere zentrale Figur beim Aufbau einer Hightech-Kriegsmaschine ist der ehemalige Google-CEO Eric Schmidt. Seine Interessen gehen weit über den militärischen Bereich hinaus. Er ist zum König der Philosophen geworden, wenn es darum geht, wie neue Technologien die Gesellschaft verändern werden und was es bedeutet, ein Mensch zu sein.

Er denkt schon seit einiger Zeit über solche Fragen nach und hat seine Ansichten in einem Buch aus dem Jahr 2021 mit dem bescheidenen Titel „The Age of AI and Our Human Future“ (Das Zeitalter der KI und unsere menschliche Zukunft) dargelegt, das er zusammen mit keinem Geringeren als dem verstorbenen Henry Kissinger verfasst hat. Schmidt ist sich der potenziellen Gefahren der KI bewusst, aber er steht auch im Mittelpunkt der Bemühungen, ihre militärischen Anwendungen zu fördern. Obwohl er auf den messianischen Ansatz einiger aufstrebender Persönlichkeiten aus dem Silicon Valley verzichtet, lässt sich darüber streiten, ob sein scheinbar durchdachterer Ansatz zur Entwicklung einer sichereren, vernünftigeren Welt der KI-Waffen beitragen wird.

Beginnen wir mit dem grundlegendsten Punkt: Wie sehr KI das Leben, wie wir es kennen, nach Ansicht Schmidts verändern wird, ist außergewöhnlich. In diesem Buch von ihm und Kissinger behaupteten sie, dass sie “die menschliche Identität und die menschliche Erfahrung in einem Ausmaß verändern wird, wie es seit dem Beginn der Neuzeit nicht mehr der Fall war”, und argumentierten, dass die Funktionsweise der KI “einen Fortschritt in Richtung auf das Wesen der Dinge bedeutet, einen Fortschritt, den Philosophen, Theologen und Wissenschaftler seit Jahrtausenden mit teilweisem Erfolg angestrebt haben”.

Andererseits hat das Regierungsgremium für Künstliche Intelligenz, dem Schmidt angehörte, die Risiken der militärischen Nutzung von KI voll anerkannt. Die Frage bleibt: Wird er sich zumindest für strenge Sicherheitsvorkehrungen gegen ihren Missbrauch einsetzen? Während seiner Amtszeit als Leiter des Defense Innovation Board des Pentagons von 2017 bis 2020 hat er dazu beigetragen, Richtlinien  für den Einsatz von KI vorzubereiten, die versprechen, dass der Mensch bei der Einführung von Waffen der nächsten Generation immer “mit im Boot” sein wird. Aber wie ein Kritiker der Tech-Industrie anmerkte, halten die Richtlinien, wenn man die Rhetorik einmal beiseite lässt, “einen nicht wirklich davon ab, irgendetwas zu tun”.

Senatorin Elizabeth Warren (D-MA) und andere Befürworter einer guten Regierungsführung stellten sogar die Frage, ob Schmidts Rolle als Leiter der Defense Innovation Unit nicht einen potenziellen Interessenkonflikt darstellt. Denn während er die Richtlinien für die militärischen Anwendungen von KI mitgestaltete, investierte er gleichzeitig in Unternehmen, die von der Entwicklung und Nutzung von KI profitieren.

Sein Investmentunternehmen America’s Frontier Fund investiert regelmäßig Geld in militärische Technologie-Start-ups, und eine von ihm gegründete gemeinnützige Organisation, das Special Competitive Studies Project, beschreibt ihre Aufgabe als “Stärkung der langfristigen Wettbewerbsfähigkeit Amerikas, da künstliche Intelligenz (KI) unsere nationale Sicherheit, Wirtschaft und Gesellschaft [umgestaltet]”. Die Gruppe ist mit einem “Who’s Who” von Führungskräften aus dem Militär und der Technologiebranche verbunden und setzt sich unter anderem für eine geringere Regulierung der Entwicklung von Militärtechnologie ein. Im Jahr 2023 gründete Schmidt sogar eine Militärdrohnenfirma, White Stork, die laut Forbes ihre Systeme heimlich im Silicon Valley-Vorort Menlo Park testet.

Die Frage ist nun, ob Schmidt davon überzeugt werden kann, seinen beträchtlichen Einfluss zu nutzen, um die gefährlichsten Anwendungen der KI einzudämmen. Leider deutet sein Enthusiasmus für den Einsatz von KI zur Verbesserung der Kriegsführungsfähigkeiten auf das Gegenteil hin:

“Ab und zu kommt eine neue Waffe, eine neue Technologie auf den Markt, die die Dinge verändert. Einstein schrieb in den 1930er Jahren einen Brief an Roosevelt, in dem er darauf hinwies, dass es diese neue Technologie – Atomwaffen – gibt, die den Krieg verändern könnte, was sie auch tat. Ich würde argumentieren, dass [KI-gestützte] Autonomie und dezentralisierte, verteilte Systeme genauso mächtig sind.“

In Anbetracht der bereits erwähnten Risiken sollte der Vergleich zwischen militarisierter KI und der Entwicklung von Atomwaffen nicht gerade beruhigend sein. Die Kombination von beidem – Atomwaffen, die von automatischen Systemen ohne menschliches Eingreifen gesteuert werden – wurde bisher ausgeschlossen, aber rechnen Sie nicht damit, dass das so bleibt. Ohne strenge, durchsetzbare Sicherheitsvorkehrungen, die regeln, wann und wie KI eingesetzt werden kann, ist das immer noch eine Möglichkeit.

Die KI wird kommen, und ihre Auswirkungen auf unser Leben, ob im Krieg oder im Frieden, werden wahrscheinlich die Vorstellungskraft übersteigen. In diesem Zusammenhang ist eines klar: Wir können es uns nicht leisten, dass die Menschen und Unternehmen, die am meisten von ihrer ungezügelten Anwendung profitieren werden, die Oberhand bei der Festlegung der Regeln für ihren Einsatz haben.

Ist es nicht Zeit, gegen die New-Age-Krieger einzuschreiten?

Der Artikel ist englischen Original auf TomDispatch.com erschienen. Wir danken William Hartung und Tom Engelhardt für die Möglichkeit, ihn übersetzen und veröffentlichen zu können.

William D. Hartung ist Senior Research Fellow am Quincy Institute for Responsible Statecraft. Seine Arbeit konzentriert sich auf die Rüstungsindustrie und den Militärhaushalt der USA. Zuvor war er Direktor des Arms and Security Program am Center for International Policy und Co-Direktor der Sustainable Defense Task Force des Centers. Er ist Autor von “Prophets of War: Lockheed Martin and the Making of the Military-Industrial Complex” (Nation Books, 2011) und zusammen mit Miriam Pemberton Herausgeber von “Lessons from Iraq: Avoiding the Next War” (Paradigm Press, 2008). Zu seinen früheren Büchern gehört „And Weapons for All“ (HarperCollins, 1995), eine Kritik der US-Waffenverkaufspolitik der Regierungen Nixon und Clinton. 

Ähnliche Beiträge:

• “America first”
• Countdown zum Dritten Weltkrieg?
• »Das Kinopublikum akzeptiert die Fälschung nicht«
• Folgen des Urteils des Bundesverfassungsgerichts zur automatisierten Datenanalyse
• Ökonomie und prekäre Leiharbeit von ChatGPT und Co.