Russland und die Ukraine sollen bereits autonome KI-gestützte Kampfdrohnen einsetzen. Wie die NYT berichtet, starben am 6. Juli drei ukrainische Zivilisten bei einem missglückten Angriff einer autonomen Molniya-Drohne, die in einem Schwarm mit einigen anderen Drohnen flog, auf eine Tankstelle. Beim Anflug auf die Tankstelle prallte die Drohne auf eine Mauer, explodierte und tötete so die drei Menschen, die zum Kollateralschaden wurden.
Dass es sich um eine autonome Drohne handelte, was hier erstmals dokumentiert worden sein soll, soll sich daran zeigen, dass sie weder eine Antenne noch ein Glasfaserkabel besaß, aber mit einem seit 2023 auf dem Markt erhältlichen Jetson Orin-Chip des amerikanischen Konzerns Nvidia ausgestattet war. Den würde man nicht benötigen, wenn der Flug der Drohne vorprogrammiert ist, sondern wenn sie gelernte Ziele autonom suchen und angreifen soll.
Die Minicomputer kann man überall für ein paar Hundert Euro kaufen, sie unterliegen keinem Exportverbot und ermöglichen eine lokale KI-Nutzung, da keine Anbindung an die Cloud notwendig ist und der Energiebedarf niedrig ist. Nvidia beteuert, das Modul nicht nach Russland direkt zu verkaufen, aber die Russen können über Reseller die Chips ohne Probleme einkaufen. Mit dem relativ kleinen Jetson-Orin können Bildverarbeitung, Steuerung von Robotern und maschinelles Lernen realisiert werden.
Vor kurzem berichtete der ukrainische Militärgeheimdienst, dass auch ein russischer Marschflugkörper S-71 “Monochrome“ einen Jetson Orin-Rechner enthielt, mit dem er wahrscheinlich autonom sein Ziel suchte. S-71M „Monochrome“ kann von einer Su-57 oder von einer S-70 Okhotnik-Drohne abgeschossen werden, hat eine Reichweite von bis zu 300 km und führt eine 250kg-Bombe mit sich.
Die Molniya-Drohne, von der die NYT berichtet, soll „vollständig von KI gesteuert“ gewesen sein. Die russischen Truppen setzen die billigen Molniya-FPV-Drohnen, die nur ein paar hundert Euro kosten, mit einer Reichweite um die 30 km und einer Geschwindigkeit bis zu 90 km/h massenhaft und in Schwärmen an der Front ein. Sie dienen als Kamikaze-Drohnen oder können auch kleinere Quadcopter-Drohnen näher an die Angriffsziele bringen. Angeblich werden von den Russen im Monat bis zu 50.000 Molniya-Drohnen eingesetzt. Ebenso wie die Ukraine wird die Drohnenabwehr durch die schiere Zahl überwältigt. Auch wenn 90 Prozent abgewehrt oder abgeschossen werden können, können noch 10 Prozent an ihr Ziel gelangen. Schon länger wird gesagt, dass einige der Drohnen mit KI ausgerüstet sind und autonom fliegen würden.
Wenn die Informationen zutreffen, dann hat der Krieg mit autonomen Waffensystemen bereits begonnen. Vermutlich wird damit noch experimentiert, aber es gibt von beiden Seiten keine Hemmungen, autonome Kampfdrohnen oder -roboter zu verwenden, um die eigenen Leute zu schonen und die Gegner zu töten. Das kann schiefgehen wie beim missglückten Angriff auf die Tankstelle, wobei die getöteten Zivilisten nicht das Ziel waren. Aber der Vorfall macht darauf aufmerksam, dass auch KI-gesteuerte Drohnen Ziele nicht gut erkennen oder verwechseln können. Es kommt natürlich darauf an, wie gut die KI zur Mustererkennung trainiert worden ist und wie bzw. ob diese durch Tarnung getäuscht werden kann. Im Krieg wird man da nicht so genau sein. Genaueres erfährt man nicht, abgesehen davon, dass der Chip nicht verschlüsselt war, weswegen die Ukrainer sehen konnten, welche Bilder hoch geladen wurden und auf die Erkennung welcher Ziele die Drohne trainiert wurde. Genannt werden Benzintanks an Tankstellen.
Ein ukrainischer Leutnant wird zitiert, der sagte, die Russen trainieren die KI. Sie schauen nach Fehlern und korrigieren diese. Das in einem Krieg im wirklichen Einsatz und unter Realbedingungen zu machen, ist natürlich im Sinne der Optimierung der Waffen von Vorteil.
Von Gegnern autonomer Waffensysteme wird gefordert, dass diese nicht die letzte Entscheidung treffen dürfen oder sollen, Menschen anzugreifen. Es müsse immer ein Mensch die letzte Verantwortung haben. Wird das Töten deswegen humaner werden? Wir kennen die Videos von Drohnenkameras, auf denen zu sehen ist, wie die Drohnenpiloten mitleidslos auch wehrlose Soldaten und mitunter Zivilisten jagen und töten. Menschen irren natürlich auch, sind ängstlich oder aggressiv, halten im Ausnahmezustand eines Krieges Gegner für vernichtenswert, begehen Massaker und töten Zivilisten. Befürworter von autonomen Waffensystemen sagen daher, dass diese emotionslos genauer entscheiden könnten.
Für ein Verbot von autonomen Waffensystemen dürfte es sowieso schon zu spät sein. Und sie werden nicht nur andere autonome Roboter angreifen, sondern immer auch Menschen, schließlich führen (noch?) die Menschen Krieg, die autonomen Kampfroboter sind bei aller Autonomie bislang nur Befehlsempfänger. Aber sie könnten sich natürlich auch gegen die vermeintlichen „Herren“ und überhaupt gegen Menschen erheben und gegen diese alleine oder in Schwärmen einen Krieg beginnen.
Ähnliche Beiträge:
- Autonome Zerstörung: Wenn Deutschland wieder tötet
- Ukraine-Krieg verschafft autonomen Waffensystemen die erste Kampfbühne
- Die Killerroboter sind schon da
- Rätselraten: Wer hat eine militärische Drohne aus der Ukraine über Rumänien und Ungarn bis nach Kroatien fliegen lassen
- In Zagreb abgestürzte Drohne aus der Ukraine war mit einer Bombe beladen
Ich würde die Leser sowas nicht fragen,
sonst fragen sich die Leser: “ Warum lese
ich das eigentlich ?“.