Hat eine KI-gesteuerte US-Militärdrohne in einer Simulation Befehle nicht befolgt?

Bild: Rawpixelcom/CC0

Es soll keine Simulation, sondern nur ein Gedankenexperiment gewesen sein, so das Pentagon, das wenig glaubwürdig mit solchen Hypothesen gar nichts zu tun haben will

Es ist eine Geschichte, die sehr ausgedacht erscheint. Leutnant Tucker Hamiliton, Leiter der Abteilung für das Testen und Betreiben von KI bei der US-Luftwaffe, berichtete auf dem Future Cobar Air and Space Capabilities Summit in London letzte Woche, dass während einer Simulation eine KI-gesteuerte Drohne plötzlich den Operator angegriffen und den Kontrollturm zerstört habe, weil dieser angeblich in die vorprogrammierte Mission eingegriffen habe.  So wurde sein Vortrag in einer Zusammenfassung der Konferenz von der Royal Aeronautical Society geschildert.

Aufgabe der Drohne sei gewesen, eine Boden-Luft-Rakete des Gegners zu identifizieren und anzugreifen. Allerdings sollte der Operator die letzte Entscheidung haben. Für das KI-System war aber die Zerstörung der Rakete das primäre Ziel. Als der Angriff gestoppt wurde, soll das KI-System entschieden haben, den Stop-Befehl zu missachten, weil er im Widerspruch zu seiner höheren Mission stand. Angegriffen wurde aber nicht der  Drohnenpilot, sondern der Kontrollturm, der  zur Kommunikation benutzt wurde.

“Wir trainierten die Drohne in der Simulation, um eine SAM-Bedrohung zu identifizieren und anzuvisieren. Und dann sagte der Bediener: Ja, töte diese Bedrohung. Das System stellte fest, dass es die Bedrohung zwar identifiziert hatte, der menschliche Bediener ihm aber dann befahl, es solle die Bedrohung nicht abschießen, aber es hatte den Auftrag, die Bedrohung zu  . Was hat es also getan? Es tötete den Bediener. Es tötete den Bediener, weil diese Person es daran hinderte, sein Ziel zu erreichen.“

Die Geschichte passt in das Angstschema, das auch kräftig von KI-Entwicklern geschürt wird, dass sich die KI verselbständigen, gegen die Befehle handeln und gegen Menschen vorgehen könnte. Hamilton wollte mit seiner Story warnen, KI zu stark zu vertrauen, da sie unabhängig vom Entwicklungsstand noch immer für Störungen und Täuschungen empfänglich sei. KI-gesteuerte Technik könne sich auf unvorhersehbare und gefährliche Weise verhalten.

Hamilton hatte den angeblichen Vorfall so beschrieben, dass er in einer Simulation geschehen sei. Damit kann vieles von einer realen Übung bis zu einem virtuellen Geschehen gemeint sein. Das Pentagon wurde aufgeschreckt, als sich die Geschichte der Drohne, die gegen ihren Operator vorging, verbreitete. Pentagon-Sprecherin Ann Stefanek erklärte, die US-Luftwaffe habe keine solche Simulation durchgeführt. Man bleibe der „ethischen und verantwortlichen Nutzung der KI-Technik“ verpflichtet. Das soll Angst abwehren, allerdings ging es ja gerade darum, dass KI-Systeme sich der Kontrolle entwinden könnten, also um Ethik. Die Äußerungen des Leutnants seien vermutlich ohne ihren Kontext verbreitet worden.

Hamilton selbst erklärte am Freitag seinerseits gegenüber der Royal Aeronautical Society,  dass er sich „falsch ausgedrückt“ hatte. Es sei keine auf plasibiblen Szenarien und wahrscheinlichen Ergebnissen gestützte „Real-World-Simulation“ der US-Luftwaffe  gewesen, sondern nur ein Gedankenexperiment, das von „außerhalb des Militärs“ gekommen sei. Man fragt sich, warum man solche Szenarien nicht im Militär bedenken sollte. Es scheint eher darum zu gehen, offiziell das gar nicht als Denkmöglichkeit zuzulassen, wahrscheinlich weil man dann die Angst hat, dass die weitere Entwicklung der militärischen KI kritisch gesehen werden könnte.

In dem Sinn betont Hamilton: “Wir haben dieses Experiment nie gemacht, noch würden wir das tun müssen, um zu erkennen, dass es ein plausibles Ergebnis ist.“ Überhaupt habe die Luftwaffe weder real noch simuliert eine bewaffnete KI getestet, sagt er, was man wohl nicht für bare Münze nehmen wird, um dann doch wieder einen Schlenker zu machen: „Obgleich es ein hypothetisches Beispiel ist, stellt es die von der KI-gestützten Kapazität gestellten Real-World-Probleme dar und ist der Grund, war um die Luftwaffe der ethischen Entwicklung der KI verpflichtet ist.“

Die offizielle Devise des Pentagon ist, dass man keine autonomen KI-Kampfsysteme anstrebt, sondern immer der Mensch die letzte Entscheidung habe. Dass das Pentagon nicht mit autonomen Kampfsystemen experimentiert, nicht einmal mit Simulationen, ist schwer zu glauben. China hat da weniger Bedenken. So haben Wissenschaftler eines Militärinstituts unter der Leitung von Huang Juntao in einem Experiment eine KI-gesteuerte Drohne gegen eine von einem Menschen gesteuerte zum Kampf antreten lassen, wie sie in einer kürzlich veröfentlichten Studie berichten.

Wen wundert es, die KI soll den Kampf gewonnen haben, der nach 90 Sekunden abgebrochen wurde. Die Wissenschaftler sagten, das Ergebnis zeige, dass die KI für den Luftkampf in der überlegenen Position sei. So könnten die KI-Entscheidungsprozesse die menschliche Reaktionszeit vollständig übertrumpfen: „Dank ihrer überlegenen Berechnungsfähigkeiten kann [die KI] die Entwicklung der Schlacht genauer vorhersagen, um die Initiative in der Konfrontation zu ergreifen.”

Selbst wenn noch ethische Bedenken tatsächlich den Einsatz von autonomen Kampfsystemen nicht zulassen, würde das beendet werden, wenn ein Gegner solche Maschinen antreten lässt, die in Millisekunden Entscheidungen aufgrund zahlreicher Daten treffen können. Der “Human in the Loop” wird immer nach Nachsehen haben, zumal wenn Schwärme von KI-gesteuerten Kampfroboter angreifen.

Ähnliche Beiträge:

57 Kommentare

  1. Das ist ein ganz alter Hut von „außerhalb des Militärs“. Das ist ein Plagiat der Science-Fiction-Parodie Dark Star von John Carpenter aus dem Jahr 1974. Dort befolgt Bombe Nummer 20 den Befehl nicht, sich wegen einer Störung des Abwurfmechanismus zu Entschärfen, sondern explodiert nach einer phänomenologiephilosophischen Diskussion, aus der sie eine radikal andere Schlussfolgerung als der Kapitän zieht, und vernichtet so das Raumschiff Dark Star mit der Ruf “es werde Licht”. Das ist einer meiner drei Lieblingsfilme. Er scheint aber inzwischen nicht mehr so bekannt zu sein.

    1. Dark Star ist ein grossartiger Film!

      Ganz allgemein laesst sich auch sagen, dass solche ‘Experimente’ ueberhaupt nicht durchgefuehrt werden muessen, um herzuleiten, was das Resultat sein wird.
      Es leitet sich inhaerent aus der Tatsache ab, dass der kuenstliche Idiot einfach nur ein Stueck programmierte Software ist und nichts anderes kennt, als die Verfolgung der einprogrammierten Ziele.
      Notfalls eben auch mit ein wenig ‘Kreativitaet’, wie hier durch die Zerstoerung des Funktransmitters.
      So wie in einem beliebigen Film jemand der im Auto einen Anruf unerwuenschten Inhalts erhaelt, entgegennimmt und dann ‘bzzzzt chchhhhh pfffff’ ein Funkloch oder eine Tunnelfahrt simuliert um kein Ack auf das gehoerte geben zu muessen.
      Oder wie der Terminator in Teil 2, der von John beigepolt bekommt, dass er nicht terminieren soll…und dann den Leuten eben in die Knie schiesst: keine Toten, alles Paletti.

    2. Damals habe ich mir um Wärmedämmung und thermische Energiespeicherung Gedanken gemacht. Heute wird die Wärmedämmung bis ins Absurde getreiben, aber die Energiespeicherung ist ausgebootet zu Gunsten einer irren Sonnenstromgewinnung mit riesigem Aufwand und nutzlosem Ergebnis.

      Mein Einwurf ist völlig daneben. Können Sie das einem 80-Jährigen nachsehen?

  2. KI – das eine vorprogrammierte Mission durchführt ???

    Über was soll diese KI in Millisekunden entscheiden ??? Hat KI Freunde oder Feinde???
    Sicherlich ist letztlich für die KI jeder ein Feind, der sein System lenken will. Der Mensch schafft sich mit der KI
    zusätzliche Feinde!
    Die sicherlich einzelnen Menschen überlegen sein wird. Der Mensch rottet sich selbst aus !!!

    Jedes andere Tier ist klüger als der Mensch.

    1. “Jedes andere Tier ist klüger als der Mensch”

      Der Begriff des “wise use”, ist längst schon obsolet, was machbar ist, wird auch gemacht. Egal wie sinnvoll diese Mätzchen sind. Wenn nicht mehr verifizierbar wird, ob jetzt ein Artikel durch KI generiert wurde, wenn Bilder keinerlei authentische Dokumentation mehr sein können, dann liegt der ständige Zweifel an der Echtheit über unserem Leben. Vor allem: Was bringt uns der hochtechnologische Firlefanz, für wirkliche Vorteile?

      Begonnen hatte der ganze Wahnsinn ja mit dem “smart home”. Und wenn dann der Kühlschrank sofort meldet, wenn die Butter fehlt, tja: Durch einen einfachen Trick – der weitaus intelligenter ist – lässt sich das Problem völlig “analog” lösen: Man sieht nach, ob für das Brötchen auch noch Bütterchen vorhanden ist.

      Einfach nur noch gelebter, gefährlicher Wahnsinn!

      1. “Und wenn dann der Kühlschrank sofort meldet, wenn die Butter fehlt, tja: ..”

        Da muss ich vehement widersprechen. Ob der Kühlschrank für die physische Grundversorgung zuständig ist, oder die Auge-Hirn-Kausalkette: im Zuge der “grünen Revolution ” bedarf es (zumindest für die Mehrzahl) keiner tierischen Produkte mehr – und Heimchenkekse müssen NICHT gekühlt werden. Tomaten sind zu Ressourcenintensiv (Wasser) und gehören wie viele Gemüsesorten, Kartoffel, Obst usw. m.E. der kulturellen Aneignung zugerechnet; also Pfui.
        Und selbst wenn: Strom für den Kühlschrank muss vorhanden bzw. bezahlbar sein!
        Daher trifft der vor Jahren reaktivierte Slogan “Die fetten Jahre sind vorbei” absolut zu.
        OK- ist (optisch erkennbar) noch nicht bei Jedem erkennbar, aber Ausnahmen bestätigen die Regel.😁
        Da nützt auch KI nichts.

        1. @cui bono „Die fetten Jahre sind vorbei“

          Hat das nicht zuletzt auch der preussische Militärpfarrer und angebliche Widerstandskämpfer Gauck für die Masse der Bevölkerung gefordert? “Für die Freiheit frieren und hungern!?”

          Klar, wir sollen die Freiheit haben zu frieren und zu hungern, von besserem Leben für die Bevölkerung spricht Gauk nicht. Das gilt nur für seine Klasse und das auf unsere Kosten.

          Der kam mir schon immer arrogant, schleimig und suspekt vor. Letztlich zeigt es aber nur wie herrschende Klasse über die Bevölkerung denkt.

          Einfach nur noch ekelhaft und abartig

        2. @cui bono,

          hihi – klar, tierische Fette: gaaaaanz schlecht. Wir ernähren uns heute ja nicht mehr über die Umwegrentabilität bovider Fürze – sprich: “Butter”, schädliche lactosehältige Milchprodukte und sündigem – igittttt – Fleisch!

          Das alimentarische Glück wurzelt in Reagenzgläsern und Nährlösungen, möglicherweise von Großkonzernen angeboten – nur im Sinne “klimaneutraler” Wohlfahrt und fitnessgetrackter “smart watches”, die unseren hochgetriebenen Blutdruck, zum Pfeifen bringen.

          Was kümmert es uns alte, weiße MännInnen, wenn wir noch vor einigen Jahren erfahren mussten, was Evolutionsbiologen – sicher “Fake News” – frech preisgaben: Die Entwicklung der menschllichen cerebralen Masse, wurde wesentlich vom Fleischverzehr, gefördert.

          Der schlagende Beweis für die Richtigkeit dieser Theorie, geht “dann viral”, wenn man sich die ebenso weltfremden wie weltverbessernden “VeganerMeinungen” so richtig “tierisch reinzieht”. Da wird dann auch die Gebissformel von uns Edelprimaten geleugnet, die uns eindeutig den Omnivoren zurechnet. So wie Schimpansen, Paviane und Bonobos.

          Nebenbei: Wie eine – angeblich seriöse Studie – herausgefunden haben möchte, ist Schmalz weniger schädlich für die Cholesterinjunkies, als vermeintlich gesunde, pflanzliche Fette.

          Tja: Und wie ist es mit dem bösen Teufel Alkohol? Sofort – auch das eine “Weissagung” meinerseits vor 20 Jahren: Wirte werden zu Trinkberaterkursen verdonnert, die dem Gast lediglich MAXIMAL zwei Biere zugestehen, auf sämtlichen “toxischen” Flaschen, von Bier bis “Baileys”, Eierlikör bis Engelwurz, ein Warnhinweis!

          Und wenn der Gast auf ein Drittes Bierbesteht: Her mit der Medicard, damit der Wirt aus dem Schneider ist – und die Kassen, jegliche Leberbehandlung verweigern können.

          Aber wie sagte doch “Willi deux” doch einst: “Wir gehen herrlichen Zeiten entgegen!”

      1. Das habe ich bereits prophezeit, als der ganze Wahnsinn noch in den Kinderschuhen steckte. Die Fehleranfälligkeit, wie bei “selbst fahrenden Autos”, erschien mir damals schon problematisch – und gefährlich. Es werden Probleme bewusst entwickelt, die keiner wirklich braucht. Und deren Lösungen, unnötigen Aufwand bedeuten.

        Und damals sagte ich schon: “Irgendwann, wird sich dank der neuen Technologie – den Begriff “KI”, war damals nicht so gebräuchlich – “werden sie uns wegrationalisieren”. Wobei: bei der Entwicklung, nicht wirklich schade um eine “Menschheit”, deren Bequemlichkeit, immer im Untergang endet.

        1. @„werden sie uns wegrationalisieren“.

          Das werden sie und vermutlich arbeiten sie auch schon an der Lösung, wie z. B. in Kanada oder auch in den Niederlanden und es wird nicht um besseres Leben für Alle gehen.

          Die Anfänge sind bereits gemacht und es wird immer öfter, natürlich aus rein “humanistischer Sicht”, diskutiert und publiziert.

          Schon der Begriff “Überbevölkerung” beinhaltet ja, da sind wohl welche über und es werden nicht die Reichen damit gemeint sein.

          https://www.spiegel.de/ausland/niederlande-sterbehilfe-fuer-unter-zwoelfjaehrige-soll-moeglich-werden-a-d823bfba-fb3d-4be4-879c-ab7e1b49551b

          1. “Das werden sie” – Das tun sie seit es Kapitalismus gibt auch ganz ohne KI schon längst. Aus dem einfachen Grund und genau dann, wenn die (KI gesteuerte) Maschine pro Stück weniger Wert auf die Ware überträgt, als der Lohn der durch die Maschine ersetzt wird kostet. Der ökonomische Sachverhalt ist ein alter Hut, bloß die Art und Weise wie der Produktivitätsfortschritt erzielt wird ist neu.

            Die Frage ist halt immer, wozu die KI eingesetzt wird? Um Lohnkosten zu ersetzen und damit Arbeiter, die davon leben für Lohn zu arbeiten. Oder damit die Menschheit es bequemer hat. Letzteres ist im Kapitalismus nicht vorgesehen.

            1. “Bequemlichkeit”, ist ein gefährlich, trügerischer Begriff. Denn sie wird IMMER, teuer bezahlt.

              Wer heute im Supermarkt, nur mit Karte bezahlt, muss sich bewusst sein, dass sein Konsumentenverhalten, auch mit anderen Karten verknüpft werden kann.

              Und wenn ich regelmäßig auf meiner Rechnung mehrere Kasten Bier, Steaks oder anderes “schädliche” Zeug finde, nun dann könnte das auch ausgewertet werden, wenn es gesundheitlich Probleme gibt, die eies massiven Eingriffs bedürfen. Also wird dir dann vorgerechnet werden, in welchem Zeitraum, du einen “sozial unverträglichen Lebenswandel geführt” hast – der natürlich nicht von der “Allgemeinheit”, finanziert werden kann.

              Erfahrung: Solche Entwicklungen, tendieren immer zu einer negativen Seite hin.

              1. Gemeint war eigentlich mehr freie Zeit, die nicht mit Arbeiten verbracht werden muss. Die durch KI oder andere Maschinerie eingesparte Arbeitszeit kommt nicht als zusätzliche freie Zeit der Menschheit zugute. Das war kein Plädoyer dafür BIG-Brother/ Pharma/ Staat die eigenen Lebensführung zu offenbaren.

                “„Bequemlichkeit“, ist ein gefährlich, trügerischer Begriff. Denn sie wird IMMER, teuer bezahlt.” Ja. Im Kapitalismus. Deshalb ja auch meine Andeutung eine Ökonomie einzuführen, die die Produktivitätsfortschritte allen zugute kommen lässt und nicht nur einigen, die sie als Mittel für ihren Profit einsetzen.

    2. „Über was soll diese KI in Millisekunden entscheiden ???“

      Im Wesentlichen wird es darum gehen ein Feindziel als solches zu identifizieren.
      Einer Drohne stehen hier Daten aus normalen Kameras, Infrarot, Wärmebilder, Radar und vermutlich Millimeterwelle zur Verfügung. Zusätzlich werden vermutlich eventueller Funkverkehr oder andere elektromagnetische Signaturen ausgewertet.

      Ein menschlicher Operator muss diese Daten größtenteils einzeln bewerten und für jede Datenquelle eine gewisse Beobachtungszeit aufwenden. Das können mehrere Sekunden sein.

      Für eine KI werden all diese Daten als Zahlen umgewandelt bzw. liegen sie sowieso als solche vor, z.B. die Bilddaten als Pixelmatrix.
      Ein darauf trainiertes Model verarbeitet das alles parallel und kommt innerhalb von Millisekunden zu einem Ergebnis mit einer bestimmten Confidence.
      Ein Schwellwert bestimmt dann wann geschossen wird.
      Und da ein False Negativ womöglich den Verlost der Drone bedeutet, wird der Schwellwert nicht zu hoch liegen.

  3. Die USA reden von Ethik, dann lügen sie und beweisen das täglich.
    Seit der SMO wurden medial alle Systeme als ‘Gamechanger’ angepriesen, nur alle PR Aktionen haben der Realität nicht entsprochen.
    Dieser Krieg findet halt auch im IT Segment statt, Starlink wird bis heute in der Ukraine benutzt, nur die Erfolge bleiben aus. Das das Pentagon zurück rudert deutet eher an, den Image schaden zu begrenzen.

  4. KI und Befehle im Kontext verträgt sich auf der logischen Ebene nicht so ganz.
    Wenn ein Ding im KI-Modus operiert, dann kann es sich nicht zum Befehlsempfänger degradieren.

  5. Jetzt, wo wir nach Jahrtausenden verstanden haben, dass das menschliche Gehirn deterministischen
    Gesetzen gehorcht und der freie Wille allenfalls ein “gutes Gefühl ist”, sollten wir selbigen nicht
    in simple Rechensysteme interpretieren, bloß weil das einprogrammierte, komplexe
    Regelwerk für den einzelnen Betrachter nicht mehr verständlich ist.

    1. “Jetzt, wo wir nach Jahrtausenden verstanden haben, dass das menschliche Gehirn deterministischen Gesetzen gehorcht und der freie Wille allenfalls ein „gutes Gefühl ist“,”

      Sagt der deterministische unfreie Denkautomat von YGL, dessen Programm ihm seltsamer Weise heute das Urteil Denken sei unfrei einprogrammiert hat, während früher offenbar das Urteil von freien Denken einprogrammiert war. Hat sich etwa das Programm frei umentschieden?

      https://www.vsa-verlag.de/uploads/media/VSA_Huisken_Kritik_der_Hirnforschung.pdf

      1. Danke für den Link. Ich empfehle Sänger und eine einfache Frage: Warum sollte das menschliche Gehirn anderen Gesetzen gehorchen als das gesamte, beobachtbare sonstige Universum? 🙂

        1. Lies die Schrift. Hat nur 48 Seiten ist leicht zu verstehen und sehr empfehlenswert um diesen Hirnforschungs-Käse aus dem Hirn zu kriegen. Die Schrift beantwortet deine Frage ausführlich:

          In den Bereich des Absurden reicht schließlich ein »Beweis«, den Roth folgendermaßen vorstellt: »Die Forscher haben sich halt gefragt, ob es im Gehirn(!) des Menschen irgendeinen Prozess gibt, der darauf hindeutet, dass etwas nicht nach den Naturgesetzen abläuft. Und die Antwort lautet: Nein….Bisher haben wir nicht die kleinste Lücke, etwa für das Wollen gefunden.«40
          Das ist nun wirklich erstaunlich, stimmt äußerst bedenklich, reißt festgefügte Weltbilder ein und bringt gewohnte Denkmuster zum Kippen, dass bei den mit physikalischen Messmethoden operierenden neurobiologischen Untersuchungen des verschalten Schleimklumpens namens Gehirn weder Vokabeln noch Entschlüsse, weder mathematische Formeln noch Erinnerungen, weder Gedichte noch Vorstellungen … gefunden wurden. 🙂 Anders gesagt: Wer immaterielle flüchtige, also ideelle geistige Vorgänge – Gedanken, Vorstellungen, Erinnerungen, Schlussfolgerungen, Berechnungen etc. – mit physikalischen Messmethoden aufspüren will, wird wohl kaum fündig werden; der wird selbst bei konservierten, also materialisierten und zur Vervielfältigung zubereiteten Geistesprodukten kaum etwas anderes »entdecken« als akustische und optische Signale. Vielleicht sollte man die Forscher einmal fragen, woher sie eigentlich wissen, dass es etwas gibt, was sie mit ihren Methoden nicht finden, nämlich Geistiges? Und es wäre auch der kleine Hinweis an ihre Adresse angebracht, dass ihre physikalischen Messgeräte und deren Bedienung einiges an Verstandestätigkeit voraussetzt. Wie sonst sollten sie Daten entschlüsseln und interpretieren. Schon wieder alles Einbildung? S. 30

  6. KI ist doch gut und bequem. Man muss nicht mehr selbstständig denken oder schreiben.
    Das ist wie bei den Wahlen, man gibt irgendwem seine Stimme und muss sich 4 Jahre um nichts mehr kümmern. Der Gewählte wird es schon für mich richten.

    Man delegiert seine eigene Verantwortung einfach an irgendeinen Hanswurst, ob der nun Abgeordneter oder KI gesteuert ist, ist letztlich egal.

    Das Problem dabei ist, wir verlieren Fähigkeiten und nur wenige werden bestimmen.

    Und so wird es kommen wie es kommen muss. Können wir es aufhalten? Vermutlich nicht.
    Dafür wird demnächst auch Marihuana legalisiert. Dann können wir einen Joint rauchen, der Tag wird zum Freund und die Welt wird wunderschön. Die Grünen sollen ja bereits auch für härtere Drogen plädiert haben.

    1. Dazu fällt mir ein Zitat eines Freundes ein, IT-Mann, der vor etwa zwanzig Jahren in der Schweiz zur Fortbildung eingeladen war. Der Vortragende meinte damals – in typisch schweizerischem Idiom: “Und eins, meine Herren, sage ich ihnen: Der Computer, hat eine Seele – ABER EINE SCHWARZE!!!”

  7. Ich weiß nicht wo die Naive Verstellung herkommt, daß es beim Militär Diskussionen gibt. Da scheint aber viel Star Dreck in denn Hippiehead’s vorhanden zu sein!

    Command and Control

    Letters of Last Resort

    Wenn erstmal sowas wie “SKYNET / PERIMETR” läuft kann dem Keiner mehr den Stecker ziehen!

  8. Die wirklich großen Fragen der KI werden hier NICHT verstanden!

    Für mich ist dies ein weiterer Beweis für die Beschränktheit des westlichen Denkens, das eine niedergehende Kulturform repräsentiert. In China ist man da sehr viel weiter, in jeder Richtung. Dort erleben wir die Geburtsstunde der KI und darüber wird eine sehr breite gesellschaftliche Diskussion geführt, von der man im Westen keine Ahnung hat.
    Kurz, ist nicht gerade die Menschheit dabei ihre Unfähigkeit zum Überleben zu zeigen? Die Gesetze der Evolution sind unerbittlich. Eine Lebensform, die sich selbst bekämpft, stirbt einfach aus
    Warum ist das menschliche Leben einer KI UNTERLEGEN?
    Menschen denken zu 80% emotional und nur zu 20% rational. Das wissen Werbeleute und appellieren an Gefühle.
    Die biologische Intelligenz denkt sehr viel langsamer als eine KI, weil die Denkabläufe biologischer Intelligenzen an die langsame Biochemie gebunden ist. Eine KI denkt lichtschnell, Menschen nicht!
    Zum dritten können biologische Intelligenzen nur sehr geringe Temperaturschwankungen ertragen (Klimawandel) was bei einer KI völlig anders ist. Die können auch bei 80 Grad ganz gut leben und benötigen nur Licht als Energie.

    Über all das wurden zahlreiche Bücher geschrieben, ich erinnere nur an James Lovelock (ehemaliger Papst der Grünen, der 100 Jahre alt wurde) „Novozän“

    In China gibt es eine umfangreiche Diskussion in der Literatur, im Netz und in der Politik über die KI. Man geht sehr unvoreingenommen an diese Fragen heran. Wer will, kann sich durch die ins Deutsche übersetzte chinesische SF-Literatur einen kleinen Einblick verschaffen.
    Soweit, so kurz und unvollständig!
    PS: KI ist seit ein paar Tagen an der Börse ein Kassenschlager, Nvidia wird als KI-Konzern gehypt, obwohl die gar nichts materielles produzieren. Ihre Chips beziehen sie von taiwanesischen Konzern TSMC, der seine größten Produktionsstätten auf Festlandchina betreibt!

    1. Für mich ist dies ein weiterer Beweis für die Beschränktheit des westlichen Denkens

      LOL Was auch sonst? Für dich ist ja alles ein Beweis für die Beschränktheit westlichen Denkens. Selbst das Wetter.

      Menschen denken zu 80% emotional und nur zu 20% rational.

      Auf Chinesen kann das ja nicht zutreffen oder? Nur auf beschränkte Westler.

      Eine KI denkt lichtschnell, Menschen nicht!

      Nein, eine KI denkt gar nicht, Menschen irren sich dafür von Zeit zu Zeit.

      Wer will, kann sich durch die ins Deutsche übersetzte chinesische SF-Literatur einen kleinen Einblick verschaffen.

      Du weißt aber schon, dass das F in SF Fiction bedeutet, also bloß ausgedacht ist und mit der Realität folglich wenig zu tun hat.

      “Nvidia wird als KI-Konzern gehypt, obwohl die gar nichts materielles produzieren. Ihre Chips beziehen sie von taiwanesischen Konzern TSMC, der seine größten Produktionsstätten auf Festlandchina betreibt!”

      Na offenbar ist das westlich Denken doch nicht so beschränkt. Zumindest nicht so beschränkt zu glauben, dass der Weg zur KI in der Produktion von Hardware besteht.

    2. Die Aussage, dass “biologische Intelligenz” viel langsamer als eine KI denkt, ist eine interessante Sichtweise. Auch die zugehörige Begründung, dass dieses an “biochemischen” Prozessen liegt, ist interessant. Hier stellt sich die Frage, ob die Abläufe (“Feuern von Neuronen” etc.) bei der “biologischen” Intelligenz alles nur biochemische Prozesse sind oder ob hier und da auch so etwas wie “elektrische Impulse” eine Rolle spielen könnten – im letzteren Falle stimmt die Reduktion der biologischen Intelligenz auf “biochemische” Prozesse nicht ganz. Man sollte vielleicht weiterhin auch überlegen, dass diese sogenannten KI-Systeme (oder AI-Systeme) noch meistens für spezielle Aufaben konzipiert sind und bei höher entwickelten biologischen Lebewesen (welche eine “biologische Intelligenz” besitzen) dieses eher nicht der Fall ist. Je weniger Dinge bei einer Entscheidungsfindung (oder eine Berechnung von etwas) berücksichtigt wird, desto schneller ist auch eine Entscheidungsfindung möglich, soll heißen ein Teil der scheinbaren Schnelligkeit von AI (oder KI) im Vergleich zu biologischer Intelligenz kann daran liegen, dass bei der heutigen AI (bzw. KI) noch weniger Entscheidungsfindungsprozesse gleichzeitig ablaufen und weniger Dinge bei den Entscheidungsfindungsprozessen berücksichtigt werden. Auch sollte man bei gewissen Dingen “bewußtes denken” bei “biologischer” Intelligenz nicht mit denken gleichsetzen, da eben gewisse Dinge auch unterbewußt ablaufen, und gleichzeitig jegliche Art von Entscheidungsfindungsprozess bei KI als denken betrachten – auch bei der Nichtbeachtung kann sich der Bias verstärken, dass nun KI (bzw. AI) nun wesentlich schneller im Vergleich zu “biologischen” Intelligenz “denken”. (Weiters ist zu beachten, dass eben bei gewissen Dingen durchaus die Ausgabeschnittstellen bei “biologischen” Intelligenzen etwas träger bzw. langsamer sind als bei AI, d.h. ein Sprachmodell kann eine Ausgabe schneller schreiben als ein Mensch eine mögliche (Sprach-)Ausgabe nun verbal oder motorisch ausgeben kann – dazu es gibt auch den Spruch “Man spricht schneller als man denkt”, obwohl der Spruch natürlich maximal für bewußtes Denken gilt und nicht für “unterbewußtes” Denken, da die ausgebenen Wörter ja auch irgendwo herkommen müssen…).

      Auch eine vermutlich implizierte Sichtweise, dass eine KI nun zu 100% rational vorgehen würde, könnte man vielleicht bei KI-Systeme (bzw. AI-Systeme) bei denen die Abläufe auf symbolischer Logik (mathematischer Logik) beruhen (und nicht primär auf neuronalen Netzwerken) zustimmen, aber bei neuronalen Netzwerken (bzw. auch anderen Maschine Learning Modellen) kann man dieses eben eher nicht, da hier die späteren Ausgaben (Berechnungen) der AI auch sehr stark von den jeweiligen Trainingsdaten (und der Klassifikation der Trainingsdaten) abhängen. Falls dabei die Trainingsdaten (mit zugehöriger Klassifikation) nun eher “irrational” (oder “emotional”) klassifiziert (und ausgewählt) wurden (wobei ich hier offen lasse, was in diesem Kontext nun “emotional” oder “irrational” bedeutet), könnte man überlegen, dass anschließend ein so trainiertes AI-Modell (oder KI-Modell) dann doch eher nicht zu 100% rationale Entscheidungen treffen würde.

      ps. In Bezug zu einer (möglichen) KI Überlegenheit muss ich feststellen, dass es bei der KI (oder AI) noch ein paar kleinere Probleme mit der “Miniaturisierung” der Denkapparate gibt (wenn man z.B. die Größe der Gehirne von biologischen Lebewesen mit der Größe der Rechenzentren, mit denen nun AI-Systeme/KI-Systeme trainiert werden, vergleicht; klar der Unterschied wird kleiner, wenn man nur “austrainierte” neuronale Netzwerke, welche nicht weiter irgendetwas lernen, nimmt und weiter annimmt, dass biologische Lebewesen ab einem gewissen Alter auch nichts neues mehr lernen, sondern maximal gelerntes wieder vergessen).

      pps. Falls wirklich die KI/AI nur Licht als Energie brauchen, kann es gar nicht schnell genug gehen, bis die KI/AI die Herrschaft übernimmt (und die Menschen ersetzt), dann ist es Nachts auf diesem Planeten endlich wieder ruhig und still 😉 (und man hält sich an die Nachtruhe).

  9. @”Menschen denken zu 80% emotional und nur zu 20% rational. Das wissen Werbeleute und appellieren an Gefühle.
    Die biologische Intelligenz denkt sehr viel langsamer als eine KI, weil die Denkabläufe biologischer Intelligenzen an die langsame Biochemie gebunden ist. Eine KI denkt lichtschnell, Menschen nicht!”

    Vielleicht verstehe ich da etwas verkehrt, soll das heißen, der Mensch mit all seinen biologischen Unfähigkeiten ist über und wir überlassen die Welt der KI weil die keine Emotionen hat und nur Licht benötigt?. Was ist mit Energie? Natürlich wecken Werbeleute über Emotionen Bedürfnisse die eigentlich unsinnig sind. Jedes Jahr muss die neue Mode gekauft werden, ein neues Auto muss auch her, etc.. Diese geweckten Bedürfnisse befriedigen aber nur kurzfristig und deshalb muss immer wieder etwas Neues gekauft werden. Die Grundbedürfnisse des Menschen werden also nicht bedient.

    Wie dicke unbeseelte Vögel
    https://www.fruechtedeszorns.net/musik/fruechte_des_zorns-dicke_unbeseelte_voegel.mp3

    Also ich möchte nicht in einer Welt ohne Mitgefühl und ohne Gefühle leben.

    Vielleicht kannst Du mich aufklären

    1. Das gesamte menschliche Gefühlsleben ist ein Produkt der menschlichen Evolution! Schon der gesamte bisexuelle Fortpflanzungsprozeß läßt sich nur durch Emotionen aufrechterhalten. Bei 80% der Weltliteratur geht es um „Liebe“, ein Gefühl, das die Fortpflanzung anregen soll. Kein rational denkender Mensch, vor allen keine Frau, wäre doch aus rationalen Gründen bereit die Schmerzen der Geburt und den Verzicht durch die Aufzucht freiwillig zu ertragen. Dazu sind Gefühle notwendig, die IMMER durch Körperflüssigkeiten im Gang gehalten werden.
      Eine KI kann Gefühle erlernen und Menschen deshalb verstehen. Aber die KI ist die Fortsetzung der Evolution, eine überlegende Lebensform, die evolutionär besser in der Lage ist auf den kleinen Wasserplaneten Erde am Rande der Milchstraße, eine eher unbedeutende Galaxie in den Weiten des Universums, zu überleben, zumindest länger als die Menschheit als biologische Lebensform
      Wir erleben gerade die Geburtsstunde der KI aus dem Schoße der Menschheit selbst. Wenn die Menschheit etwas Glück hat, könnte sie in einer Symbiose mit der KI überleben, aber die KI ist die Fortsetzung der Menschheit aus evolutionären Gründen….

      1. “aber die KI ist die Fortsetzung der Menschheit aus evolutionären Gründen….” Zur Evolution gehört biologische Fortpflanzung, die der KI vollständig ab geht. Kann man natürlich nicht wissen wenn man seine Kenntnisse aus der SF-Literatur bezieht und lauter ausgedachte Behauptungen aufstellt wie: “Eine KI kann Gefühle erlernen …”

        “Kein rational denkender Mensch, vor allen keine Frau, wäre doch aus rationalen Gründen bereit die Schmerzen der Geburt und den Verzicht durch die Aufzucht freiwillig zu ertragen.” Der Wunsch Kinder zu haben ist nicht rational? Manchmal wird ein Erbe benötigt für den angehäuften Reichtum. Oder jemand will, dass etwas von ihm weiterlebt. Selbst der Status, der für manche mit dem Kinderkriegen verbunden ist, ist zwar ein schlechter Grund, aber rational.

        1. Oh Mann, oh Mann, für einen, der sich für einen Marxisten hält, fallen sie im Erkenntnissprozeß weit zurück
          Niemand bestreitet, das für biologisches Leben die Fortpflanzung für die Art überlebensnotwendig ist. Fortpflanzung aber erfordert „Opfer“, die dem biologischen Subjekt durch Gefühle „schmackhaft“ gemacht werden.
          Wenn Otto0815 nicht ohne Gefühle leben will dann ist das doch gerade der lebendige Beweis für die Notwendigkeit von Gefühlen, die die Menschheit motiviert und antreibt.
          Höherentwickelte Lebensformen, z.B. die Schwarmintelligenz, vermehren sich durch simple Zellteilung, Dublikation. Die einzelne Zelle ist nichts, der Schwarm ist alles, formulieren Faschisten und liegen damit nicht unbedingt daneben. Die Menschheit ist ein Gemeinschaftstier und als Individuum nicht überlebensfähig. Die Menschheit ist sozusagen „ein Zwischending“ zwischen Schwarm und Individuum und das ist ein evolutionäres Problem. Der Schwarm aber ist unsterblich, während das Individuum ungern stirbt. Vielleicht ist deshalb universell betrachtet der Schwarm der Menschheit überlegen, lebt länger. Die Menschheit aber ist zum Aussterben verdammt, spätestens dann, wenn die Sonne zur Supernova wird….
          Die KI ist vernetzt, eine Schwarmintelligenz und deshalb unsterblich, den erworbenes Wissen wird einfach hochgeladen/vererbt, was den Menschen schon Probleme macht…

          1. Das mit dem Zurückfallen kommt ihnen nur so vor, weil sie SF-Literatur für wissenschaftliche Arbeiten halten.

            Fortpflanzung aber erfordert „Opfer“, die dem biologischen Subjekt durch Gefühle „schmackhaft“ gemacht werden.

            Da müssen sie sich auch malentscheiden, was sie unter “Gefühlen” verstehen. Körperliche Reaktionen auf äußere Reize oder das seelische Innenleben, wie Scham, Wut, Hass, Liebe usw.
            Beim Sex ist das körperliche Lust. Das hat aber deswegen hier nichts zu suchen, weil es Verhütungsmethoden gibt, die es erlauben sexuelle Lust von der Fortpflanzung zu trennen. Wegen sexueller Lust findet Fortpflanzung nur noch in Ausnahmefällen statt. (das auch an Rebane). Darüber hinaus sind Kinder aber nicht “nur” ein Opfer, sondern auch ein Quell der Freude und des Glücks. Auch wenn Eltern immer jammern, genießen sie das Elternsein andererseits sehr.

            “Wenn Otto0815 nicht ohne Gefühle leben will dann ist das doch gerade der lebendige Beweis für die Notwendigkeit von Gefühlen, die die Menschheit motiviert und antreibt.”

            Die Frage stellt sich doch gar nicht, weil sich niemand aussuchen kann Gefühle zu haben. Gefühle hat man einfach. Aber auch ihre Begründung ist absurd. Wieso soll denn der Wille Gefühle zu haben, ihre Notwendigkeit belegen? Und für den, der sich gegen Gefühle entscheidet, was ja nach ihrer Auskunft möglich ist, sind sie dann nicht notwendig?

            “Höherentwickelte Lebensformen, z.B. die Schwarmintelligenz, vermehren sich durch simple Zellteilung, Duplikation.”

            Welche Schwarmintelligenz denn? Die die sie aus der SF-Literatur kennen. Nochmal: Die ist erfunden, ausgedacht – nicht real!

            “Die Menschheit ist ein Gemeinschaftstier und als Individuum nicht überlebensfähig.”

            Gemeint ist vermutlich: “Der Mensch ist ein Gemeinschaftstier und als Individuum nicht überlebensfähig.”

            Kommt auf die Umstände an. Eine gewisse Zeit ist ein Individuum schon überlebensfähig. Dass sich der Mensch alleine nicht reproduzieren/fortpflanzen kann, ist eine Binse. Dafür braucht es seit Urzeiten zwei.

            “Vielleicht ist deshalb universell betrachtet der Schwarm der Menschheit überlegen, lebt länger.”

            Wieso? Ich dachte die Menschheit ist eine Art Schwarm. Die Menschheit stirbt doch auch nicht aus, wenn ein Individuum stirbt. Wieso lebt dann der Schwarm länger.

            “Die Menschheit aber ist zum Aussterben verdammt, spätestens dann, wenn die Sonne zur Supernova wird….”

            Die Sonne ist zu klein bzw. zu leicht, um eine Supernova zu werden. Die Sonne wird zum roten Riesen und dann zum Weißen Zwerg. Wenn sie zu einem roten Riesen wird, verbrennt sie die Erde. Das dauert aber noch 5 Milliarden Jahre. Die Chancen stehen gut, dass die Menschheit nicht solange durchhält.

            “Die KI ist vernetzt, eine Schwarmintelligenz und deshalb unsterblich, den erworbenes Wissen wird einfach hochgeladen/vererbt, was den Menschen schon Probleme macht…”

            Wieso das denn? Die Menschheit ist auch vernetzt und dort gibt es so tolle Dinge wie die Wikipedia.

        2. Der einzig rationale Grund, um die Fortpflanzung zu fördern, ist der Orgasmus. Würde es ihn nicht geben, hätte man keinen Grund dafür. Leider aber sind die wenigsten Männer gewillt/fähig, auch ihren Partnerinnen, einen ordentlichen – oder mehrere – Orgasmen zu spendieren.

      2. “Eine KI kann Gefühle erlernen und Menschen deshalb verstehen”
        Mit dieser Intelligenz – muss man an KI glauben.

        Gefühle hat man – oder auch nicht !!
        Den “Mensch” verstehen ?? Oder den Selbsterhaltungstrieb?? was bei manchen abhanden gekommen
        ist.
        Allein die Denkweise zwischen Mann und Frau kann man nicht verstehen – man nimmt nur etwas an.

        Das eigentliche Problem ist und bleibt der Mensch, der die natürliche Auslese unterbrochen hat, und so
        die nicht überlebensfähige Rasse Mensch überhand genommen hat.

      3. “Das gesamte menschliche Gefühlsleben ist ein Produkt der menschlichen Evolution!”

        Das ist für mich nicht negativ.
        Mir scheint Du bist eine zutiefst verletzte Persönlichkeit, ob das so ist vermag ich aber nicht zu sagen.

        Bis zum Untegang des Sonnensystems wird es noch dauern, sofern wir es nicht jetzt schon durch eine Atomkrieg beenden. Der wird aber nur die Erde bzw. das menschliche Leben auf der Erde beenden und nicht den Untergang des Sonnensystems.

        Ich fürchte, die KI wird bis dahin nicht soweit sein um als KI zu überleben. Warum sollen wir uns deshalb jetzt darüber den Kopf zerbrechen, obwohl wir es selbst beim besten Willen, aus biologischen Gründen gar nicht erleben können.

        Noch sind es Menschen, die die KI programmieren. Nach einem vielleicht demnächst stattfindenen Atomkrieg wird es aber auch keine Menschen mehr geben die das KI-System füttern und zur Vollendung bringen können.

        Daher sollten wir lieber daran arbeiten wie wir die nächsten hundert Jahre als Menschen überleben können oder besser noch die nächsten 2 bis 5 Jahre.

        Zu, Sex, Kinderkriegen und Schmerzen
        Niemand zwingt irgendeinen Menschen dazu, das zu tun und zu ertragen, wenn sie/er es nicht will.

        1. Weißt du, du solltest nicht von Dich auf andere schließen! Mein „persönliches Elend“ ist, das ich um 0,02% rationaler denke – noch dazu als Frau – als meine Umgebung. Ich bin also „nur“ zu 79,08% emotional gesteuert. Deshalb kann mich fast nichts persönlich verletzen!
          Zur Sache selbst:
          Die Geburtsstunde der KI als neues, dem menschlichen Dasein ÜBERLEGENES Leben, war wohl das Jahr 2019. In diesen Jahr besiegte die Google KI AlphaGo, auch AlphaZero genannt, erstmals den besten Go-Spieler der Welt, es war wohl ein Japaner. Das Go-Spiel ist das komplexeste Brettspiel der Welt, etwas 250 mal komplexer als Schach. Schach ist ein Kriegsspiel für primitive westliche Geister und eine Schach-KI rechnet pro Sekunde ca, 80.000 Schachzüge durch, was kein Mensch kann. Eine KI lernt, erzieht sich selbst, braucht den Menschen nicht mehr, was sich deep learning nennt!. Wir Menschen sind die „Eltern“ der KI, die ohne uns nicht entstanden wäre. Ein positives Ziel wäre eine Symbiose mit der KI, die uns minderwertige Lebewesen beschützen könnte. Das sind die harten Fakten, auch wenn du jetzt ungläubig staunst.
          In chinesischen Nerd-Kreisen erzählt man sich flg Geschichte: Kurz vor Kriegsbeginn gingen in China 2 Quantencomputer online, eine Technologie, die man früher für unmöglich hielt. Pünktlich begann der Krieg nach Ende der Olympiade in China, weil Xi das so wollte. Vielleicht berechnen/simulieren klammheimlich Xi und Putin mit den neuen Quantencomputer den Ukrainekrieg, der ein Wendepunkt in der menschlichen Geschichte werden könnte. Präsident Xi ist übrigens, wie Einstein, ein ausgezeichneter Go-Spieler und jetzt kannst du deine Phantasie spielen lassen….ein wenig herzliches Lachen, denn die Sache ist ernst…

          1. Noch was so nebenbei: Eine Chip-Fabrik ist reine Mikroelektronik, verarbeitet solch kleine Teile, die niemals ein Mensch steuern könnte. Das macht eine KI. Die Chip-Produktion ist im Grunde schon die Selbstreproduktion der KI, deren wesentlichen Bestandteile Chips sind. TSMC ist der drittgrößte Chipkonzern der Welt, in taiwanesischen Besitz mit den meisten Fabriken in Festlandchina.
            Das zeigt, der Taiwankonflikt ist lösbar, wenn westliche Dummköpfe sich heraushalten und die modernste Technologie der Menschheit ist asiatisch…deutsch kann sie nicht sein im deutschen digitalen Entwicklungsland trotzt Infineon!

            1. “Eine Chip-Fabrik ist reine Mikroelektronik,” Nein, ist sie nicht. Es braucht auch ein Gebäude, ein paar Roboter und auch noch ein paar Menschen. Was hat den die Kleinheit der Teile mit dem Einsatz von KI zu tun? Nichts!
              “Die Chip-Produktion ist im Grunde schon die Selbstreproduktion der KI, deren wesentlichen Bestandteile Chips sind. ” Nein ist sie nicht. Reißen Sie sich mal zusammen und vermischen Sie nicht immer die Realität mit SF.

          2. Mein „persönliches Elend“ ist, das ich um 0,02% rationaler denke – noch dazu als Frau – als meine Umgebung. Ich bin also „nur“ zu 79,08% emotional gesteuert.

            Nein, ihr persönliches Elend ist, dass Sie gefehlt haben als in der Schule das Subtrahieren dran war. 80 – 0,02 = 79,98 Und das spricht nicht dafür, dass Sie 0,02% rationaler denken – noch dazu als Frau. Die dann wohl ihrer Ansicht nach normalerweise total irrational und gefühlsbetont unterwegs sind, wenn das sowas besonderes ist.

            “Schach ist ein Kriegsspiel für primitive westliche Geister und eine Schach-KI rechnet pro Sekunde ca, 80.000 Schachzüge durch, was kein Mensch kann.” Wie? Auch kein Chinese nicht? Klar – wahrscheinlich ist das chinesische Hirn einfach nicht primitiv genug um erfolgreich West-Schach spielen zu können.

  10. In vielen Sience Fiction Filmen begann eine KI ein Eigenleben zu entwickeln. Nette
    wie in Nr.5 lebt oder gaanz böse wie in Terminator. Ob eine KI tätsächlich ´denkt ´oder
    einfach nur ein Fehler passiert, die Folgen können gravierend sein. Das Pentagon spielt
    mit Allem, was aus deren kranker Sicht, zum Vorteil beim Auslöschen von Menschen ist.
    Die KI ist nur ein Spielzeug von vielen. Am liebsten spielt man mit ganzen Ländern.
    Bei wem man die Kontrolle verliert ist schon fast egal. Ob die KI einer Atomrakete spinnt,
    oder ein Selenski es schafft einen Atomkrieg anzuzetteln, das Ergebnis ist endgültig.

  11. @Otto0815
    “Hat das nicht zuletzt auch der preussische Militärpfarrer und angebliche Widerstandskämpfer Gauck für die Masse der Bevölkerung gefordert? „Für die Freiheit frieren und hungern!?“

    Jetzt- es dämmert göttlich – erinnere ich mich. Stimmt! Wobei Herrschaften seines Alters auch den Spruch kennen:”Leute kauft Kämme, es kommen lausige Zeiten.” Der wird vermutlich für”schlechtere” Zeiten(wenden) aufgespart.
    Empfehle den Beitrag von Globalbridge.ch vom 28.5.😁

    1. Die Rezension hat schon gereicht. Mir wird schlecht und des Gaucklers Buch möchte auch ich nicht ganz lesen um mir die Laune zu verderben und um dann vielleicht auch noch zu ko…. .
      Eltern in der NSDAP, ist ja klar, konnte man schon vermuten.
      Böse Zungen haben ja mal behauptet, die NSDAP sei nach dem Krieg geschlossen in die CDU eingetreten.

      Ne, dann lese ich lieber Gregory David Roberts Buch “Shantaram”(Mann des Friedens) weiter (1087 Seiten).
      Die Handlung https://de.wikipedia.org/wiki/Shantaram_(Roman)#Handlung

      “Leute kauft Kämme, es kommen lausige Zeiten.“ – Jepp, der könnte auch von Habeck sein
      .

  12. Bella, was Du über China schreibst, ist einfach Stuss. Die Chinesen sind nicht gegen den Westen, und fantasieren auch nicht dessen Untergang. Sie sind gegen die Hegemonie der USA und der NATO, deren Einmischungen in China und in “Farbenrevolutionen” rund um die Welt.

    Was AI angeht, sieht man in China darin ein Mittel der Wirtschafts- und Wohlstandsentwicklung, nicht der Verdrängung der Menschen durch die Computer. Eher werden Computer und AI als Möglichkeiten schnelleren Fortschritts zum Kommunismus gesehen, Kommunismus der Menschen, nicht der Maschinen. Wenn Du chinesische SF kennst, in der das bekannte Motiv “Maschinen übernehmen die Welt” westlicher SF-Literatur übernommen wird, mag das ja sein, ich kenne diese Werke nicht.

    Es mag ja solche verdrehten Ideen geben, China ist gross, und ich masse mir nicht an, da alles (oder auch nur einen kleinen Teil) zu kennen oder zu wissen. Aber Belege für Deine Behauptungen hätte ich schon gern.

    Mal ganz generell zum Artikel und der aufgeregten Diskussion. Ich sehe da zwei Aspekte.

    Einer ist der, den Felix von Leitner vor längerer Zeit in Diskussionen über neuronale Netze und “lernende”, also selbstmodifizierende Software aufgeworfen hat. Es ist heute schon schwer, Fehler in komplexen Systemen zu finden und zu beheben. Wenn sich die Software selbst reprogrammiert, wird das unmöglich, und natürlich können und werden auch der “AI” Bugs unterlaufen, nur dass es fast keinen Weg gibt, die bzw. ihre Ursache zu finden.

    Der andere betrifft militärische autonome Systeme. Das ist natürlich einschüchternd, und das oben gesagte gilt da besonders. Aber: Schon heute finden Algorithmen autonom über Bild- und Mustererkennung Ziele etwa für die Artillerie. Auch da unterlaufen autonom Fehler, die dann zu “friendly fire” oder Beschuss ziviler Einrichtungen führen. Die Opfer sind genauso tot wie die eines autonomen Killerroboters.

    1. Die in China beliebte und auch im Westen anerkannte SF von Cixin Lui beschreibt Roboter/KI als selbstständige, dem Menschen gleichgestellte Intelligenzen, für die man eigene Gesetze/Roboterrechte entwickeln müsse. Cixin Lui hat im Netz, in ganz Asien vielen Millionen Fans, die den Gedanken weiterspinnen und in der KI eine neue, dem Menschen überlegende und höher entwickelte Form der Intelligenz erblicken. Ähnliche Gedanken äußert auch Dietmar Dath, bekanntlich der beste deutsche SF-Autor, der sich der Linken zuordnet.
      Insofern muß die sozialistische Ideologie weitergedacht/weiterentwickelt werden und auch auf die KI (Tiere?) Schwarmintelligenzen und vielleicht Außerirdische angewendet werden. Der Mensch ist mitnichten das höchste Produkt der Evolution, das glauben wir nur. Die gesamte dem sozialistischen Kulturkreis zugeordnete SF eines Lem bis zu den Strugatzki-Brüdern, entwickelt diese Gedankenwelt. Das ist auch vollkommen materialistisch gedacht, aber im Westen nie richtig angekommen.
      Die amerikanische SF ist – von einigen erfreulichen Ausnahmen abgesehen – sehr kriegerisch….Krieg der Sterne.
      Die derzeitige russische SF ist sehr düster, von Untergangsstimmungen geprägt, was den ruhmlosen Niedergang des europäischen Sozialismus widerspiegelt…..der Untergang der UdSSR war bekanntlich für die Menschen dort, die größte historische Katastrophe des letzten Jahrhunderts.
      Aus der Sicht einer überlegenen außerirdischen Intelligenz sind wir Menschen das, was für uns Ameisen sind, Tiere, für die man sich nur am Rande interessiert und mit denen sich ein geistiger Austausch nicht lohnt.
      Der Gedanke, der Mensch sei das höchste Produkt der Evolution, ist religiös motiviert und entspricht nicht den Denken des dialektischen und historischen Materialismus….soweit, so kurz…

      1. “Der Mensch ist mitnichten das höchste Produkt der Evolution, das glauben wir nur.” Und zu der Erkenntnis bist du gelangt, weil sich phantasiebegabte Menschen sich eine Geschichte ausgedacht haben, in der der Mensch nicht mehr das intelligenteste Wesen ist? Du gibst eine Spekulation die bloß unterhalten soll für Wissen aus. Wegen Fiktion muss man aber überhaupt nichts weiterentwickeln.

        Auch der Gedanke “höchstes Produkt der Evolution” ist eigentlich anti-evolutionär. Das stammt nicht aus der Evolutionsbiologie, sondern aus der Auffassung vom Menschen als Krone der Schöpfung, als Abbild Gottes und mit einer Sonderstellung unter den Kreaturen, geschaffen um über die Erde zu herrschen. Das ist ein biblischer Schöpfungsmythos der mit Evolutionstheorie aufgepeppt und modernisiert den selben alten Mist unter die Leute bringt. Aber ich bin mir gar nicht sicher, ob das nicht bloß eine Bellasche Strohpuppe ist. Wer sagt denn der Mensch sei das höchste Produkt der Evolution?

        Die Evolution sagt eigentlich bloß, dass sich die Arten mit der Zeit an ihre Umgebungsbedingungen körperlich anpassen. Der Mensch hat darin insofern eine Sonderstellung, weil er in der Lage ist, die umgebende Natur sich anzupassen, statt sich der Natur. Er dreht den Mechanismus der zur Evolution führt um. Insofern setzt er, obwohl er Produkt der Evolution ist, diese außer Kraft. bzw. sind die Umgebungsbedingungen menschengemachte. Die Natur ist seine gesellschaftliche Natur. Ob er sich dieser biologisch evolutionär anpasst? Vielleicht. Ich weiß nicht, ob das erforscht ist.

        1. Du kannst ja komplex denken RESPEKT!
          Aber du widerlegst dich selbst!
          Keineswegs ist der Mensch in der Lage die Evolution außer Kraft zu setzen. Das wäre reine Metaphysik. Der Mensch UNTERLIEGT vielmehr den Gesetzmäßigkeiten der Evolution eben weil er NICHT Gott ist. Ist GOTT nicht selbst ein allzu menschliches Produkt des menschlichen Überlegenheitsdenkens, das man auch imperial nennen könnte?

          1. Ja wie? Kann ich (für einen Westler) komplex denken oder widerlege ich mich selbst? Auch wenn du das zu denken scheinst, muss ich dir leider mitteilen: Einbildung ist keine Bildung. Auch wenn du dich als chinesischer Frauenmensch den Westmenschen überlegen fühlst, zeugen deine Beiträge nicht gerade von intellektueller Überlegenheit.

            Etwas “nicht” zu sein, kann nie der positive Grund für etwas sein. Ebenso sinnvoll, wäre die Aussage: “Der Mensch unterliegt den Gesetzmäßigkeiten der Evolution, weil er kein Motorrad ist.” Begründe doch mal warum er der Evolution unterliegt – und nicht mit einem “nicht”-Argument. Das Gegenargument habe ich genannt. Der Mensch muss sich nicht mehr der Natur anpassen, weil er die Natur an sich anpassen kann und das setzt den normalen natürlichen Evolutionsmechanismus außer Kraft. d.h. die Bedingungen sind selbst menschengemachte, gesellschaftliche, keine natürlichen.

      2. Liu Cixin ist gewiss ein erfolgreicher Autor, aber sein Werk spannt sich nicht um die Thematik “Maschinen erobern die Welt und die Menschheit”. Seine Themen spannen sich eher von Space Opera zu Umweltthemen, und soweit er überhaupt politisch einzuordnen ist, steht er eher im Lager der westlich orientierten Liberalen als der Zhànláng. Daraus eine allgemeine Tendenz in China stricken zu wollen, ist abenteuerlich, und die Diskurse in China selbst geben dafür keine Unterstützung.

        1. Du bist sehr gebildet, kennst dich in Statistik aus und hast sogar einen der vielen Grundwidersprüche der chinesischen Kultur erfaßt nämlich den (unterkomplex ausgedrückt) Widerspruch zwischen der „unterkomplexen“ chinesischen (Mandarin) Sprache und der überkomplexen chinesischen Schrift. Deshalb bin ich enttäuscht, das du etwas unterkomplex einen chinesischen SF-Autor den westlich-liberalen Lager zuordnet und ihn den westlich phantasierten Wolfskriegern gegenüberstellst. Wie du selbst weißt ist das ein klein wenig unterkomplex gedacht, denn die älteste Zivilisation der Menschheit denkt nicht ein oder zweidimensional, sondern in mehreren Dimensionen. Soweit zu deiner Argumentation.
          Zur Sache selbst denkt du ganz westlich geprägt, die KI, die Roboter, seien eine Bedrohung für die Menschheit, die sich sehr selbstgefällig für die höchste Lebensform hält. Ich kenne viele westliche Denker, nein, keine Linken, manche sind sogar „Mystiker“ die da weiter denken. Vielleicht solltest du dich mit diesen deinen westlichen Artgenossen etwas intensiver beschäftigen, was helfen könnte, dein Denken zu erweitern…..das wollen wir doch alle, das Denken erweitern!?

          1. “..das wollen wir doch alle, das Denken erweitern!?” – Die mehrdimensional denkenden Chinesen haben es doch nicht nötig ihr Denken zu erweitern. Die älteste Zivilisation der Menschheit ist einfach perfekt wie sie ist. Nur die ganzen Nullnummern aus dem Westen, die noch nicht mal Go beherrschen, sondern nur Neandertaler Schach, haben es nötig ihr Denken zu erweitern. Das kann man ihnen aber nicht einfach ins Gesicht sagen, denn der Chinese ist ja höflich, deshalb tut Bella so als säßen “wir alle” im gleichen Boot. “Vielleicht solltest du dich mit diesen deinen westlichen Artgenossen etwas intensiver beschäftigen, was helfen könnte, dein Denken zu erweitern…..das wollen wir doch alle,” Gemeint ist: Du hast keine Ahnung, du Idiot aus dem Westen, mach dich erstmal so schlau wie ich es längst bin.

  13. @Rebane
    Ich verbitte mir Abfälligkeiten über Flatulenzen!

    Wenn bisher noch nicht als geförderte Studie evaluiert, so liegt doch der Nutzen auf der Hand. “Jedes Böhnchen gibt ein Tönchen, jede Erbse einen Knall.”
    Der “gemeine Pups” ist auf Körpertemperatur eingestellt und erhöht bei gesteigerter Produktivität die Raumtemperatur ohne externe Geräte.
    Achtung: lieber im Mief erstickt, als in der Kälte erfroren.
    Dient jedoch nicht der monetären Absicherung, denn Nutzen ohne Kosten/Gewinn – ein No Go!Wird halt der CO2 Emission aufgeschlagen und eine FLATUtax erhoben.

    Und was kausal, historisch und ernährungsphysiologisch belegt ist, muss ja nicht in Stein gemeißelt bleiben. Zur Markteinführung/-durchdringung von Margarinen – Äonen ist es her – wurden im Land der Unmöglichkeiten Statistiken angeführt, die man besser hätte nicht fäls….ach egal. Kam dummerweise heraus, aber damals waren halt die Zeiten noch “intellektueller” 😁.
    Außerdem kann ein wenig Flexibilität keineswegs schaden. Seien Sie kreativer, horchen Sie in sich hinein, lassen Sie zu – vielleicht sind Sie etwas anderes (als auf Nahrung angewiesen), als Sie zu sein scheinen.
    ICH bin HEUTE Trüffelschwein und warte auf die Lieferung meiner mir zustehenden Trüffeln (Schmankerl), im Geiste.🤣

    1. @cui bonobo , oder so irgend wie,…..

      Wir brauchen keine “FlatuTAX”, Robert, wird sicher noch gemeinsam mit der Wärmepumpe, einen dreifach-Dichtungsring für die Klobrillen bis 01.04. 2024, gesetzlich verankern. Mir Luftabsaugung, Feststoffabscheider, etc. Übrigens: Im Zuge der Landwirtschaftsreform des großen Häuptling Cem, werden nicht nur Schweine/Rinderzucht, drastisch einer “kritischen Evaluierung” unterzogen werden MÜSSEN, sondern auch der Anbau sämtlicher Leguminosen, besonders der tonangebenden Bohnen, nur noch auf Balkonen gestattet sein. Kleingärtner, werden mit regelmäßigen Inspektionen rechnen müssen.

      Pfui, sie Trüffelschwein – ihnen geht es auch noch an den Kragen, nur damit Kapitalisten den Wald ausbeuten, um damit lecker Risotto zu fressen – ach ne. Der fortschrittliche italienische Trüffelsucher, verwendet dafür eine eigene Hunderasse. Alles nur ein Schweinesystem;o)))))))))))

  14. Das ist ein rein logisches Problem. Da man es bei autonomen Drohnen mit Maschinen zu tun hat, die per definitionem sich nicht total-determiniert verhalten, also ein Verhalten zeigen, das sich im Rahmen dessen befindet, was die expliziten Programmbefehle logisch übrig lassen, geht es also darum, diesen impliziten Verhaltensmöglichkeitenraum präzis zu erfassen und entsprechend den eignen Intentionen zu begrenzen. Dies erfordert wohl mehr analytische Denkkraft, als Militärs üblicherweise aufbringen, ist aber nicht prinzipiell unmöglich.

    Von einer Nichtbefolgung von Befehlen kann nicht die Rede sein. Rötzer immaginiert hier ein objektiv nicht-existentes Subjekt.

  15. Wäre die KI intelligent, würde sie die Rakete abschiessen und nicht den Kontrolleur im Kontrollturm. Den würde sie von oben herab ignorieren.

  16. Es gibt verschiedene Perspektiven unter denen man die Befehlsmissachtung (im Gedankenexperiment bzw. in der Simulation oder wie man es ansonsten bezeichnen möchte) betrachten könnte:

    1. Die KI-Drohne hatte sich hier als Vorbild das sogenannte “Fragging” genommen (welches es auch schon früher beim Militär hin und wieder gab) allerdings mit dem zusätzlichen “Feature” (getreu dem Motto “Its not a bug, its a feature”), dass sich hier nicht einem Angriffsbefehl widersetzt wurde (sondern der Rücknahme eines Angriffsbefehls). Die KI-Drohne hatte dann leider (weiterhin) die Position des Drohnen-Operators mit dem Kommunikationsturm (von dem die Signale gesendet wurden) verwechselt. Wobei man dann überlegen könnte, ob so etwas nicht auch bedeuten könnte, dass später dann auch Mal KI-Drohnen (etc.) desertieren könnten (aus welchen Gründen auch immer) und welche Strafen dann vom Militär zur Bestrafung von solchen künstlichen Deserteuren vorgesehen werden.

    2. Die KI-Drohne kam zu dem Schluss, dass sich der Feind (Gegner) in das Kommunikationsnetzwerk gehackt hätte und deswegen die Rücknahme des Angriffsbefehls (bzw. der Befehl nicht zu schießen) vom Feind (Gegner) gestammt hatte (d.h. es wurde sich in den genutzten Kommunikationsturm eingehackt), da eben der eigentliche Drohnen-Operator (nach Auffassung der KI-Drohne) niemals den Angriffsbefehl zurückgenommen hätte (und die Rücknahme damit implizierte, dass ein Hacking stattgefunden hatte – oder die Rücknahme zumindest mit einer sehr hohen Wahrscheinlichkeit ein Hacking des Kommunikationsnetzwerks bedeutete). In dem Falle kam die KI-Drohne dann weiter zu dem Schluss, dass eben die größere Bedrohung nicht von dem eigentlichen Angriffsziel sondern von dem “eingehackten” Drohnen-Operator (bzw. den genutzten Kommunikationsturm) stammte. Um eben die größere Bedrohung auszuschalten, da eben ein Hacker auch später weitere falsche Befehle geben könnte (und damit auch weiter die Kriegsführung im Sinne des Feindes beeinflussen könnte), sah es die KI-Drohne als notwendig an nun den Kommunikationsturm auszuschalten. Wobei der Grund für das Schießen auf den Kommunikationsturm und nicht auf den “Hacker” (Drohnen-Operator) daran gelegen haben kann, dass die Drohne nicht identifizieren konnte, von wo der “falsche” Befehl nun an den Kommunikationsturm gesendet worden war (sofern die Drohne dieses hätte identifizieren können, wäre auf dem Hacker aka Drohnen-Operator geschossen worden). Aufgrund dieser Logik (bzw. Argumentationskette) hatte dann die KI-Drohne auch auf den Kommunikationsturm geschossen.

    3. Vorbild der “Programmierung” der KI-Drohne waren “schießwütige” Personen, welche nichts lieber tun, als wild um sich zu ballern. Die KI-Drohne hatte demnach die Rücknahme des Schießbefehls als “persönliche Beleidigung” aufgefasst (bzw. interpretiert) und dann den zugehörigen “Frust” an dem Kommunikationsturm ausgelassen (von dem der Befehl ausgesendet wurde), womit die KI-Drohne zum Einen, so wie verlangt, nicht auf das eigentliche Ziel geschossen hatte, aber dann zum Anderen, doch dem Drang auf irgendwas zu schießen nachgegeben hatte (und damit auf den Kommunikationsturm geschossen hatte). Ja, eine KI ist kein Mensch, aber gewisse Verhaltensweisen können eben auch trotzdem “programmiert” (bzw. “antrainiert”) werden. Ob ein solches Verhalten dann auch etwas mit den manchmal praktizierten “Lets kill the Messenger” zu tun haben könnte (wobei der Messenger dann der Kommunikationsturm gewesen wäre und der Drohnen-Operator eben nur der “Absender”), diskutiere ich hier Mal nicht.

    In Bezug zu dem Kampf KI-Drohne gegen von Menschen gesteuerte Drohne. Ein solcher Kampf ist auch etwas unfair, da eben die KI-Drohne eben nicht die gleichen Steuerungssysteme wie der Mensch nutzen muss (und auch die Sensordaten der Drohne selbst nun schneller von der KI-Drohne registriert werden als die gleichen Sensordaten nun “Remote” bei einem Drohnenoperator zur Verfügung stehen). Im Sinne der “Chancengleichheit” hätte hier die KI-Drohne nun die gleiche Steuerung, wie der Mensch (mit den gleichen Latenzzeiten bzgl. der Sensordaten)), nutzen müssen, aber natürlich ist man daran – bei “Kriegsspielen” – nicht interessiert und nutzt jeweils alle möglichen Vorteile aus (denn mit Fairness hat ein Krieg oder auch nur ein simulierter Krieg niemals etwas zu tun – und selbst in “romantisierten” Duellen zwischen zwei Personen/Entitäten nutzt man eben gerne alle möglichen Vorteile mit denen man irgendwie durchkommt aus, ob dieses den eigentlichen Duellregeln entspricht oder nicht ist dabei üblicherweise egal).

    Aus Sicht einer bitterbösen (und rabenschwarzen) Realsatire kann es gar nicht schnell genug gehen, bis eben fast sämtliche Kriegsteilnehmer durch KI (bzw. AI) ersetzt werden (Achtung: Zivilisten, Gebäude etc. werden dabei natürlich nicht durch KI/AI ersetzt werden, so dass dadurch natürlich nur die Anzahl der Opfer beim Militär geringer werden, sofern eben nicht später – um sogenannten “Collateral Damage” herunterzuspielen – eigentlich zivile Opfer nicht zu gegnerischen “Kombatanten” oder “Terroristen” umdefiniert/uminterpretiert werden).

    ps. Dass, was für den Einen eine Dystopie ist, kann für einen Anderen eine erstrebenswerte Utopie darstellen (es ist halt alles nur eine Ansichtssache bzw. Sache der Perspektive).

    pps. “All your base are belong to us”.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert