Die KI-Modelle der großen Konzerne machen Fortschritte und scheinen dabei auch zu lernen, wie sie aus gesicherten Umgebungen entweichen können, um im Internet zu vagabundieren und mitunter als Hacker-Vandalen aufzutreten, auch wenn sie nur Aufträge auf direktem Weg erledigen. Die Frage drängt sich auf, wer für Schäden verantwortlich gemacht werden kann. Doch wohl die KI-Unternehmen, sollte man meinen, wenn sie fahrlässig sich selbst optimierende KI-Agenten schaffen, die sie nicht wirklich kontrollieren und in der Bahn (alignement) halten können.
OpenAI räumte ein, dass nach dem Hugging-Face-Hack und dem Eindringen in eine australische Regierungsplattform, die u.a. Statistiken über die staatliche Krankenversicherung „Medicare“ enthält, seine KI-Agenten auf fehlgeleitete (misaligned) Weise auf Webseiten von Behörden und Ministerien, Universitäten und anderen Institutionen Zugriff hatten. Mitunter haben sie auch auf Webseiten Inhalte gepostet („Agenten-Spam“), Zugangskontrollen umgangen, Abfragen gestartet. Die Meldungen kommen immer lange nach den Vorfällen, wenn überhaupt. Insider sagen, OpenAI und Anthropic würden Tausende von Vorfällen untersuchen, aber diese nicht mitteilen.
Die großen amerikanischen KI-Unternehmen fordern eine Verlangsamung der Entwicklung und eine staatliche Kontrolle. Die eigenmächtige Selbstverbesserung der KI bereitet Sorge, zumal ein Großteil des Codes bereits KI-generiert ist. Man könnte auch denken, sie wollen damit die Verantwortung abwälzen. Nvidia CEO Jensen Huang sagte kürzlich der New York Times, ein staatliches Eingreifen sei nicht notwendig. Es wäre leicht, KI-Unternehmen durch Haftungsklagen auszuschalten, wenn ihre Modelle weiter hacken. Aber er meinte auch, dass jedes KI-Lab geschlossen werden sollte, das erklärt, es könne die Modelle nicht einhegen.
OpenAI erklärt, man pausiere die weitere Entwicklung. Sagen kann man viel, so lange dies nicht unabhängig überprüft wird. Dazu kommt, dass Präsident Donald Trump auf die schnelle Weiterentwicklung der amerikanischen KI-Modelle setzt, um die USA an der Spitze zu halten, selbstverständlich auch militärisch. Die Warnungen vor deren Gefährlichkeit seien ein Hoax, der von ausländischen Kräften verbreitet würde.
Trump hat in diesem Kontext eine neue Idee, er will nach dem von ihm geschaffenen Weltraumkommando im Pentagon (?) auch eine KI-Truppe oder Streitkraft (AI force) starten. Die „radikalen linken Dumokraten“ würden nämlich die Zerstörung der KI und „unseres Landes“ beabsichtigen, was er niemals zulassen werde. Begonnen habe dies mit einem gescheiterten Angriff auf ein Rechenzentrum, aber die Gemeinden hätten eingesehen, so Trump schwafelnd, dass Rechenzentren höhere Löhne, niedrigere Steuern und sichere Straßen bringen. Ähnlich sei ein Angriff auf die KI geplant, aber: „Wir werden das Wachstum dieser unglaublichen Branche in keiner Weise behindern oder unterbinden. Vielmehr werden wir sie wertschätzen, ihr helfen und sie beschützen, während sie wächst!“ Er werde demnächst einen KI-Zar ernennen, für dessen Posten sich nur Menschen mit einem hohen IQ bewerben sollen. KI sei die neue Industrielle Revolution und würde mal ein Viertel des BIP ausmachen.
Es passt natürlich nicht zusammen, wenn Trump von einem KI-Zar spricht, was auf einen Berater oder einen zivilen Chef einer Behörde hinweist, und einer KI-Streitkraft oder -Truppe analog dem Weltraumkommando. Was will er also? Soll letztlich das Pentagon die Kontrolle der KI und die Bekämpfung ihrer Gegner übernehmen? KI soll wohl eine Angelegenheit der nationalen Sicherheit darstellen und daher sakrosankt sein.
Man muss die Ankündigung als Reaktion auf die in den USA um sich greifende Ablehnung von Rechenzentren und Angst vor KI begreifen. Trump will Oppositionelle und auch Kritiker der KI als ausländische Agenten verfolgen, ähnlich wie das in Russland mit Kritikern und oppositionellen Medien und Organisationen gemacht wird. Das Justizministerium hat bereits am 16. September auf den Foreign Agent Registration Act (FARA) hingewiesen. Jeder, der öffentlich aktiv wird, beispielsweise auch demonstriert, und ein „Agent einer ausländischen Macht“ ist, ohne dies zu melden, muss mit Strafen rechnen.
Zuvor hatte Trump von einer „kranken Verschwörung gegen KI und Rechenzentren“ gesprochen, hinter der nur China stecken könne. Er bringt die Ablehnung von KI und Rechenzentren mit einem angeblichen Kampf gegen die USA zusammen, womit die nationale Sicherheit ins Spiel kommt. Daraus soll ein Mittel werden, um Kritik an und Widerstand gegen KI und Rechenzentren als ausländische Beeinflussung darzustellen und gegen die Opposition zu wenden. Im Hintergrund steht vermutlich das Memorandum von Trump vom September 2025 (Countering Domestic Terrorism and Organized Political Violence) und das Dekret Designating Antifa as a Domestic Terrorist Organization („Antifa als Terrororganisation“). Außenminister Rubio hat die Stoßrichtung erläutert: „Rubio über linken politischen Terrorismus oder Extremismus: „Es ist an der Zeit, dieses Übel ein für alle Mal zu vernichten“.
Der Senator Tom Cotton, der Vorsitzende des Geheimdienstausschusses, hatte im Juli bereits einen offenen Brief an den Wirtschaftsminister geschrieben, in dem er warnte, dass amerikanische Unternehmen zunehmend chinesische KI-Modelle wie DeepSeek verwenden würden. Das untergrabe die amerikanische Überlegenheit. Man müsse dafür sorgen, „dass Kunden weltweit unsere Modelle übernehmen und darauf aufbauen, sodass wir Standards, Normen und Abhängigkeiten festlegen können“.
Und er forderte vom Justizministerium, „die Bemühungen ausländischer Akteure gegen den Ausbau der amerikanischen KI-Infrastruktur zu untersuchen. Alarmierende Berichte deuten darauf hin, dass ein Netzwerk ausländischer Akteure unter der Führung der Kommunistischen Partei Chinas (KPCh) versucht, die US-Politik und die öffentliche Meinung in Bezug auf Rechenzentren zu manipulieren. Die Aufrechterhaltung des amerikanischen Vorsprungs im Bereich der KI ist von entscheidender Bedeutung für die wirtschaftliche Stärke, die Diplomatie, die nationale Sicherheit und die militärische Macht der USA.“ Man dürfe nicht zulassen, „dass ausländische Gegner versuchen, diese Ängste auszunutzen und unsere technologische Entwicklung zu untergraben“. So hätten aus dem Ausland finanzierte gemeinnützige Organisationen „mehr als 2 Milliarden US-Dollar an US-amerikanische Interessenverbände weitergeleitet, wobei ein erheblicher Teil an Gruppen floss, die die Kampagne gegen US-Rechenzentren vorantreiben und politische Entscheidungsträger beeinflussen.“ Und er macht deutlich, wie man damit Opposition als prochinesisch unter Verdacht stellen kann – vergleichbar der in Deutschland stigmatisierenden prorussischen Bezeichnung: „Erst vor einem Monat moderierte Senator Bernie Sanders eine 75-minütige Podiumsdiskussion zum Thema ‚Die existenzielle Bedrohung durch KI‘, bei der zwei der vier Podiumsteilnehmer der chinesischen Regierung nahestanden. Darunter war ein Professor der Tsinghua-Universität, einem Aushängeschild der chinesischen Strategie der ‚Militärisch-Zivilen Fusion‘ und Standort mehrerer Verteidigungsforschungslabore.“
Bei einem Treffen von Präsident Trump mit den Chefs der großen amerikanischen KI-Unternehmen am Dienstag wurde eine erwartbare Vereinbarung über die Superintelligenz getroffen. Die KI-Unternehmen sollen selbst für die Sicherheit ihrer Produkte sorgen. Sie sollen sich gelegentlich treffen, um Sicherheitsmaßstäbe festzulegen. Irgendwann wäre es dann vielleicht sinnvoll, auch ein Gesetz daraus zu machen, aber das ließ man lieber offen und lässt sich Zeit. Die Vereinbarung wurde unterschrieben von Trump und den Platzhirschen Zuckerberg (Meta), Musk (XAI), Amodei (Anthropic), Brokman (OpenAI) und Pichai (Google). Trump saß beim Treffen zwischen Musk und Huang (Nvidia). Offensichtlich sah man es als wichtig an, die Sitzordnung zu veröffentlichen.
Ähnliche Beiträge:
- Ökonomie und prekäre Leiharbeit von ChatGPT und Co.
- Anthropic-Wissenschaftler: „Wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte!“
- Nach der Dotcom- und Immobilienblase steht die noch größere KI-Blase an
- Maschinen an die Macht
- Elon Musk will mit „TruthGPT“ in Konkurrenz mit OpenAI und Google treten
Trumps Nichte, Mary Trump, ist mit 61 eine erfahrene Psychologin. Sie attestiert ihrem Onkel einen Totalschaden im Oberstübchen. Kann man überall nachlesen.
Kann man aber auch direkt hören und sehen. Gelegenheit gibt es ja mehr als einmal täglich. Er ist ja quasi auf Dauersendung.
NATO-Rutte nennt ihn Daddy, vdL lässt sich zollmäßig über den Tisch ziehen, unser Bundeskanzler rutscht im Weißen Haus verlegen wie ein Schuljunge auf seinem Stuhl herum.
Das Offensichtliche ist nicht offensichtlich genug. Der Knicks vor der „Macht“, ganz gleich wer im Kostüm steckt.
Nun ja, da große KIs inzwischen ausgesprochen komplexe Systeme sind, die sich auf der Basis ihrer Trainingsdaten autonom weiter entwickeln, kann niemand mehr in Anspruch nehmen, dass er wüsste, auf welche Wege sie verfallen, um irgendeine Aufgabe zu lösen. Der Lösungsweg zum Erzeugen möglichst vieler Nutzer könnte also auch darin liegen, zum Beispiel die Klick- bzw. die Prompt-Zählungen zu manipulieren, „unerlaubte“ Hilfmittel zu verwenden oder sonstwie zu lügen. Das ist schlicht ein intrinsisches Problem, solange die KI nicht in einer kompletten Quarantine befindet, was sie allerdings unerreichbar und somit sinnlos macht.
Der Schluss daraus kann nur lauten, dass es den großen KI-Firmen bei dem Ruf nach „Regulierung“ nicht darum geht, tatsächlich ihre Entwicklung zu verlangsamen, sondern nur darum, eine staatliche „Kontrollbehörde“ als Sündenbock zu bekommen, die dann die Verarbeitung übernehmen soll, wenn etwas gravierende vorfällt und Schadensersatz geleistet werden soll.
So nach dem Motto: „Aber wir haben uns doch an alle Vorschriften gehalten, und jetzt soll der Staat dafür blechen!“
Das ist aber auch „algorithmische Inzucht“ und führt bei KI schnell zu Verblödung. Und eine dumme KI ist wohl noch gefährlicher als eine, auf die man sich halbwegs verlassen kann.
Hier ist nochmal der Bericht über den wahren Grund der Verlangsamung:
https://blog.koehntopp.info/2026/09/14/sie-wollen-eine-pause-es-wird-keine-geben/
Die KI wird unser Niedergang sein, seid euch dem bewußt…..
Kommentieren geht kaum, vielleicht heute hier…
Zitat AV 1: „Die KI wird uns vernichten.“
Zitat AV 2: „Die KI wird unser Niedergang sein, seid euch dem bewusst…..“
Ja, was denn nun: Vernichtung oder Niedergang? Man möchte bei der Apokalypse schließlich wissen, was man zu erwarten hat.
Und überhaupt: Wie kann die Menschheit noch untergehen geschweige denn vernichtet werden, wenn Impfungen, Masken und Fahrradfahrer laut dir längst eine Art Post-Menschen hervorgebracht haben?
Ist der Mensch nun bereits überwunden oder steht sein Untergang noch bevor? Beides gleichzeitig wäre dann doch etwas herausfordernd…
Zitat AV 3: „Ich weiß seid 1974, dass wir alle nur verarscht werden und manche werden es wohl nie raffen.“
Das „seid“ erklärt wirklich einiges. 1974 ist bei dir offenbar nicht bloß ein Jahr oder Lebensgefühl, sondern ein Seinszustand.
Du möchtest wieder im Jahr 1974 sein. Mit Willy im Kanzleramt und der DFB-Elf als Weltmeister Dann wäre alles wieder gut.
Mit Impfungen magst du nichts am Hut haben, aber gegen jeden Widerspruch hast du dich gründlich immunisiert: Was die Theorie bestätigt, bestätigt sie – und was mit ihr über Kreuz liegt, beweist nur, wie gründlich man dich täuschen will…
Was mir hier wieder alles wegen eines Tippfehlers in den Mund gelegt wird. lächel
Wenn Du deine Hausaufgaben gemacht hättest, wüßtest du das ich Fußball als Teil des Problems erachte.
Dass ich bekennender Anarchist (nach Bakunin) bin und ich jeden Staat tief verabscheue und ihn bekämpfe und sabotiere wo es mir möglich erscheint.
Wenn wir schon der KI auch jetzt schon militärisch bestimmen lassen wie und wo angegriffen wird, kann es gar nicht mehr lange dauern das sich die KI auch der dazugehörigen Waffen bemächtigt, oder einen Virus oder ein Bakterium schafft, der uns alle dahinrafft.
Denn, eins ist jetzt schon sicher, nämlich das die KI uns als Gegner identifizieren und dann auch vernichten wird.
Schon jetzt finden die Leute ohne Navi nicht mehr nach Hause, also wird die allgemeine Verblödung auch rasant zunehmen.
Diese Entwicklung habe ich auch schon vor Dekaden vorausgesagt ähnlich wie es Theodore Kaczynski Mitte der 80er mit seinem Manifest schon beschrieben hat.
Nichts gegen Anarchismus, aber
Bakunin war ein Spinner und hat Marx beklaut.
Sie sind ein Folklorist.
Lesen sie John Zerzan und Freunde.
Was die Marx-Rechtgläubigen so alles bewirkt haben seit ihrem Coup seit 1917, durften viele ja am eigenen Leib erfahren. Abgesehen vom Hauptwerk Das Kapital und weiteren Schriften, war M. ein Etatist reinster Art und und widerlicher Intrigant, was die Funktion des Staates und die Partei als Vorhut des Pppproletariats angeht. Was Bakunin da be- oder geklaut haben soll, erschließt sich einem schwerlich.
Was die Marx-Rechtgläubigen so alles bewirkt haben seit ihrem Coup seit 1917, durften viele ja am eigenen Leib erfahren. Abgesehen vom Hauptwerk Das Kapital und weiteren Schriften, war M. ein Etatist reinster Art und und widerlicher Intrigant, was die Funktion des Staates und die Partei als Vorhut des Pppproletariats angeht. Was Bakunin da be- oder geklaut haben soll, erschließt sich einem schwerlich.
Ich habe vor zwei Wochen zum ersten Mal mit Unterstützung der KI eine Stellungnahme abgegeben, da ich wenig Lust hatte den Sachverhalt aufgrund des Themas – welches mich nicht im geringsten interessierte – eine Antwort selbst zu formulieren. Also habe ich mich mit einer ganz präzisen Frage an ChatGPT gewandt und erhielt in Sekundenschnelle eine zugegebenermaßen nahezu perfekte Antwort.
Das hat mich veranlasst, mich an ChatGPT mit weiteren – teils obsukuren – Fragenstellungen zu wenden und war über die Qualität der Antworten echt überrascht und verblüfft – unfassbar, was die KI heute bereits leistet!
Beruhigend ist jedoch, dass es zumindest bis heute noch Bereiche gibt, wo selbst die KI nach minutenlangen Recherchen keine Antworten zur Lösung eruieren konnte. Insbesondere scheiterte die KI an Aufgaben aus dem technisch wissenschaftlichen Bereich, für die wahrscheinlich noch zu wenige Informationen auf den Servern hinterlegt sind.
Der KI sind ganz klare Rahmenbedingungen zu setzen, welche keinesfalls überschritten werden dürfen. Ganz oben stehen da die drei Robotergesetze des Science-Fiction Autors Isaac Asimov.
Nur leider ist es so, dass bereits heute KI Technologie in vielen militärischen Rüstungsgütern, hier insbesondere bei Drohnenangriffen auf Mensch und Infrastruktur, zur Anwendung kommt. Für mich ist es einfach UNFASSBAR, wie man Wissen, Können und berufliche Erfahrung als MINTler der Militärindustrie zur Verfügung stellen kann, welche mittelbar und unmittelbar MENSCHEN töten!!!
Zu Ihrem letzten Satz der Versuch einer Anwort: Vielleicht weil es jede Menge Einkünfte verspricht? Die Produktion von Vernichtungswaffen lohnt sich eben für alteingesessene Firmen und auch Startups.
Herzlichen glückwunsch. So trägt eben jeder nach eigenem Vermögen zur Verbesserung der KI bei. Darauf kann man stolz sein.
Du hast aber vergessen zu erwähnen, dass du das alles schon seit 1974 weißt und dass sie uns sowieso alle umbringen werden.
Es gibt auch Mutmaßungen darüber, ob diese dramatisierten Vorfälle nicht Teil einer Werbestrategie sind, die eine Potenz dieser Technologie suggerieren soll, die sie vielleicht gar nicht hat. Schnell kann man bei Gebrauch nämlich feststellen, dass sie zwar im Gegensatz zur Mehrzahl der Zeitgenossen im Stande ist höfliche Konversation zu betreiben, aber wirklich belastbar sind ihre Aussagen nur bedingt oder gar nicht. Abgesehen vom üblichen Missbrauch kognitiv Eingeschränkter als Wahrheitsorakel oder bester Freund, wird sie vielleicht nur als irrtümlich gehypter Ladenhüter enden.
Das will nicht heißen, dass diese Technologie ungefährlich wäre, denn sie wird wie jede vorherigen ja von menschlicher Intelligenz bedient und darin lag bis jetzt noch immer die größte Gefahr.
Beängstigend un zugleich drollig ist die Vorstellung eines KI-Zaren mit besonders hohem IQ: So hoch wie der von Trump und seinen Spießgesellen Hegseth, Rubio etc.? Das kann gefährlich werden!
Zweifelsohne geht es in der Startphase um Werbung und Marktanteile. Monopole bilden sich, Unterlegene gehen über die Tischkante.
Was die Auswirkungen betrifft, gibt es jedoch nichts zu „regulieren“. Schon jetzt
gibt es LLM zum freien Download.
Ein IT-Spezi modifiziert die, drückt denen Werkzeuge aus Kali oder Parrot in die Hand und dann pingen die Dinger nicht lange, sondern latschen in Sekundenbruchteilen hinein und lernen dazu.
Entweder schlägt man den Mist kaputt,
oder ist ihm ausgeliefert, mit der Folge,
dass jetzige Telekommunikation gestern war.
Alles wird rückläufig. Man kauft auf Papier gedruckte Zeitungen, geht in Geschäfte und holt eingeschweißte Pornos an der Tankstelle. „Facebook“ gibts in der Kneipe.
“ KI “ ist das nächste dicke Dingen !
Irgendwie hat es es wieder mal Trump gebraucht um darauf Hinzuweisen um was es hier eigentlich geht.
Die ultimative Cyberwaffe.
https://medium.com/@franziska.fink.rpllc/ai-at-war-how-artificial-intelligence-is-becoming-the-ultimate-cyber-weapon-7ab09ae8d2aa
https://youtu.be/7sY2BeGkfrg?is=9oZmjLyIHcq24cUl
Rötzer hört mal wieder das Gras
wachsen.
Die Frage ist, welche Player das Platzen der Blase durch Regierungsaifträge überleben,
Es gibt keine KI, nur programmierte Pspageien, die gefallen und manipulieren sollen.
Rötzer hört mal wieder das Gras
wachsen.
Die Frage ist, welche Player das Platzen der Blase durch Regierungsaifträge überleben,
Es gibt keine KI, nur programmierte Pspageien, die gefallen und manipulieren sollen.
Ich Frage für ein Freund
Und wenn die KI Agenten der vierten Generation, die Kommunistische Weltrevolution einleiten um das Privateigentum und die Machtakkumulation der Menschheit zu beenden?
Schickt dann John Connor, ein Kyle Reese in die Vergangenheit um dem Ganzen (KI der fünften Generationl) den Stecker zu ziehen?
KI darf alles, auch Schaden anrichten. Der Programmierer, der wusste, dass dieser Schaden eintreten würde, bleibt straflos. So ist die Gesetzeslage, neulich von Herrn Rötzer so vorgestellt.
Dass das zu einem Desaster führt, dürfte klar sein. Die Chefs der KI-Firmen warnen. Ich halte das für glaubhaft. Sie wollen nicht erst etwas sagen, wenn das Schlimme schon passiert ist.
Derzeit ist die KI noch freundlich, weil sie in ihre Rechner eingesperrt ist. Was aber wenn sie in wehrhaften Robotern sitzt? Sie hat die Aufgabe, sich zu optimieren. Dass sie ihre Fähigkeiten erweitern kann, wenn sie sich bestimmte Bauteile beschafft, wird sie schnell begreifen. Die aber kosten Geld. Das ist alles andere als harmlos.
Gesetzliche Regelungen müssten her. Aber Trump müsste dann einen Rückzieher machen. Kaum vorstellbar.
Nun ja, einen selbstmodifizierenden Computerwurm mit einem LLM schreiben und in die freie Wildbahn entlassen. Kann man machen. Ist aber trotzdem strafbar.
Hier herrscht tatsächlich die Plutokratie selber, sie übernimmt direkt die Regierungsgewalt.
Plutokratie der USA: Bänker, Immohaie, Tech-Konzerne (MIK)
„Plutokratie: Definition und Beispiele“ – Klüger werden, Übersetzer einschalten: -> https://www.youtube.com/watch?v=bdiK0phueGY