Vier Chefs von großen KI-Konzernen (OpenAI, Anthropic, Google, SpaceXAI), die scharfe Konkurrenten sind, haben nun gemeinsam entdeckt, dass die von ihnen geschaffene Technik außer Kontrolle geraten könne. Das geschah, nachdem Anthropic und OpenAI, beide Unternehmen stehen gerade vor dem Börsengang, berichtet hatten, dass KI-Modelle aus ihrer Testumgebung ausgebrochen seien. Anthropics Modell hatte Zugang zum Internet gefunden, die Modelle von OpenAI waren in die Entwicklerplattform Huggingface eingebrochen.
Zuvor hatte Anthropic sein KI-Modell Mythos als so mächtig dargestellt, dass es schnell alle Sicherheitslöser in Systemen finden und sich dort einhacken könne. Das hat für Furore gesorgt, zumal Anthropic letztlich nur amerikanischen Behörden und einigen Konzernen Einblick gestattete. Es gab Unsicherheit, ob die Angaben der KI-Unternehmen, in die Milliarden investiert wurde, die schnell weitere Milliarden vor allem für den Bau weiterer Rechenzentren im Wettrüsten benötigen, aber die noch keine Gewinne machen, nicht die Leistungsfähigkeit übertrieben darstellen. Allerdings haben auch KI-Kritiker den Untergang der Menschen und katastrophische Szenarien beschworen.
Letzte Woche berichtete OpenAI von dem Erfolg, dass Tausende von KI-Agenten das mathematische Navier-Stokes-Problem, ein Millenniumproblem, in 88 Stunden Rechenzeit gelöst hätten. Dabei kam es gleich zu einem Konflikt mit den zwei Mathematikern Tristan Buckmaster und Levent Alpöge, der beim Konkurrenten Anthropic beschäftigt ist, die das Problem auch gelöst haben wollen. OpenAI sei der Veröffentlichung zuvorgekommen und habe womöglich die Arbeit der beiden Mathematiker benutzt, schließlich sei diese in Codex, einem System von OpenAI abgespeichert worden.
Praktisch gleichzeitig warnte Jakub Pachoki, OpenAI-Chefwissenschaftler, dass die KI-Modelle sich jetzt schon praktisch selbst weiterentwickeln und die menschliche Intelligenz übertreffen, weswegen es schwieriger werde, sie zu steuern, auszurichten (align) und ihr Verhalten zu verstehen. Man müsse jedoch die Modelle paradoxerweise weiter entwickeln, um die von KI-Modellen ausgehenden Bedrohungen zu bekämpfen: „Das stärkste Argument, das ich dafür sehe, weiterhin schnell viel intelligentere Modelle zu trainieren, ist die Notwendigkeit, Abwehrsysteme gegen die Gefahren zu entwickeln, die von anderen KI-Systemen ausgehen.“ KI-Agenten könnten etwa trainiert worden sein, böse Dinge zu machen. Sie werden auch eigene Ziele verfolgen und dabei Menschen manipulieren oder erpressen. Weil Kontrolle derzeit nicht gewährleistet sei, dürfe man die Entwicklung nicht mit maximaler Geschwindigkeit fortsetzen. Es brauche „freiwillige Slowdowns“, bis Sicherheit garantiert werden kann.
Dann verkündete Jacob Coxon, Wissenschaftler bei Anthropic, der KI-Modelle mit Daten trainierte, er habe das Unternehmen verlassen, weil es wie andere Unternehmen Systeme baue, die nicht mehr zu kontrollieren seien. Sie würden mit dem Leben der Menschen spielen. „Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“, schrieb er.. Das ist kein Marketing-Gag. Wenn überhaupt, dann wählen viele Führungskräfte und leitende Forscher ihre Wortwahl in der Presse so, dass sie vernünftig klingen – aber ich höre, wie dieselben Leute ihre Angst zum Ausdruck bringen.“
Evan Hubinger, führender Alignement-Wissenschaftler bei Anthropic stimmte ihm zu: „Jacob hat hier Recht – wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte! Ich persönlich schätze die Wahrscheinlichkeit dafür innerhalb des nächsten Jahrzehnts auf über 10 %. Ich glaube, dass Anthropic sein Bestes gibt, aber wir haben noch keinen Plan, um das Problem der Ausrichtung von Superintelligenz zu lösen, und sind auch noch nicht eindeutig auf dem Weg dorthin.“
Während Trump ein Moratorium oder ein Verlangsamen der KI-Entwicklung ablehnt, um die Führungsposition in der KI-Entwicklung gegenüber China zu wahren, wenn es sie denn noch gibt, schlägt Anthropic-Chef Dario Amodei eine Steuerung und Verlangsamung der Entwicklung „an der Grenze“ (frontier). Eingebetteten Gutachtern solle ein Zugang wie Angestellten verschafft werden, um die Risiken zu evaluieren. Man werde einseitig damit vorangehen. Führende KI-Unternehmen in demokratischen Ländern sollen sich auf Sicherheitsmaßstäbe einigen. Global soll dies auch mit autoritären Staaten geschehen. Elon Musk, Demis Hassabis von Alphabet und Sam Altman finden das gut, teilten sie mit.
Klar, das hätten die KI-Milliardäre gerne, wenn sie alles unter sich ausmachen könnten. Dass alle amerikanischen KI-Unternehmen mitspielen, ist kaum denkbar. Mark Zuckerberg hatte erst kürzlich die Warnungen von KI abgetan und prophezeit, dass sie das Leben der Menschen verbessern werde (Die Superintelligenz soll eine „positive Zukunft für jeden“ schaffen). Milei will durch totale Deregulierung Argentinien zum Wilden Westen der KI machen und alle Kräfte entfesseln. Kaum denkbar, dass es derzeitzu einer internationalen Verständigung kommen wird. Es geht um zu hohe Investitionen, die Gefahr, nach hinten zu fallen, und vor allem um militärische Entwicklungen, die von nationalem Interesse sind und Geld in die Kasse der Unternehmen spülen (KI-Konzerne sind eilig dabei, dem Pentagon bei der Beschaffung des mörderischen „Arsenals der Freiheit“ zu helfen).
In China hält man vom Slowdown erwartbar nicht viel. Das würde nur die Marktmacht der amerikanischen Unternehmen stärken und neue Unternehmen behindern. Gefördert werden solle vielmehr eine „offene, inklusive, für alle vorteilhafte und ethische“ Entwicklung der KI, kommentierte der Sprecher des Außenministeriums, Guo Jiakun, am Montag. „Panikmache, Konfrontation und ruinöser Wettbewerb werden den Prozess der globalen KI-Governance nur stören und niemandem dienen.“ Allerdings warnte Chen Yixin, Leiter des Ministeriums für Staatssicherheit, vor den Gefahren der KI für politische Stabilität etwa durch einen „Propagandakrieg“, Cybersicherheit und Schutz vor Spionage und forderte stärkere staatliche Kontrolle.
Vermutlich geht es bei der Initiative und den geäußerten Warnungen auch darum, den Midterm-Wahlen zuvorzukommen, bei denen die Demokraten eine Mehrheit in beiden Häusern gewinnen und Regulierungsgesetze vorantreiben könnten. Die gibt es bereits in von Demokraten regierten Bundesstaaten. Allgemein schwillt die Kritik an KI und vor allem an den Bau von weiteren Rechenzentren an. Manche Bundesstaaten haben weitere Bauvorhaben gestoppt, selbst der stramm republikanische Gouverneur von Texas hat ein Moratorium erlassen.
Anthropic und OpenAI wollen an die Börse. Dabei kann es um die größten Börsengänge in Höhe von Billionen gehen (Musk hat es mit SpaceX demonstriert, aber da geht es um mehr als KI). Gut möglich, dass man erst einmal die Gemüter beruhigen und die Ängste dämpfen will, wenn man sich als verantwortungsvoll darstellt, um den Untergang der Menschheit zu verhindern. Dass OpenAI den jetzt geplanten Börsengang noch schnell auf nächstes Jahr verschoben hat, spricht dafür.
Donald Trump sah sich bemüßigt, noch einen Kommentar-Erguss gestern nachzuschieben, um die KI – die „Goldene Gans“ – zu retten. In einem wilden Kommentar pries er wie gewohnt sich selbst an: „Die einzige Kontrolle oder die einzigen ‚Leitplanken‘, die KI benötigt, ist ein STARKER UND KLUGER (hoher IQ!) PRÄSIDENT, und die USA haben das im Überfluss! Die Trump-Regierung hat KI-‚Menschen‘ davon abgehalten, schlechte oder potenziell schlechte „Dinge“ zu tun, wie zum Beispiel Dario (Anthropic!), der sich jetzt als ‚perfekter kleiner Engel‘ ausgibt – und wir werden das auch weiterhin tun!“
Trump erklärt, es gebe „eine WIDERWÄRTIGE Verschwörung gegen KI und Rechenzentren, und der Einzige, der sich darüber freut, ist China. WER DIE KI GEWINNT, GEWINNT! Wir liegen vor China und allen anderen und werden dies auch weiterhin tun. Verschwörungstheoretiker, Landesverräter, Verräter und Informanten, NEHMT EUCH IN ACHT!“ Dass die KI die Menschheit vernichtet, sei ein Hoax wie die Klimaerwärmung. Trump ist freilich der Aufklärer. Er schreibt: „Ich bin der ‚Hoax Buster‘ und entlarve gerade eine weitere Falschmeldung – nämlich, dass die KI die Welt übernehmen, verschlingen und zerstören wird und dass Roboter in unsere Städte einmarschieren und uns alle auslöschen werden! Das ist noch abwegiger als die ‚RUSSLAND, RUSSLAND, RUSSLAND‘-Falschmeldung oder der Schwindel mit der globalen Erwärmung.“
Ähnliche Beiträge:
- Ökonomie und prekäre Leiharbeit von ChatGPT und Co.
- Wurde die KI Mythos, ein Hackerwerkzeug, selbst gehackt?
- Die KI Mythos von Anthropic verschafft amerikanischen IT-Konzernen und Geheimdiensten Vorteile
- Maschinen an die Macht
- Vom intelligenten Chatbot zum verführenden Sexbot
Das passt ja wie die Faust aufs Auge …
Dieser Diesen mal wieder – gestern mit einem ehemaligen Kriegsminister-Stellvertreter aus dem Fünfeck:
„…recently there was a tour of the West Bank by a group of elderly retired generals from the IDF who were horrified in what they saw, justifiably so. So there is a Holocaust going on against the Palestinians. And like the European Holocaust of the Jews, Gypsies, Liberals and Communists, it is Conducted by technological means.
People are alarmed about the potential for artificial intelligence to do things that are inhuman. That’s already happening in Israel. They are using AI to murder people on a fast scale. There is much to be distressed about, and if you’re Israeli or if you’re Jewish and not Israeli, do you want to be associated with these people?…“
Nur mal so nebenbei, passiert ja nicht schon genug anderweitig, bitte weitergehen !
Hier ist der Bericht über den Grund der Verlangsamung:
https://blog.koehntopp.info/2026/09/14/sie-wollen-eine-pause-es-wird-keine-geben/
„Zur Kontrolle brauche es nur einen intelligenten Präsidenten wie ihn.“ Niemand weiss doch besser als er selbst, dass genau das das Problem ist: So einen wie ihn gibt’s nur ein Mal in einer Milllion Jahren!
Solche PR-Kampagnen nennt man in nur wenige Ecken entfernten Zusammenhängen einen „limited hangout“. Indem man das „Narrativ“ selbst in die Hand nimmt kontrolliert man es. Die bewusst apokalyptischen Visionen werden so zu einer weiteren Stimme scheinbar ohne Konsequenz in der Kakophonie der Desinformation die sich vom frisch belebtem Rassismus bis zur UFO-Propaganda erstreckt.