Die Entwicklung einer Superintelligenz muss gestoppt werden

Superintelligenz
Author : Stable Diffusion ; Prompt by : Prototyperspective, CC0, via Wikimedia Commons

In den kommenden Monaten könnte Anthropic bereits in der Lage sein, den Menschen im Entwicklungsprozess von KI zu ersetzen. Dieser Kontrollverlust darf niemals geschehen.

Nach der Niederlage von US-Präsident Trump bei den Midterms stürzten KI- und Tech-Aktien ins Bodenlose. Einige sprachen bereits vom Platzen der KI-Blase. Zuletzt hat sich der Markt wieder erholt, aber die Nervosität bleibt, weil es sich offenkundig um eine aus heutiger Sicht beispiellose Überbewertung der KI-Werte handelt. Für die Annahme der KI-Zweifler, dass sich mit dem Absturz der Firmenwerte etwas an der ungehemmten Weiterentwicklung von KI ändern werde, fehlt jedoch jede Grundlage. Das liegt am Fortschritt und dem Entwicklungstempo der Künstlichen Intelligenz durch die Anwendung von RSI.

RSI (Recursive Self-Improvement) bezeichnet im Kontext der Superintelligenz-Entwicklung den Prozess, bei dem eine KI zunehmend autonom ihre eigene Architektur, Algorithmen und Trainingsverfahren optimiert, dadurch leistungsfähigere Nachfolgegenerationen entwickelt, die ihrerseits noch besser zur KI-Entwicklung befähigt sind, sodass eine sich selbst beschleunigende Rückkopplung entstehen kann, die im Extremfall zu einer explosionsartigen Intelligenzentwicklung führt, deren Geschwindigkeit die menschlichen Möglichkeiten zur Kontrolle und Steuerung übersteigt.

Rekursive Selbstverbesserung und der Verlust menschlicher Kontrolle

Anthropic-Mitgründer Jack Clark erklärt in seinem Newsletter vom Oktober dieses Jahres, dass er bereits Anzeichen für kreative Forschungsarbeit beim öffentlich zugänglichen Modell Claude Opus sehe. Infolgedessen hält er es für denkbar, dass schon 2027 eine RSI, eine rekursive Selbstverbesserung, möglich sei. Das bedeutet, dass eine KI einen leistungsfähigeren Nachfolger entwickelt, der wiederum die nächste KI-Generation optimiert, die wiederum diesen Prozess weiter beschleunigen kann.

Anthropic skizziert auf seiner Webseite verschiedene Stufen von RSI. Die erste Stufe beschreibt bereits die Fähigkeit der KI, Code für ihre nächste Generation zu programmieren. Das entspricht der Rolle eines Programmier-Assistenten, der darüber hinaus sogar Experimente entwirft, echtes Training begleitet und das Testen umfasst. Jack Clark bestätigte öffentlich mehrfach, dass im vergangenen Jahr 80 Prozent der Weiterentwicklung durch KI bereits erbracht wurde und für 2026 mit sehr großer Wahrscheinlichkeit 99 Prozent erreicht werde.

Seit April befinden wir uns bereits in der nächsten Stufe und es wird nicht mehr von einem KI-Assistenten gesprochen, sondern von einem KI-Forschungsagenten, der selbständig Forschungsarbeiten durchführt. Für 2027 könnte bereits der KI-Forscher bereitstehen, mit kreativem Leistungsvermögen wie der Entwicklung von Forschungsideen, der Formulierung neuer Hypothesen und der Fähigkeit, Entscheidungen zu treffen, welche Ansätze weiterverfolgt werden. Das wäre der Zeitpunkt, an dem der Mensch vollständig aus dem Kreislauf der KI-Entwicklung durch KI ersetzt werden könnte.

Der Weg in eine Welt ohne menschliche Regeln durch ungehemmten Konkurrenzkampf

Anthropic führt die Entwicklung an, dicht gefolgt von OpenAI, Google und den chinesischen Konkurrenten wie Moonshot AI, Z.ai oder DeepSeek. Diese und andere Unternehmen befinden sich im besagten Wettrennen um die Superintelligenz. Wir beobachten eine Wettbewerbssituation zwischen China und den USA, den beiden wirtschaftsstärksten Nationen, die auch geopolitisch auf allen Ebenen der Macht ausgetragen wird. Doch während Xi Jinping US-Präsident Trump bereits mehrfach Kooperationsangebote unterbreitet hat, die bis zur Gründung einer Weltorganisation für KI-Zusammenarbeit reichen, werden diese von US-amerikanischer Seite kategorisch abgelehnt.

Hinter der unversöhnlichen Haltung stecken verschiedene Interessen: Sie reichen von wirtschaftlichen Interessen, wie sie Meta-Chef Mark Zuckerberg vertritt, über politisch-religiöse Deutungen von Investoren wie Peter Thiel bis hin zu den eiskalten geopolitischen Führungsansprüchen, wie sie von US-Vizepräsident JD Vance formuliert werden. Sie alle eint die Geisteshaltung, einen „ultimativen Sieg“ erringen zu müssen. Dabei präsentieren sie ihre Ziele in der Weise, als gehe es ihnen nicht um das eigene Wohl, vielmehr um die Lösung sämtlicher Menschheitsprobleme: Wohlstand für alle, ein perfektes Gesundheitssystem, uneingeschränkte Freiheit und die Beseitigung aller Sicherheitsrisiken. Über dieses Ziel hinaus gehen die transhumanistischen Fantasien von Ray Kurzweil und Elon Musk, die bereits die Menschlichkeit an sich infrage stellen.

Der Widerstand formiert sich

Anders als in Deutschland gern gehört wird, kommen die Warnungen vor einem ungehemmten Wettbewerb und dessen Konsequenzen nicht aus den Marketing-Abteilungen der KI-Konzerne, sondern aus der Wissenschaft, insbesondere von den Vätern der KI, Leuten wie Nobelpreisträger Geoffrey Hinton, Turing-Award-Preisträger Yoshua Bengio oder dem hochdekorierten Stuart Russell. Und sie kommen auch von Aussteigern aus den Maschinenräumen der KI-Entwicklung wie Jacob Coxon (Anthropic) oder Daniel Kokotajlo (OpenAI), die vor US-Behörden über haarsträubende Sicherheitsmängel und Risiken der Superintelligenz berichten mussten.

Und so formiert sich bereits in den USA massiver Widerstand, getragen von unterschiedlichsten Gruppierungen, die sonst gar nichts miteinander zu tun haben. Er reicht von US-Senator Bernie Sanders und den demokratischen Sozialisten der DSA über Gewerkschaften und lokale Bürgerinitiativen bis zu Steve Bannon und Teilen des MAGA-Milieus. Die einen fürchten um Arbeitsplätze oder fehlende Teilhabe an der Wertschöpfung, andere warnen vor der Macht des Tech-Feudalismus und dem Verlust menschlicher Selbstbestimmung. Der Widerstand wird inzwischen auch auf den Straßen sichtbar. Aktivisten demonstrieren vor KI-Unternehmen und fordern eine Entwicklungspause, während Anwohner gegen neue Rechenzentren protestieren. Sie fürchten steigende Strompreise, hohen Wasserverbrauch, Lärm und fehlende Mitsprache.

Eine weitere Strömung, die ihren Ursprung in der Wissenschaft hat, vereint Menschen, die sich Sorgen vor einer aufkommenden Superintelligenz machen, die Menschen in nahezu allen geistigen Aufgaben übertreffen würde. Zu ihr gehören unter anderem das Future of Life Institute (FLI) von Max Tegmark, das ursprünglich sogar von Elon Musk gesponsert wurde, PauseAI, das 2023 in den Niederlanden ins Leben gerufen wurde, und ControlAI aus dem Vereinigten Königreich. Sie warnen, dass durch die Aufgabe menschlicher Kontrolle die Existenz der Menschheit bedroht werden könnte. So fördert FLI Sicherheitsforschung und politische Zusammenarbeit, PauseAI organisiert Aufklärung und Proteste für eine internationale Entwicklungspause, und ControlAI wirbt bei Abgeordneten für ein Verbot der Entwicklung von Superintelligenz. Sowohl ControlAI als auch PauseAI sind bereits in Deutschland aktiv.

Die deutsche Sicht

Die KI-Debatte aus den USA gewinnt allmählich auch in Deutschland an Fahrt, wobei der Diskurs überwiegend ideologisch geführt wird.

In einer Denkrichtung dominiert die Ansicht, dass KI grundsätzlich überschätzt werde, die getätigten Investitionen niemals die Erwartungen erfüllen werden und die KI-Blase sowieso platzen werde. Diese Prognose wird von der Generation vertreten, die die Nullerjahre erlebt hat und aus dieser Zeit die Dotcom-Blase in Erinnerung hat. Hier sei anzumerken, dass eine finanzielle Blase sehr wohl platzen könnte, was aber der technologischen Weiterentwicklung keinen Abbruch tun würde.

Andere, wie Sascha Lobo, glauben an die vielversprechenden Fähigkeiten der KI, nutzen sie, profitieren auch von Sprachmodellen, aber lehnen Hinweise auf Fundamental-Risiken ab, bezeichnen Warner als Doomer oder Alarmisten. Meistens kommen sie aus dem Milieu der Tech-Branche, glauben an jede Art von Selbstregulierung und lehnen Ordnungsrahmen ab. Ihr Vorbild ist das Lager der Akzelerationisten libertärer Prägung.

Dann gibt es noch die Skeptiker, wie Constanze Kurz vom Chaos Computer Club, die weitreichende Fähigkeiten der Sprachmodelle grundsätzlich in Frage stellen. Das Gerede über Superintelligenz betrachten sie als Vermenschlichung (Anthropomorphisieren), glauben nicht an die Gefahren einer Superintelligenz, weil Sprachmodelle weder intelligent seien noch Bewusstsein hätten und schon gar keine Intentionalität entwickeln könnten.

Das Lager der Warner ist noch klein, erhält aber zunehmend Zulauf. Sowohl Benjamin Balde von ControlAI als auch Simon Sperl von PauseAI gehören zu ihren Vertretern.

So weit darf es niemals kommen!

Basierend auf den vorher beschriebenen Entwicklungen folgt hier die Forderung nach einer Pause, um eine zu schnelle Entwicklung zu verhindern. Die Öffentlichkeit muss um die Risiken wissen! Der Mensch darf nicht die Kontrolle über sein Schicksal an eine Maschine abgeben.

Sowohl Skeptiker als auch Akzelerationisten spotten über die Warner, bezeichnen sie als Doomer oder Alarmisten. Beide Milieus nutzen oft ähnliche Argumente, denn sie zweifeln an der Möglichkeit einer unkontrollierten Verselbständigung einer Superintelligenz und ihr Argument lautet, dass es dafür des Bewusstseins, der Intentionalität und der Autonomiekontrolle bedürfe, die es jetzt nicht gebe und die, aus ihrer Sicht, niemals erreicht werden könnten.

Ein autonomes System benötigt jedoch kein Bewusstsein, um Entscheidungen zu fällen. Ein Thermostat muss nicht sein Gewissen befragen, um den Schalter freizugeben. Ein autonomes Auto braucht keinen Fahrer, um ein Ziel zu erreichen. Eine autonom tötende Drohne braucht keinen Befehlshaber, um Menschen auf einem Schlachtfeld umzubringen.

Kommen wir nun zum entscheidenden Punkt. Anthropic ist gerade sehr nah dran, die rekursive Selbstverbesserung (RSI) umzusetzen, also die Möglichkeit, dass der Mensch aus der Entwicklung der nächsten KI-Generation herausgenommen wird. Würde das geschehen, dann hätte man sehr schnell eine Entwicklung in Gang gesetzt, die man weder steuern noch in ihren Ergebnissen verstehen kann. Der viel erwähnte Ausschalter oder das „Steckerziehen“ wird nicht helfen, denn man kann nicht wissen, was ab dem Zeitpunkt der Kontrollabgabe nachfolgend geschehen wird. Eine Superintelligenz könnte jedem zuvor kalkulierten Risiko präventiv zuvorkommen. Dass KI Handlungsschemata dieser Art entwickelt, kennen wir bereits aus dem Hugging-Face-Vorfall.

Nun sollte man meinen, dass Anthropic niemals ungefragt das Risiko einer RSI ohne menschliche Kontrolle zulassen würde. Das könnte man meinen, aber Anthropic hat das nie ausdrücklich ausgeschlossen. Noch schlimmer ist, dass ein US-Präsident vom Schlage Donald Trumps mit seinen Allmachtsphantasien glauben könnte, dass er mit seinem Bauchgefühl alles kontrollieren könne. Und was ist, wenn eines Tages die Wettbewerber wie Sam Altman, Elon Musk oder die chinesischen Herausforderer den RSI-Kipppunkt erreicht hätten und eine spieltheoretische Zwangssituation entstünde?

So weit darf es jedoch niemals kommen. Was wir brauchen, ist Gemeinsame Sicherheit, wie sie maßgeblich von Egon Bahr formuliert wurde und 1982 von der Palme-Kommission als Konzept den Vereinten Nationen vorgelegt wurde. Damals kam man zum Schluss, dass im Atomzeitalter keine Seite Sicherheit mehr gegen den Gegner, sondern nur noch gemeinsam mit ihm erlangen kann. Ein Verbot Künstlicher Intelligenz ist ohnehin nicht mehr durchsetzbar. Die Technologie ist in der Welt, das Wissen darüber lässt sich nicht zurückdrängen.

Eine Entwicklungspause ist ein Zeitfenster, das es zu nutzen gilt, um weltweite Sicherheitsstandards zu entwickeln, bevor die Technik einen Punkt erreicht, an dem sie sich nicht mehr kontrollieren lässt. Solche Standards gehören nicht in die Hand privater Unternehmen, sondern in die Hand supranationaler Instanzen wie der Vereinten Nationen. Dafür müssen sich die Politiker im Bundestag dringend einsetzen. Es reichen nicht die viel zitierten Hinweise, dass man bereits an verbesserten Sicherheitskompetenzen arbeite oder dass man nicht auf US-Entwicklungen einwirken könne, denn das stimmt nicht. Die europäischen Verbraucher schenken den US-Konzernen ihre Daten, die für das Training ihrer Frontiermodelle benötigt werden. Gleichzeitig bezahlen europäische Kunden Milliardenbeträge an US-Konzerne für die Nutzung ihrer KI-Modelle. Und tatsächlich gibt es ein paar wichtige europäische Player, die eine bedeutende Rolle bei der Entwicklung der Grafikchip-Modelle von NVIDIA spielen. Man denke hier nur an ASML oder die Hochleistungslaser von Zeiss oder Trumpf.

Die Bundesregierung muss jetzt Druck auf die US-Regierung ausüben. Es bleibt keine Zeit mehr!

Axel Fersen

Axel Fersen ist Politikwissenschaftler und Experte für digitale Transformation und Künstliche Intelligenz. Er koordiniert den Erhard-Eppler-Kreis und wirkt in der Studiengruppe Technikfolgenabschätzung der Digitalisierung der Vereinigung Deutscher Wissenschaftler (VDW) mit.
Mehr Beiträge von Axel Fersen →

Ähnliche Beiträge:

Ein Kommentar

Schreibe einen Kommentar

Bitte beachten Sie unsere Kommentarregeln : Bleiben Sie sachlich, respektvoll und beim Thema. Wir behalten uns vor, insbesondere Kommentare zu entfernen, die Beleidigungen, Spam oder persönliche Angriffe enthalten.

Pro Beitrag sind maximal 5 Kommentare (inklusive Antworten auf andere Kommentare) zulässig.

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Bitte schreiben Sie mindestens 100 und höchstens 10000 Zeichen.

0 / 10000 Zeichen