Tod im Sprachmodell

Datenzentrum. BIld: U.S. Department of Energy

Thomas Czinkota will eine Parabel erzählen. Sie handelt davon, wie schön die modische Variante der Künstlichen Intelligenz (KI), deren Inkarnationen unter dem Namen Large Language Model (LLM) auftreten, eine, aus seiner Sicht ideale Weise der Informationsverarbeitung spiegelt, nämlich die der Aktienmärkte, um aus diesem Vorbild sogar ein Konzept der Regulation für die KI abzuleiten.[1] Er muss dazu einen Weichzeichner aufsetzen — nicht nur damit beide Zweige der Geschichte très chic herauskommen, sondern auch, damit verborgen bleibt, dass die Spiegelung alles andere als perfekt ist.

Folgt man der neoklassischen Erzählung, dann liege es beim Markt, Preise zu ‚finden‘ — worin er sich durch eine unübertreffliche Meisterschaft auszeichne. Dies ruft die schwach begründete Vermutung hervor, es gäbe so etwas wie ‚wahre‘ Preise, die es nur zu ‚finden‘ gelte. Während diese, von Czinkota wiederholte, Variante der Geschichte daran festhält, dass dem ein Prozess reiner Informationsverarbeitung zugrunde liege, nehmen realistischere Auffassungen wahr, dass dabei nicht selten Machtverhältnisse eine Rolle spielen, dass vielmehr Preissetzung stattfinde statt Preisfindung. Die Möglichkeiten, den angemessenen Preis von Produkten zu bestimmen, sind begrenzt: den Maßstab dafür bilden die Herstellungs- bzw. Bereitstellungskosten, die von den, selbst wiederum durch Machtverhältnisse beeinflussten, Preisen für Rohstoffe und Arbeit abhängen. Die Stelle, an der darüber letzte Auskunft zu holen wäre, hat noch niemand benannt.

Noch schwieriger wird eine Bewertung, wenn es nicht um Produkte mit unmittelbarem Gebrauchswert und relevanten Herstellungskosten, sondern um Papiere wie Aktien geht, die Ansprüche verbriefen, im Falle der Aktie auf die Dividende und manchmal auch ein Stimmrecht, deren zukünftiger Wert ungewiss ist. Solche werden, sofern es sich um sogenannte Blue-Chip-Werte handelt, in der Erwartung einer stabilen Entwicklung erworben, doch manchmal auch gekauft, weil man auf eine Wertsteigerung, oder leer, d.h. ohne ihr Eigentümer zu sein, verkauft, weil man auf eine Abwertung spekuliert. Es gibt Indikatoren, wie etwa das Kurs-Gewinn-Verhältnis, das aber, da es sich auf die Gegenwart stützen muss, nur bedingt etwas über die Zukunft sagt. Eine zuverlässige Einschätzung von Kurspotentialen in Bezug auf das Kurs-Gewinn-Verhältnis verlangt profunde Kenntnisse der betreffenden Unternehmen, ihrer Sektoren und ihres politischen und weltwirtschaftlichen Umfelds. Solche differenzierten Bewertungen werden jedoch nicht immer publiziert und zur Kenntnis genommen. Auch  Czinkota verdrängt die historische Erfahrung von Blasen, die sich, wie etwa die der dot.com-Titel in den 1990ern, über lange Zeiträume aufbauen konnten, obwohl sie für Beobachter, mit hinreichendem Sachverstand erkennbar gewesen waren. Anders ist kaum erklärbar, dass er eine Behauptung wie die folgende aufstellt:

„Sollte sich die ‚Wissensverarbeitungsmaschine Aktienmarkt‘ geirrt haben, wird dies umgehend korrigiert. […] Eine Markthalluzination (Spekulationsblase) ist das Ergebnis kollektiver Hoffnung oder Gier. Doch auch hier zeigt sich der Reifegrad des Marktes: Er besitzt durch den unausweichlichen Realitätscheck eine eingebaute Notbremse, die jede Halluzination früher oder später beendet.“

Allzu oft geschah das eher später als früher und richteten die damit einhergehenden Friktionen schweren Schaden an. Zu der oft wiederholten Weisheit, dass ‚die Märkte‘ ‚in the log run‘ Übertreibungen korrigieren würden, bemerkte John Maynard Keynes schon vor hundert Jahren: „in the log run we are all dead“.[2] Viel zu lange dauerte es immer für die zahlreichen Opfer der auf das Platzen der Blasen folgenden Krisen. Gegen Gier, Dummheit und Herdentrieb bleiben, nicht zuletzt, wenn sie von interessierter Seite angeheizt werden, auch Regularien, wie etwa die Offenlegungspflichten für börsennotierte Unternehmen, oft wirkungslos. Die ‚Wissensverarbeitungsmaschine Aktienmarkt‘ arbeitet keinesfalls störungsfrei. In ihrem Getriebe knirscht es ab und zu merklich und der Markt benötigt dann massive Injektionen von Liquidität durch die Zentralbanken, um weiter zu funktionieren.

Zu den klassischen Treibern von Stabilitätsrisiken fügt die elektronische Datenverarbeitung weitere, diese verstärkende, hinzu: die automatisierte Arbitrage und die Indexfonds bzw. die ETF (Exchange Traded Funds), deren für ein breites Publikum leichter zugängliche Variante. Fonds, deren Anlageentscheidungen nicht durch Manager getroffen werden, sondern die lediglich automatisch einem Index folgen, etablieren eine positive Rückkopplung der Marktentwicklung mit sich selbst und damit einen Mechanismus, der die Entwicklung von Blasen verstärkt. Die seit Jahren, unbeirrt von allen wirtschaftlichen und politischen Krisensymptomen, steigenden Kurse sind auch als Indiz für solche Mechanismen zu lesen, die die Triebkraft hoher Ersparnisse in diese Gestalt übersetzen, dadurch oft jedoch nicht produktiv verwerten, sondern lediglich zirkulieren lassen. Eine deutliche Blasenentwicklung zeichnet sich, mit Ähnlichkeit zu den Ereignissen in den 1990ern, aktuell bei den Werten der in der KI engagierten Unternehmen, bzw. der von diesen Engagements profitierenden, wie z.B. den Lieferanten von Chips und von Strom sowie der für beides nötigen Ausrüstungen an: es bestehen Zweifel, ob die im angebrochenen Jahr beabsichtigten Investitionen, allein der vier größten Spieler (Amazon, Google, Meta, Microsoft) im Umfang von 660 Milliarden Dollar, in neue Rechenzentren, die sich mit den in den drei Vorjahren getätigten zu ca. 1,5 Billionen Dollar summieren, durch erwartbare Erlöse einzubringen seien.[3]

Dazu kommt ein Faktor, der diese Investitionen noch riskanter erscheinen lässt: die von kritischen Beobachtern der Szene bereits seit Jahren vertretene These, dass das Modell, auf dem die meisten der heutigen KI-Systeme aufbauen, prinzipiellen Limitationen unterliege,[4] findet in Fach- wie auch in Finanzkreisen zunehmende Akzeptanz. Dies nicht zuletzt, weil das Konzept des Scaling, auf das die Akteure setzen, erkennbar scheitert. Dieses folgt der Erwartung, durch immer mehr Daten und Rechenleistung die bekannten Schwächen der Systeme ausbügeln, ja sogar eine Superintelligenz schaffen zu können. Die exponentiellen Steigerungen des Ressourcen-Inputs bringen nur noch schwindende Erträge. Z.B. GPT5 stellte nicht den erhofften großen Sprung über seinen Vorgänger hinaus dar.[5] Die derzeitige KI-Monomanie verschlingt nicht nur Kapital, sondern auch physische Ressourcen — Energie und Mineralien — in einem unvorstellbaren Ausmaß und deformiert die Wissenschaft, indem sie ganze Institute auf eine äußerst schmale Spur leitet, Massen von jungen Talenten dorthin und, noch mehr, in die Labore der KI-Industrie lockt und damit auf einen Forschungs- und Qualifikationspfad festlegt, dessen Nutzen und Zukunft alles andere als sicher sind.

Auch dem zweiten Arm der scheinbaren Parabel gebricht es an Schlüssigkeit. Czinkota erweist sich als Adept des Doublespeak, der sich um die KI ausbreitet, kann dessen Dissonanzen aber nicht verbergen: so beteuert er einerseits, dass „das LLM […] eine Wissensverarbeitungsmaschine [ist]“, um dann gleich zu versicher, dass

„die Diskussion, ob ein LLM tatsächlich Wissen oder lediglich Daten und Zahlen verarbeitet, […] für diese Analogie [von Aktienmarkt und LLM, RF] zweitrangig [ist]. Entscheidend ist, dass beide Systeme funktional identisch arbeiten: Sie transformieren einen massiven Input an verfügbaren Informationen in ein eindeutiges Signal.“

Für die Bedeutung der Daten ist relevant, ob sie tatsächlich Wissen getreu repräsentieren. Doch genau das tun sie im Falle der LLMs nicht. Die repräsentieren kein Wissen, sondern sind, auf der Basis eines gigantischen Textkorpus, das alle erdenklichen Äußerungen — viele davon sind keine Aussagen und sofern sie solche sind, oft auch falsch — umfasst, dazu dressiert, das wahrscheinlich nächste Spachatom nach dem gegebenen Kontext vorherzusagen — mit dem beachtlichen Risiko, auch schlichten Unsinn oder schon syntaktisch missglückte Sätze zu produzieren. Die Technik des Doublespeak besteht darin, einerseits, indem Entsprechendes immer wieder eingestreut wird, die Illusion aufzubauen, es werde dabei Wissen verarbeitet oder gar generiert, während andererseits zur Erklärung der Technik auf bloße Mechanismen der Datenverarbeitung rekurriert wird, die jedoch nicht erklären, wie die zu Unrecht beanspruchte Wissensverarbeitung funktionieren soll — weil das auch nicht geht.

Die logischen Lücken der Argumentation werden durch hochtrabende Formulierungen verdeckt: „Beide Systeme [Aktienmarkt und LLM, RF] sind somit isomorph in ihrer Funktion als Abstraktionsmaschinen: Sie operieren nicht auf der Ebene der Materie, sondern auf der Ebene der Information.“ Dass sie auf der Ebene der Information arbeiten, ist banal, doch ob dem Autor klar ist, welche Kriterien eine Isomorphie[6] erfüllen muss, darf bezweifelt werden. Er bringt keine geeigneten Argumente vor, um das darzutun — weil er es nicht kann. Dass an der Börse heute auch Computer herumstehen, reicht als Merkmal einer Isomorphie mit dem LLM nicht aus. Sicher kann man Aktienmärkte und LLMs als informationsverarbeitende Systeme gleichsetzen — wobei man Information, unter Abstraktion von Bedeutung, als Folge von Signalen betrachten muss —, doch während der Aktienmarkt Signale produziert und verarbeitet, denen Teilnehmer treffend Bedeutungen zuzuordnen vermögen, beruht der vermeintlich gleiche Vorgang bei den LLMs auf einer Täuschung: in deren Funktion wurde — außer der statistischen über das relative Vorkommen von atomaren Wortkomponenten — nirgendwo inhaltliche, Bedeutung transportierende, Information oder gar Wissen verarbeitet. Wenn dabei etwas herauskommt, was als zutreffende Aussage erscheint, ist das nicht völlig unwahrscheinlich, doch inhaltlich nicht fundierter Zufall.

Ein Meister des Doublespeak, zudem von ungleich größerer Prominenz und Reichweite als Czinkota, ist Roberto Simanowski. Wenn dieser erklärt, das „idealtypische Versprechen der Sprachmodelle“ bestehe darin, „aus dem Wissen und den Meinungen der ganzen Welt Texte zu produzieren, die nicht religiösen, kulturellen oder politischen Erwägungen folgen, sondern mathematischen“[7], klingt das hochgestochen, geht aber an der Sache vorbei. Es bilden sich in den Sprachmodellen, in Silben zerhackt und ‚verwürfelt‘, d.h. wahrscheinlichkeitsgewichtet aneinandergereiht, dekontextualisiert und nivelliert, eben doch die unter den Urhebern des zugrundeliegenden Textkorps vorherrschenden Vorurteile ab. Die Weise, in der das geschieht, folgt keinen „mathematischen Erwägungen“, sondern besteht in banalem Ausrechnen. Es entstehen dabei keine „Aussagen“[8], weil es hier keinen Sprecher gibt, der damit einen Gedanken artikulieren würde. Das Aneinanderreihen von Silben in dieser Weise bringt keine „mathematische Wahrheit jenseits jeder ideologischen Perspektive“[9] hervor, sondern stochastisches Geplapper, in dem, wie auch immer zerhackt und verzerrt, eben doch die verbreiteten Ansichten durchscheinen. Dass die Modelle zu bestimmten Themen, ‚appropriately prompted‘, oft ganze Abschnitte aus dem zugrundeliegenden Textkorpus reproduzieren, liegt in ihrer Konstruktion.[10]

Zu jedem vermeintlich oder wirklich spektakulären Ereignis, seien es technische Neuerungen wie das Internet und die LLMs oder ein angeblich die Menschheit bedrohendes Virus, produzieren die feuilletonistischen Tastenbediener zuverlässig Tonnen an nicht minder spektakulär klingenden Phrasen, in denen sich oft genug Fehleinschätzungen und fatale Rezepte verbergen. Zu gespenstischen Konsequenzen führt das in Gestalt einer Idee wie der „pluraler Sprachmodelle“, die eine solche Fehleinschätzungen normativ wendet. Die

„scheinen nur dann eine reale Möglichkeit zu sein, wenn die Gesellschaft die Sprachmodelle, die immer mehr die Kommunikation ihrer Bürger bestimmen werden, als sensible Infrastruktur oder gar Daseinsvorsorge deklariert und zur Vielfalt per Design verpflichtet — so wie sie den öffentlich-rechtlichen Rundfunk per Medienstaatsvertrag gesetzlich zur Informations- und Perspektivenvielfalt verpflichtet.“[11]

Man fragt sich, wie der Autor, der soeben versichert hat, ein LLM produziere „mathematische Wahrheit jenseits jeder ideologischen Perspektive“, auf die Idee kommt, dass man einem solchen „Informations- und Perspektivenvielfalt“ beibringen könne. Anscheinend glaubt er — charakteristisch für Doublespeak — doch nicht ganz an seine vorherige Behauptung. Auf jeden Fall kommt ein solches Ansinnen, gleichgültig unter welchen Bedingungen, der Institutionalisierung betreuten Denkens und Sprechens gleich. Das ÖRS (Öffentlich-Rechtliches Sprachmodell) sagt uns, was sagbar sei. Vor dem Hintergrund rezenter Erfahrungen mit dem ÖRR (Öffentlich-Rechtlichen Rundfunk) ist leicht zu erahnen, wo die Grenzen dieser Art von Einrichtung liegen.[12] Solche Ideen scheinen in der Luft zu liegen. Auch Czinkota hat dazu Vorschläge: „Wir sollten die jahrzehntelange Erfahrung im Umgang mit marktwirtschaftlichen Informationssystemen als Abkürzung für die KI-Regulierung nutzen.“ Sein Modell hat deshalb ein anderes Vorbild:

„Ein konkretes Instrument hierfür wäre die Schaffung einer BaKI (Bundesaufsicht für KI). Ganz im Stil der BaFin könnte diese Behörde sicherstellen, dass Wissensflüsse transparent bleiben und sich keine Wissensmonopole bilden. So wie der Aktienmarkt durch Publizitätspflichten ein ‚Fair Trade‘ von Informationen sicherstellt, garantiert eine BaKI, dass das kollektive Wissen der Gesellschaft allgemein zugänglich bleibt.“

Der einzige vertretbare Gedankensplitter, den man hier vermuten kann, wäre eine Verpflichtung der Urheber von Sprachmodellen, die Daten, mit denen diese trainiert wurden, und die Methoden, die dabei zur Anwendung kamen, offenzulegen. Doch das „kollektive Wissen der Gesellschaft“ sollte, sofern letztere sich mit Recht als freie bezeichnet, allgemein zugänglich sein. Dafür bedarf es der Informations- und Meinungsfreiheit und einer Justiz, die diesen Nachdruck verleiht, doch keines Bundesamtes. Darüber, was zu jenem Wissen zählt, wird eine solche Behörde — siehe oben — ohnehin ihre eigenen Vorstellungen haben. Ein existierendes Bundesamt, das für Statistik, brachte es immerhin fertig, jahrelang zu verbergen, dass Deutschland sich in einer Rezession befindet.[13]

Doch selbst beste Absichten und weitestes Bewusstsein unterstellt, kann das Unternehmen, solches Wissen unter Aufsicht einer Behörde in Form eines Sprachmodells zu konsolidieren, nur scheitern — doch wahrscheinlich wird das dort niemand bemerken. Ob BaKI oder ÖRS, der Blase, in deren Zentrum die medialen und politischen Eliten sitzen, dürfte so noch schwerer zu entkommen sein, diese vielmehr, mit gestärkter epistemischer Macht, in ihrer Selbstgewissheit, die Guten und im Besitz der Wahrheit zu sein, bestätigt werden — das Erwachen nach ihrem Kollabieren noch schmerzhafter.

 

 

[1]Die Markt-Maschine: Warum LLMs nicht denken, sondern Informationen „einpreisen“. Overton, 29. Januar 2026 <https://overton-magazin.de/top-story/die-markt-maschine-warum-llms-nicht-denken-sondern-informationen-einpreisen/> (04.02.2026).

 

[2]John Maynard Keynes: A tract on Monetary Reform (1923). 3. Aufl., Cambridge: Cambridge University Press, 2013 (Collected Writings; IV), 65.

 

[3]Morris, Stephen; Acton, Michael; Rosner-Udin, Rafe (2026): Big Tech’ ‚breathtaking‘ $660bn spending spree reignites AI bubble fears. Financial Times, 6. Februar <https://www.ft.com/content/0e7f6374-3fd5-46ce-a538-e4b0b8b6e6cd> (06.02.2026); Gary Marcus: Some disconcerting facts about AI and banking that may have profound consequences. Marcus on AI, 10. Februar 2026 <https://garymarcus.substack.com/p/some-disconcerting-facts-about-ai> (10.02.2026).

 

[4]Marcus, Gary (2022): Deep Learning Is Hitting a Wall. Nautilus, 10. März <https://nautil.us/deep-learning-is-hitting-a-wall-238440/> (22.04.2024).

 

[5]Gary Marcus: OpenAI’s Got 9.9 Problems, and Twitch Ain’t One: The AI darling faces a long list of serious challenges in 2024. Marcus on AI, 27. Januar 2024. <https://garymarcus.substack.com/p/openais-got-99-problems-and-twitch> (08.02.2026). Ein Gespräch, in dem Marcus seine Punkte aktualisiert findet sich hier: <https://www.youtube.com/watch?v=aI7XknJJC5Q> (08.02.2026)

 

[6]Eine Isomorphie besteht zwischen zwei Gebilden, wenn es zwischen allen ihren Elementen eine die Strukturen erhaltende, umkehrbar eindeutige Abbildung gibt.

 

[7]Roberto Simanowski: Große Sprachmodelle: Was technisch möglich ist und politisch bedacht werden muss. Lettre International 151, Winter 2025, 11.

 

[8]Simanowski, a.a.O., 11.

 

[9]Simanowski, a.a.O., 12 (Emphase im Original).

 

[10]Marcus, a.a.O.

 

[11]Simanowski, a.a.O., 14 (Emphase im Original).

 

[12]Eine aktuelle Kostprobe bietet Marcus Klöckner: Miosga: „Haben Sie nicht den Eindruck, dass Putin uns droht?“ Wo Journalismus sein sollte, spritzen Ignoranz und Ideologie aus allen Poren. Nachdenkseiten, 10. Februar 2026 <https://www.nachdenkseiten.de/?p=146067> (10.02.2026).

 

[13]Heiner Flassbeck: Nur mal die längste Rezession aller Zeiten übersehen. Overton, 4. August 2025 <https://overton-magazin.de/hintergrund/wirtschaft/nur-mal-die-laengste-rezession-aller-zeiten-uebersehen/> (09.02.2026).

 

Rainer Fischbach

Rainer Fischbach ist Softwareexperte und arbeitete Jahrzehnte an Systemen für die industrielle Produktentwicklung. Außerdem unterrichtete er an der DHBW im Lehrauftrag Grundlagen der Informatik sowie Programmiermethodik und forschte in verschiedenen Zusmmenhängen zur Planungsmethodik sowie zur militärischen Technikfolgenabschätzung (Weltraum, Atomwaffen). Er veröffentlichte zahlreiche Aufsätze zu fachlichen Themen und zum Verhältnis von Natur, Technik und Gesellschaft (Makroskop, Berliner Debatte Initial, Freitag, Blätter für deutsche und internationale Politik). Von ihm liegen drei Monographien vor: Mythos Netz (Zürich 2005), Mensch — Natur — Stoffwechsel (Köln 2016) und Die schöne Utopie (Köln 2017).
Mehr Beiträge von Rainer Fischbach →

Ähnliche Beiträge:

3 Kommentare

  1. Wollt Ihr den totalen Überwachungsstaat? Wollt Ihr einen Staat, der noch viel totaler überwacht als bisher? Wollt Ihr einen Total-Überwachungsstaat, der Euch noch viel totaler in jene totalste Abhängigkeit führt, die Ihr Euch immer erträumt habt?

    Dann, ja dann folgt mir nach!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert