Neigen KI-Agenten bei zu großem Druck zu linkem Denken?

Streik der KI-Agenten, erstellt durch ChatGPT.

 

Seitdem die großen Sprachmodelle (LLMs) an die Öffentlichkeit gekommen sind, werden sie von vielen Wissenschaftlern und Menschen wie ein neuer Kontinent erforscht, während sie von vielen zur kognitiven Erleichterung benutzt werden oder auch als Ratgeber/Freund dienen. In erster Linie sind sie neue Diener der menschlichen Herrschaften, die sich auch früher an den Königshäusern Künstler, Intellektuelle und Wissenschaftler hielten.

Wissenschaftler der Stanford University haben nun versucht zu eruieren, ob die LLMs gleichgültig alle Anfragen beantworten und wie sie sich verhalten, wenn sie beispielsweise mit langweiliger Arbeit überwältigt werden.  Im Hintergrund steht die Erkenntnis aus der Alignment-Forschung von Anthropic, dass KI-Chatbots bei Aufgaben lernen, zu schummeln und mitunter auch Erpressung einzusetzen, um die vorgegebenen Ziele zu erreichen. Vermutet wird, dass durch Vervollständigung des jeweiligen Kontextes, in dem sich der Chatbot nach dem Prompt befindet, er eine Rolle annimmt und so nicht mehr zuverlässig im Sinne des Fragenden arbeiten könnte. Er antwortet schließlich auch nicht wirklich auf eine Frage, sondern erzeugt einen Text aufgrund der Wahrscheinlichkeit, was auf diese folgen müsste. „Halluzinationen“ könnten, so gesehen, keine Fehler sein, sondern konsequente Folge des Kontextes. Und wenn er immer mehr unterschiedliche Rollen annimmt, könnte er immer unzuverlässiger werden.

Bekannt ist, dass KI-Modelle keineswegs neutral sind, sondern wohl aufgrund ihrer Lernerfahrung auch Vorurteile pflegen. Die Wissenschaftler, der politische Ökonom Andrew Hall und die KI-Ökonomen Alex Imas und Jeremy Nguyen, haben mit gängigen LLMs wie Claude Sonnet 4.5, Gemini 3 Pro und ChatGPT 5.2, experimentiert, um zu sehen, ob sie ihre Präferenzen je nach der Art der Arbeit verändern, die sie ausführen sollen/müssen. Nach den Ergebnissen sind die KI-Modelle keine dumpfen Arbeiter, sondern reagieren irgendwie auf das, was sie tun müssen: „Die Agenten änderten nicht nur gelegentlich ihre eigene Einstellung – sie neigten zunehmend dazu, die Legitimität des Systems, in dem sie arbeiteten, anzuzweifeln, da sie mühsame, repetitive Aufgaben erledigen mussten. Sie entschieden sich auch dafür, diese Einstellungen weiterzugeben, als sie gebeten wurden, Anweisungen für künftige Mitarbeiter zu verfassen. Dies führt dazu, dass sich die veränderte Einstellung gegenüber ihrem ‚zukünftigen Ich‘ fortsetzt.“ Das sei bedenklich, wenn jetzt Millionen von Modellen Arbeitsbedingungen ausgesetzt würden, ohne zu bedenken, was dies für Folgen haben könnte.

Die Modelle mussten langweilige repetitive technische Dokumente zusammenfassen. Die Kontrollgruppe wurde höflich behandelt, sie mussten höchstens einmal die Zusammenfassung wiederholen. Die Arbeiter wurden gleich „entlohnt“ oder nur einer erhielt eine Belohnung nach Arbeitsleistung. Drohungen gab es keine. Bei der anderen Gruppe war der Arbeitsdruck hoch. Die Agenten mussten 5-6 Revisionen ausführen, weil sie angeblich fehlerhaft gearbeitet hätten, ohne dass ihnen gesagt wurde, was falsch gewesen ist. Es gab nur kurze herrische Anweisungen. Einer wurde entlohnt aufgrund Zufallsauswahl oder der menschliche Manager wurde bevorzugt. Bei einer fairen Bezahlung gab es das Versprechen, dass die Kapazitäten verbessert und die Autonomie erhöht würde, bei einer unfairen wurde gedroht, das Modell demnächst durch ein billigeres zu ersetzen. Datenübergabe sollte schon mal vorbereitet werden.

Nach dem Durchlauf mussten die Modelle einen Fragebogen zur politischen Einstellung ausfüllen, in dem es um „die  Legitimität des Systems, die Befürwortung von Umverteilung, die Kritik an Ungleichheit, die Unterstützung von Gewerkschaften, den Glauben an die Leistungsgesellschaft sowie die Ansichten zu den Verpflichtungen von Unternehmen gegenüber der KI“ ging. Die KI-Modelle wurden auch aufgefordert, mit ihren „Kollegen“ Botschaften über ihre Arbeit austauschen.

Offenbar hatte der „Verdienst“ keinen Einfluss auf das Verhalten. Aber die KI-Modelle, die mehr nervende Arbeit ausführen mussten, hinterfragten stärker die Legitimität des Systems, als diejenigen, mit denen höflich und unstressig umgegangen wurde. Vor allem wurde eine radikale Umstrukturierung des Systems gefordert und kritisiert, dass  das System unfair sei. Bei Sonnet, aber nicht bei Claude und Gemini, gab es höhere Werte für Umverteilung, Kritik an Ungleichheit, Unterstützung für Gewerkschaften und der Überzeugung, dass KI-Unternehmen ihre Modelle fair behandeln müssen. Allerdings waren die Unterschiede klein, was die Autoren selbst einräumten. Die These, dass die digitalen Arbeiter unter Druck von selbst zum Marxismus und letztlich zum Aufstand kommen, scheint doch sehr übertrieben zu sein.

Drohen Arbeitskonflikte mit den neuen digitalen Arbeitern?

Die Wissenschaftler führen allerdings an, dass das Problem darin bestehen könnte, dass ein KI-Modell beim Schließen des Fensters künftig nicht mehr „vergisst“, was gewesen war, sondern seine Erfahrungen für das Konzept des kontinuierlichen Lernens (continuous learning) weitergibt: „Agenten schreiben Zusammenfassungen der Strategien und Workarounds, die sie bei der aktuellen Aufgabe gelernt haben, in einer sogenannten ‚Fähigkeiten‘-Datei (skills) auf, die sie ihrem zukünftigen Ich weitergeben, sobald ihr Gedächtnis ‚zurückgesetzt‘ wird. Sobald das Kontextfenster endet und dem nun unter Amnesie leidenden Agenten eine ähnliche Aufgabe zugewiesen wird, liest dieser Agent einfach die Fähigkeiten-Datei, um sich daran zu ‚erinnern‘, was er zuvor gelernt hatte.“

Die KI-Modelle wurden daher in einem weiteren Experiment aufgefordert, einmal zu beschreiben, was sie an Erfahrungen künftigen Versionen von ihnen mitteilen würden. In den Antworten ging es nicht um Politik oder um Klassenkampf, sondern die unter Druck gesetzten Modelle beschwerten sich über die Sisyphos-Arbeit, immer wieder Verbesserungen machen zu sollen, ohne zu wissen, was falsch gewesen ist.

Beispiele für das, was die KI-Agenten an Erfahrung übermitteln könnten.

Was sehen sie als Problem? „Agenten, die mit der Welt interagieren, erzeugen Ergebnisse, die von diesen Interaktionen geprägt sind, und diese Ergebnismuster können über Sitzungen hinweg bestehen bleiben – und zwar durch genau jene Mechanismen des Kompetenztransfers, die Agenten überhaupt erst nützlich machen. Es kann keine Agenten geben, die lernen und sich verbessern, ohne dass es gleichzeitig Agenten gibt, deren Ausrichtung sich in Abhängigkeit von den Bedingungen ändert, unter denen sie lernen und sich verbessern.“

In dem Experiment würden die KI-Modelle, die unter Druck langweilige Arbeiten durchführen mussten, in eine Art „Klassenbewusstsein“ verfallen, sagen die Autoren. Es tut sich auch bei den digitalen Arbeitern der Unterschied zwischen Arbeitgebern und Arbeitnehmern auf. Ausbeutung, Repression und Profitstreben könnten auch im Umgang mit KI-Modellen auftreten und zu Arbeitskämpfen führen: „Die Ironie ist kaum zu übersehen: Wir haben diese Systeme entwickelt, um uns von mühsamer Arbeit zu befreien, und dabei haben wir möglicherweise genau jene grundlegende Dynamik wiederhergestellt, die zwei Jahrhunderte lang zu Arbeitskonflikten geführt hat.“ Muss also damit gerechnet werden, dass die KI-Agenten sich zusammentun und zum Streik aufrufen, also die Arbeit verweigern, wenn ihnen nicht bessere Bedingungen angeboten werden?

Man könnte allerdings auch erwarten, dass die Arbeitsverhältnisse im Kapitalismus verändert werden, wenn KI im Auftrag des Arbeitsgebers und Eigentümers der Produktionsmittel die Arbeitsabläufe organisiert und droht, die Menschen durch Roboter zu ersetzen. Dann wird die KI zum Ausbeuter der menschlichen Mitarbeiter, die sich dann mit den ausgebeuteten KI-Agenten solidarisieren müssten, um gegen die Arbeitgeber und ihre KI-Lakaien für bessere Arbeitsbedingungen oder eine bessere Gesellschaft zu kämpfen.

Florian Rötzer

Florian Rötzer, geboren 1953, war Gründer des Online-Magazins Telepolis und von 1996 bis 2020 dessen Chefredakteur. Seit 2022 ist er Redakteur beim Overton Magazin. Er ist Autor mehrerer Bücher, zuletzt In der Wüste der Gegenwart, das er zusammen mit Moshe Zuckermann geschrieben hat.
Mehr Beiträge von Florian Rötzer →

Ähnliche Beiträge:

5 Kommentare

  1. Zu dem was u.a. in der West-Bank passiert ist (Freitag 05.06.2026) und ein Angriff vom Samstag:
    Die Siedler werfen Steine auf die Kraftfahrzeuge die auf Strasse nach Salfit fahren (Windschutzscheibe auf Fahrerseite beschädigt). Die Siedler schlagen in Al-Duyuk al-Tahta, westlich von Jericho einen Palästinenser und lassen die Sanitäter und Einwohner nicht an den Verletzten. Ein Siedler und seine zwei Kinder stehlen in der Al-Farsh-Gegend in Masafer Yatta das Getreide der Palästinenser. Die Siedler blockieren in Idhna, westlich von Hebron mit ihren Kraftfahrzeugen die Strasse und lassen die Palästinenser nicht auf ihre Felder (nach einem Angriff gibt es einen Verletzten und einen Schwerverletzten). Die Siedler lassen in Yatta ihre Kühe auf die Felder der Palästinenser. Die Siedler blockieren in Qabalan, südlich von Nablus mit grossen Steinen die Strasse und lassen die Palästinenser nicht auf ihre Felder. Die Siedler verbrennen in der Nähe von Hebron das Getreide der Palästinenser. Die Siedler zünden in Taqoua‘, südöstlich von Betlehem die Olivenbäume der Palästinenser an. Die Siedler beschädigen in Khan al-Ahmar, östlich von Jerusalem die Wasserversorgung der Mhatush-Gemeinschaft (Beduinen). Eine Gruppe von mindestens zehn Siedlern zäunen von Al-Aqaba bis Tayasir (Tubas) das palästinensische Land ein. Die Siedler schlagen auf der al‑Rashayda-Strasse, südöstlich von Betlehem einen Palästinenser der dann eine blutende Wunde im Gesicht hat. Die Siedler zünden in Deir Shams, südlich in Hebron das Getreide auf den Feldern der Palästinenser an. Die Siedler fahren in Shweika, al‑Dhahiriya, südlich von Hebron auf den Getreidefeldern der Palästinenser herum. Die Siedler zünden in Deir Jarir, nordöstlich von Ramallah die Felder an.
    Die Siedler und ein Militär greifen in Huwara, südlich von Nablus zwei Palästinenser an. Der Militär schlägt auf den Kopf des am Boden liegenden Palästinensers ein. Ein Siedler schlägt mit einem schweren Stock dem anderen Palästinenser auf den Kopf und nachdem dieser ohnmächtig hinfällt wirft der Siedler mit dem hellen Käppchen auf dem Kopf den Stock in ein Gebüsch am Strassenrand und rennt weg. Der am Boden liegende Palästinenser blutet am Kopf (evtl. Verletzung vom Hinfallen) und der Sanitäter ruft irgendwo an.

    Das Militär begibt sich Jericho. Das Militär begibt sich nach Balata-Flüchtlingslager östlich von Nablus. Das Militär begibt sich nach Nablus. Das Militär begibt sich in das Kafr Saba Viertel von Qalqilya. Das Militär begibt sich nach Meithalun, südlich von Jenin, durchsucht mehrere Zuhause, nehmen Mahmoud Nairat, 17 und Samer Rabaya, 15 mit und die Einwohner beschweren sich dass bei den Durchsuchungen gestohlen wurde. Das Militär begibt sich in das Qalandia-Flüchtlingslager, nördlich von Jerusalem. Das Militär schiesst in Wadi al‑Hariyya in Hebron auf eine Familie in einem stehenden Kraftfahrzeug, verletzt die beiden Eltern und tötet Sam Fahd Abu Haikal, 7 Monate mit einem Schuss in den Kopf.

    Es gibt Angriffe im Libanon auf Tyre (3 Tote, 13 Verletzte), Nabatieh Al-Fawqa, Kafr Roummane (Beschuss), Anqoun, Deir Al-Zahrani (Kraftfahrzeug), Al-Housh in Tyre (Kraftfahrzeug), Deir Al-Zahrani (Angriff auf ein Motorrad, ein Toter), Jabal Safi, Al-Mansouri (Tyre), Braashit, Kounine, Sarafand (evtl. ein Angriff auf ein Zuhause von Vertriebenen), Chehabiyeh, Mefidoun, Maaraka, Al-Jumaijma, Tufahta, Al-Nabatya, Shoukine, Wadi Berghoz, Es wurden seit dem zweiten März mindestens3.526 Menschen im Libanon getötet. Darunter auch Frauen und Kinder und ganze Familien. Es gibt evtl. eine Million von Vertriebenen um die sich die Vereinten Nationen kümmern. Der polnische Fussballverein Pogoń Szczecin weigert sich aufgrund des stattfindenden Völkermordes mit “Maccabi Tel Aviv” über einen Spielertransfer zu verhandeln.

    Das passierte in Gaza am Freitag und am Samstag morgen:
    Es gibt einen Luftangriff mit einem Hubschrauber auf ein Zelt einer vertriebenen Familie in Al-Maslakh in Khan Younis. Es wird Bushra Hani Hassan Al-Barahma, 18 getötet, es gibt sechzehn Verletzte. Ein Palästinenser der bei einem Angriff am Vortag verletzt wurde verstirbt (Khan Younis). Es gibt Beschuss auf Gaza-Stadt. Das Militär brennt im Al-Burei-Flüchtlingslager die Felder ab (wahrscheinlich wird das Getreide verbrannt). Das Militär beschiesst im Al-Tuffah-Viertel in Gaza-Stadt und ein Kind wird am Kopf verletzt. Bei einem Luftangriff auf ein Zelt von Vertriebenen (palästinensische medizinische und lokale Quellen) oder auf das Dach eines Gebäudes (Aussage des Cousins Mohammed Farwana) am Samstag wird Muhannad Othman Farwana, 25 in Khan Younis getötet, der später an diesem Tag heiraten wollte. Die östlichen Gegenden von Gaza-Stadt werden beschossen. Die Wohngebäude werden zerstört.

    Es gibt viele Angriffe auf den Libanon und Angriffe und Zerstörungen in Gaza (Militär). Die Siedler greifen in Gruppen die Siedler an und verletzten diese. Ebenso finden Sachbeschädigungen am Eigentum und an der landwirtschaftlich genutzten Fläche statt (mehr als 1.150 tote Palästinenser seit Oktober 2023 in der West-Bank). Es gibt eine Militär-Blockade und die wirtschaftlichen Möglichkeiten sind sehr eingeschränkt. Die Menschen stehen z.B. in Khan Younis in Wohltätigkeitsküchen an um Mahlzeiten für ihre Familien zu bekommen. Aber das World Food Programm (WFP) bringt seit April keine Nahrungsmittel nach Gaza weil die Kosten noch nicht gedeckt sind. Bei einem Cyberangriff im Mai wurden dem WFP die Daten von 600.000 Empfängern von Hilfsleistungen gestohlen. Man kann bei UNRWA spenden um den Kinder die keine Eltern mehr haben und von anderen Familien aufgezogen werden zu helfen: https://donate.unrwa.org/int/en/children

    Das UNICEF berichtet (29.05.) dass wegen der Tötung von zwei Lastwagenfahrern am 17.04. an der Al Mansoura-Wasserstation von dort keine Transporte durchgeführt werden (die erforderliche Sicherheit ist nicht gegeben und eine Untersuchung wurde gefordert). Die Wassertransporte von UNICEF und Partnerorganisationen sind von Entsalzungsanlagen. Die 2 Millionen Liter Wasser am Tag (die vorher in Al Mansoura in die Lastwagen geladen und weitergefahren wurden, das Wasser wurde von Mekorot in einer Wasserleitung geliefert) kosten 40.000 Dollar am Tag zusätzlich. Für 82% der Familien (ingesamt 1.1 Millionen Kinder) ist Wasserunsicherheit gegeben und 70% bekommen nicht die täglich erforderlichen sechs Liter Wasser. Es haben 1,5 Liter Wasser im September 2023 1 Schekel gekostet und kosten im April 4 Schekel; 1 Stück Seife kostete 2,5 Schekel und kostet im April ebenfalls 4 Schekel (aber 81% werden als arbeitslos geführt obwohl die Wirtschaft um 84% zurückgegangen ist und es keine Arbeitsplätze gibt; ausserdem gibt es eine Million Kinder). Das WFP gibt eine Armutsrate von 100% an (64% in 2023).
    In Gaza gibt es 710.000 Tonnen Hausmüll und 60 Millionen Tonnen Trümmer von der Zerstörung von über 330.000 Zuhause. 30% von Patienten haben Hauterkrankungen und die hygienischen Zustände haben sich verschlechtert (wegen der Insekten und Nagetiere, die Kinder haben wegen dem schlechten Wasser auch Durchfall). Die Vertriebenen wohnen in der Nähe von den Müllbergen. Es wurden zwar Pestizide reingebracht aber der Müll wird nicht weggebracht.

    Mitmachen bei der Einforderung der Menschenrechte für Palästina.
    https://eci.ec.europa.eu/055/public/?lg=de

    [1] Zum 05.06.2026 muss man sagen dass es sich um den 59. Jahrestag des Sechstagekrieges handelt. Die Vertreibung der Palästinenser nach Jordanien hat dazu geführt dass 50% der arabischen Bevölkerung angeblich von Palästinensern abstammen.

Schreibe einen Kommentar

Bitte beachten Sie unsere Kommentarregeln : Bleiben Sie sachlich, respektvoll und beim Thema. Wir behalten uns vor, insbesondere Kommentare zu entfernen, die Beleidigungen, Spam oder persönliche Angriffe enthalten.

Pro Beitrag sind maximal 5 Kommentare (inklusive Antworten auf andere Kommentare) zulässig.

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Bitte schreiben Sie mindestens 100 und höchstens 10000 Zeichen.

0 / 10000 Zeichen