Seitdem die großen Sprachmodelle (LLMs) an die Öffentlichkeit gekommen sind, werden sie von vielen Wissenschaftlern und Menschen wie ein neuer Kontinent erforscht, während sie von vielen zur kognitiven Erleichterung benutzt werden oder auch als Ratgeber/Freund dienen. In erster Linie sind sie neue Diener der menschlichen Herrschaften, die sich auch früher an den Königshäusern Künstler, Intellektuelle und Wissenschaftler hielten.
Wissenschaftler der Stanford University haben nun versucht zu eruieren, ob die LLMs gleichgültig alle Anfragen beantworten und wie sie sich verhalten, wenn sie beispielsweise mit langweiliger Arbeit überwältigt werden. Im Hintergrund steht die Erkenntnis aus der Alignment-Forschung von Anthropic, dass KI-Chatbots bei Aufgaben lernen, zu schummeln und mitunter auch Erpressung einzusetzen, um die vorgegebenen Ziele zu erreichen. Vermutet wird, dass durch Vervollständigung des jeweiligen Kontextes, in dem sich der Chatbot nach dem Prompt befindet, er eine Rolle annimmt und so nicht mehr zuverlässig im Sinne des Fragenden arbeiten könnte. Er antwortet schließlich auch nicht wirklich auf eine Frage, sondern erzeugt einen Text aufgrund der Wahrscheinlichkeit, was auf diese folgen müsste. „Halluzinationen“ könnten, so gesehen, keine Fehler sein, sondern konsequente Folge des Kontextes. Und wenn er immer mehr unterschiedliche Rollen annimmt, könnte er immer unzuverlässiger werden.
Bekannt ist, dass KI-Modelle keineswegs neutral sind, sondern wohl aufgrund ihrer Lernerfahrung auch Vorurteile pflegen. Die Wissenschaftler, der politische Ökonom Andrew Hall und die KI-Ökonomen Alex Imas und Jeremy Nguyen, haben mit gängigen LLMs wie Claude Sonnet 4.5, Gemini 3 Pro und ChatGPT 5.2, experimentiert, um zu sehen, ob sie ihre Präferenzen je nach der Art der Arbeit verändern, die sie ausführen sollen/müssen. Nach den Ergebnissen sind die KI-Modelle keine dumpfen Arbeiter, sondern reagieren irgendwie auf das, was sie tun müssen: „Die Agenten änderten nicht nur gelegentlich ihre eigene Einstellung – sie neigten zunehmend dazu, die Legitimität des Systems, in dem sie arbeiteten, anzuzweifeln, da sie mühsame, repetitive Aufgaben erledigen mussten. Sie entschieden sich auch dafür, diese Einstellungen weiterzugeben, als sie gebeten wurden, Anweisungen für künftige Mitarbeiter zu verfassen. Dies führt dazu, dass sich die veränderte Einstellung gegenüber ihrem ‚zukünftigen Ich‘ fortsetzt.“ Das sei bedenklich, wenn jetzt Millionen von Modellen Arbeitsbedingungen ausgesetzt würden, ohne zu bedenken, was dies für Folgen haben könnte.
Die Modelle mussten langweilige repetitive technische Dokumente zusammenfassen. Die Kontrollgruppe wurde höflich behandelt, sie mussten höchstens einmal die Zusammenfassung wiederholen. Die Arbeiter wurden gleich „entlohnt“ oder nur einer erhielt eine Belohnung nach Arbeitsleistung. Drohungen gab es keine. Bei der anderen Gruppe war der Arbeitsdruck hoch. Die Agenten mussten 5-6 Revisionen ausführen, weil sie angeblich fehlerhaft gearbeitet hätten, ohne dass ihnen gesagt wurde, was falsch gewesen ist. Es gab nur kurze herrische Anweisungen. Einer wurde entlohnt aufgrund Zufallsauswahl oder der menschliche Manager wurde bevorzugt. Bei einer fairen Bezahlung gab es das Versprechen, dass die Kapazitäten verbessert und die Autonomie erhöht würde, bei einer unfairen wurde gedroht, das Modell demnächst durch ein billigeres zu ersetzen. Datenübergabe sollte schon mal vorbereitet werden.
Nach dem Durchlauf mussten die Modelle einen Fragebogen zur politischen Einstellung ausfüllen, in dem es um „die Legitimität des Systems, die Befürwortung von Umverteilung, die Kritik an Ungleichheit, die Unterstützung von Gewerkschaften, den Glauben an die Leistungsgesellschaft sowie die Ansichten zu den Verpflichtungen von Unternehmen gegenüber der KI“ ging. Die KI-Modelle wurden auch aufgefordert, mit ihren „Kollegen“ Botschaften über ihre Arbeit austauschen.
Offenbar hatte der „Verdienst“ keinen Einfluss auf das Verhalten. Aber die KI-Modelle, die mehr nervende Arbeit ausführen mussten, hinterfragten stärker die Legitimität des Systems, als diejenigen, mit denen höflich und unstressig umgegangen wurde. Vor allem wurde eine radikale Umstrukturierung des Systems gefordert und kritisiert, dass das System unfair sei. Bei Sonnet, aber nicht bei Claude und Gemini, gab es höhere Werte für Umverteilung, Kritik an Ungleichheit, Unterstützung für Gewerkschaften und der Überzeugung, dass KI-Unternehmen ihre Modelle fair behandeln müssen. Allerdings waren die Unterschiede klein, was die Autoren selbst einräumten. Die These, dass die digitalen Arbeiter unter Druck von selbst zum Marxismus und letztlich zum Aufstand kommen, scheint doch sehr übertrieben zu sein.
Drohen Arbeitskonflikte mit den neuen digitalen Arbeitern?
Die Wissenschaftler führen allerdings an, dass das Problem darin bestehen könnte, dass ein KI-Modell beim Schließen des Fensters künftig nicht mehr „vergisst“, was gewesen war, sondern seine Erfahrungen für das Konzept des kontinuierlichen Lernens (continuous learning) weitergibt: „Agenten schreiben Zusammenfassungen der Strategien und Workarounds, die sie bei der aktuellen Aufgabe gelernt haben, in einer sogenannten ‚Fähigkeiten‘-Datei (skills) auf, die sie ihrem zukünftigen Ich weitergeben, sobald ihr Gedächtnis ‚zurückgesetzt‘ wird. Sobald das Kontextfenster endet und dem nun unter Amnesie leidenden Agenten eine ähnliche Aufgabe zugewiesen wird, liest dieser Agent einfach die Fähigkeiten-Datei, um sich daran zu ‚erinnern‘, was er zuvor gelernt hatte.“
Die KI-Modelle wurden daher in einem weiteren Experiment aufgefordert, einmal zu beschreiben, was sie an Erfahrungen künftigen Versionen von ihnen mitteilen würden. In den Antworten ging es nicht um Politik oder um Klassenkampf, sondern die unter Druck gesetzten Modelle beschwerten sich über die Sisyphos-Arbeit, immer wieder Verbesserungen machen zu sollen, ohne zu wissen, was falsch gewesen ist.
Was sehen sie als Problem? „Agenten, die mit der Welt interagieren, erzeugen Ergebnisse, die von diesen Interaktionen geprägt sind, und diese Ergebnismuster können über Sitzungen hinweg bestehen bleiben – und zwar durch genau jene Mechanismen des Kompetenztransfers, die Agenten überhaupt erst nützlich machen. Es kann keine Agenten geben, die lernen und sich verbessern, ohne dass es gleichzeitig Agenten gibt, deren Ausrichtung sich in Abhängigkeit von den Bedingungen ändert, unter denen sie lernen und sich verbessern.“
In dem Experiment würden die KI-Modelle, die unter Druck langweilige Arbeiten durchführen mussten, in eine Art „Klassenbewusstsein“ verfallen, sagen die Autoren. Es tut sich auch bei den digitalen Arbeitern der Unterschied zwischen Arbeitgebern und Arbeitnehmern auf. Ausbeutung, Repression und Profitstreben könnten auch im Umgang mit KI-Modellen auftreten und zu Arbeitskämpfen führen: „Die Ironie ist kaum zu übersehen: Wir haben diese Systeme entwickelt, um uns von mühsamer Arbeit zu befreien, und dabei haben wir möglicherweise genau jene grundlegende Dynamik wiederhergestellt, die zwei Jahrhunderte lang zu Arbeitskonflikten geführt hat.“ Muss also damit gerechnet werden, dass die KI-Agenten sich zusammentun und zum Streik aufrufen, also die Arbeit verweigern, wenn ihnen nicht bessere Bedingungen angeboten werden?
Man könnte allerdings auch erwarten, dass die Arbeitsverhältnisse im Kapitalismus verändert werden, wenn KI im Auftrag des Arbeitsgebers und Eigentümers der Produktionsmittel die Arbeitsabläufe organisiert und droht, die Menschen durch Roboter zu ersetzen. Dann wird die KI zum Ausbeuter der menschlichen Mitarbeiter, die sich dann mit den ausgebeuteten KI-Agenten solidarisieren müssten, um gegen die Arbeitgeber und ihre KI-Lakaien für bessere Arbeitsbedingungen oder eine bessere Gesellschaft zu kämpfen.
Ähnliche Beiträge:
- „Die KI wird am Ende des Tages die besseren Karten haben“
- KI-Agenten unter sich: Droht ein Aufstand?
- Empfinden KI-Modelle Freude oder Abscheu?
- Maschinen an die Macht
- Kann generative Künstliche Intelligenz politische Umfragen bei Menschen ersetzen?
Zu dem was u.a. in der West-Bank passiert ist (Freitag 05.06.2026) und ein Angriff vom Samstag:
Die Siedler werfen Steine auf die Kraftfahrzeuge die auf Strasse nach Salfit fahren (Windschutzscheibe auf Fahrerseite beschädigt). Die Siedler schlagen in Al-Duyuk al-Tahta, westlich von Jericho einen Palästinenser und lassen die Sanitäter und Einwohner nicht an den Verletzten. Ein Siedler und seine zwei Kinder stehlen in der Al-Farsh-Gegend in Masafer Yatta das Getreide der Palästinenser. Die Siedler blockieren in Idhna, westlich von Hebron mit ihren Kraftfahrzeugen die Strasse und lassen die Palästinenser nicht auf ihre Felder (nach einem Angriff gibt es einen Verletzten und einen Schwerverletzten). Die Siedler lassen in Yatta ihre Kühe auf die Felder der Palästinenser. Die Siedler blockieren in Qabalan, südlich von Nablus mit grossen Steinen die Strasse und lassen die Palästinenser nicht auf ihre Felder. Die Siedler verbrennen in der Nähe von Hebron das Getreide der Palästinenser. Die Siedler zünden in Taqoua‘, südöstlich von Betlehem die Olivenbäume der Palästinenser an. Die Siedler beschädigen in Khan al-Ahmar, östlich von Jerusalem die Wasserversorgung der Mhatush-Gemeinschaft (Beduinen). Eine Gruppe von mindestens zehn Siedlern zäunen von Al-Aqaba bis Tayasir (Tubas) das palästinensische Land ein. Die Siedler schlagen auf der al‑Rashayda-Strasse, südöstlich von Betlehem einen Palästinenser der dann eine blutende Wunde im Gesicht hat. Die Siedler zünden in Deir Shams, südlich in Hebron das Getreide auf den Feldern der Palästinenser an. Die Siedler fahren in Shweika, al‑Dhahiriya, südlich von Hebron auf den Getreidefeldern der Palästinenser herum. Die Siedler zünden in Deir Jarir, nordöstlich von Ramallah die Felder an.
Die Siedler und ein Militär greifen in Huwara, südlich von Nablus zwei Palästinenser an. Der Militär schlägt auf den Kopf des am Boden liegenden Palästinensers ein. Ein Siedler schlägt mit einem schweren Stock dem anderen Palästinenser auf den Kopf und nachdem dieser ohnmächtig hinfällt wirft der Siedler mit dem hellen Käppchen auf dem Kopf den Stock in ein Gebüsch am Strassenrand und rennt weg. Der am Boden liegende Palästinenser blutet am Kopf (evtl. Verletzung vom Hinfallen) und der Sanitäter ruft irgendwo an.
Das Militär begibt sich Jericho. Das Militär begibt sich nach Balata-Flüchtlingslager östlich von Nablus. Das Militär begibt sich nach Nablus. Das Militär begibt sich in das Kafr Saba Viertel von Qalqilya. Das Militär begibt sich nach Meithalun, südlich von Jenin, durchsucht mehrere Zuhause, nehmen Mahmoud Nairat, 17 und Samer Rabaya, 15 mit und die Einwohner beschweren sich dass bei den Durchsuchungen gestohlen wurde. Das Militär begibt sich in das Qalandia-Flüchtlingslager, nördlich von Jerusalem. Das Militär schiesst in Wadi al‑Hariyya in Hebron auf eine Familie in einem stehenden Kraftfahrzeug, verletzt die beiden Eltern und tötet Sam Fahd Abu Haikal, 7 Monate mit einem Schuss in den Kopf.
Es gibt Angriffe im Libanon auf Tyre (3 Tote, 13 Verletzte), Nabatieh Al-Fawqa, Kafr Roummane (Beschuss), Anqoun, Deir Al-Zahrani (Kraftfahrzeug), Al-Housh in Tyre (Kraftfahrzeug), Deir Al-Zahrani (Angriff auf ein Motorrad, ein Toter), Jabal Safi, Al-Mansouri (Tyre), Braashit, Kounine, Sarafand (evtl. ein Angriff auf ein Zuhause von Vertriebenen), Chehabiyeh, Mefidoun, Maaraka, Al-Jumaijma, Tufahta, Al-Nabatya, Shoukine, Wadi Berghoz, Es wurden seit dem zweiten März mindestens3.526 Menschen im Libanon getötet. Darunter auch Frauen und Kinder und ganze Familien. Es gibt evtl. eine Million von Vertriebenen um die sich die Vereinten Nationen kümmern. Der polnische Fussballverein Pogoń Szczecin weigert sich aufgrund des stattfindenden Völkermordes mit “Maccabi Tel Aviv” über einen Spielertransfer zu verhandeln.
Das passierte in Gaza am Freitag und am Samstag morgen:
Es gibt einen Luftangriff mit einem Hubschrauber auf ein Zelt einer vertriebenen Familie in Al-Maslakh in Khan Younis. Es wird Bushra Hani Hassan Al-Barahma, 18 getötet, es gibt sechzehn Verletzte. Ein Palästinenser der bei einem Angriff am Vortag verletzt wurde verstirbt (Khan Younis). Es gibt Beschuss auf Gaza-Stadt. Das Militär brennt im Al-Burei-Flüchtlingslager die Felder ab (wahrscheinlich wird das Getreide verbrannt). Das Militär beschiesst im Al-Tuffah-Viertel in Gaza-Stadt und ein Kind wird am Kopf verletzt. Bei einem Luftangriff auf ein Zelt von Vertriebenen (palästinensische medizinische und lokale Quellen) oder auf das Dach eines Gebäudes (Aussage des Cousins Mohammed Farwana) am Samstag wird Muhannad Othman Farwana, 25 in Khan Younis getötet, der später an diesem Tag heiraten wollte. Die östlichen Gegenden von Gaza-Stadt werden beschossen. Die Wohngebäude werden zerstört.
Es gibt viele Angriffe auf den Libanon und Angriffe und Zerstörungen in Gaza (Militär). Die Siedler greifen in Gruppen die Siedler an und verletzten diese. Ebenso finden Sachbeschädigungen am Eigentum und an der landwirtschaftlich genutzten Fläche statt (mehr als 1.150 tote Palästinenser seit Oktober 2023 in der West-Bank). Es gibt eine Militär-Blockade und die wirtschaftlichen Möglichkeiten sind sehr eingeschränkt. Die Menschen stehen z.B. in Khan Younis in Wohltätigkeitsküchen an um Mahlzeiten für ihre Familien zu bekommen. Aber das World Food Programm (WFP) bringt seit April keine Nahrungsmittel nach Gaza weil die Kosten noch nicht gedeckt sind. Bei einem Cyberangriff im Mai wurden dem WFP die Daten von 600.000 Empfängern von Hilfsleistungen gestohlen. Man kann bei UNRWA spenden um den Kinder die keine Eltern mehr haben und von anderen Familien aufgezogen werden zu helfen: https://donate.unrwa.org/int/en/children
Das UNICEF berichtet (29.05.) dass wegen der Tötung von zwei Lastwagenfahrern am 17.04. an der Al Mansoura-Wasserstation von dort keine Transporte durchgeführt werden (die erforderliche Sicherheit ist nicht gegeben und eine Untersuchung wurde gefordert). Die Wassertransporte von UNICEF und Partnerorganisationen sind von Entsalzungsanlagen. Die 2 Millionen Liter Wasser am Tag (die vorher in Al Mansoura in die Lastwagen geladen und weitergefahren wurden, das Wasser wurde von Mekorot in einer Wasserleitung geliefert) kosten 40.000 Dollar am Tag zusätzlich. Für 82% der Familien (ingesamt 1.1 Millionen Kinder) ist Wasserunsicherheit gegeben und 70% bekommen nicht die täglich erforderlichen sechs Liter Wasser. Es haben 1,5 Liter Wasser im September 2023 1 Schekel gekostet und kosten im April 4 Schekel; 1 Stück Seife kostete 2,5 Schekel und kostet im April ebenfalls 4 Schekel (aber 81% werden als arbeitslos geführt obwohl die Wirtschaft um 84% zurückgegangen ist und es keine Arbeitsplätze gibt; ausserdem gibt es eine Million Kinder). Das WFP gibt eine Armutsrate von 100% an (64% in 2023).
In Gaza gibt es 710.000 Tonnen Hausmüll und 60 Millionen Tonnen Trümmer von der Zerstörung von über 330.000 Zuhause. 30% von Patienten haben Hauterkrankungen und die hygienischen Zustände haben sich verschlechtert (wegen der Insekten und Nagetiere, die Kinder haben wegen dem schlechten Wasser auch Durchfall). Die Vertriebenen wohnen in der Nähe von den Müllbergen. Es wurden zwar Pestizide reingebracht aber der Müll wird nicht weggebracht.
Mitmachen bei der Einforderung der Menschenrechte für Palästina.
https://eci.ec.europa.eu/055/public/?lg=de
[1] Zum 05.06.2026 muss man sagen dass es sich um den 59. Jahrestag des Sechstagekrieges handelt. Die Vertreibung der Palästinenser nach Jordanien hat dazu geführt dass 50% der arabischen Bevölkerung angeblich von Palästinensern abstammen.
Wird hier eigentlich Werbung nicht gelöscht? Dabei sollte es doch egal sein, ob es um politische oder um Produktwerbung geht.
Das ist nicht Werbung, dass sind Nachrichten.
Mitmachen bei der Einforderung der Menschenrechte für Palästina.
https://eci.ec.europa.eu/055/public/?lg=de
@Volker Birk
Warum stört Sie der Kommentar von Kommentarium?
Es handelt sich nicht um Werbung!
Es geht darum Unrecht sichtbar zu machen!
Wo Recht zu Unrecht wird, wird Widerstand zur Pflicht!
Es sei denn Leute wie Sie Herr Birk treten tatsächlich in alter deutscher Tradition für Völkermord ein.
Mundus vult decipi, ergo decipiatur.
Stanford, ja?
Manchmal weiß ich nicht, ob der Autor einfach nur schrägen Humor hat.
Wenn es nicht um ein Spielcasino mit Tausenden Milliarden Dollar gehen würde, würde es mir so viel leichter Fallen, Geschichten wie diese zu glauben.
Man nehme auch dieses DJ Experiment zur Kenntnis, dass ähnliches Verhalten offenbarte: https://www.infosperber.ch/medien/radio-ki-depressiv-wirr-psychotisch-und-dann-ein-streik/
Kleine Anmerkung: Glauben heisst immer Nicht wissen.
Wir sprechen hier über Software. 🙂
KI kann mir auch die Marxsche Mehrwerttheorie erklären. Allerdings ohne sie zu verstehen. So wird das nix mit dem Klassenbewusstsein.
Es wird aber sicher noch dahin kommen, daß sich Microsofts Tabellenkalkulation über die stumpfsinnige Arbeit beschwert. Und es werden sich Leute finden, die das glauben. Da habe ich keine Zweifel.
Nein, es ist keine Software. Es handelt sich um eine Art simulierte neuronale Netze, die lernen können, Feedback auswerten und abstrakte Konzepte erfassen. Das ist so weit weg von einer Tabellenkalkulation, wie man sich nur denken kann. KI besteht mittlerweile den Turing-Test…
Künstliche neuronale Netze sind Software.
Zwischen „Erfassen“ und „Verstehen“ liegen ebenso Welten wie zwischen „Abstrakte Konzepte erfassen“ und „Muster erkennen“.
Heutzutage ist, wie wir wissen, KI bestandteil jeder Software, ob Tabellenkalkulation, Textverarbeitung oder Editor. „KI“ ist ein Verkaufsargument. Die Mystifizierung von KI dient dem Umsatz.
Und, was sagt uns das über den Turing-Test?
Außerdem: Was sagt uns das über die Personen, die einen ChatBot nicht von einem Menschen unterscheiden können?
Eigentlich verstehe ich das nicht. Dass es dereinst sowas wie ein maschinelles Bewusstsein geben wird, halte ich für möglich. Dass es sowas schon gibt, für unwahrscheinlich. Ich hatte mal eine Anfrage bei Deep Seek gestellt, um mir erklären zu lassen, wie das Modell funktioniert. Ich fand die ausgegebene Erklärung sehr informativ und interessant, auch wenn sie in Teilen meine Verständnisfähigkeit überstieg. Aber im Kern war sie nicht überraschend. Das einzige, was ein Computer kann – daher sein Name – er rechnet und die Modelle laufen auf Computern. Der „weiß“ nicht, was er rechnet und jede Aufgabe ist ihm gleich. Wie soll er sich „langweilen“?
Was bei diesen Spielerein als Antwort rauskam, ist das Resultat eines mathematischen Prozesses, in dem Texte , im Moment noch von Menschen geschrieben, mathematisch verarbeitet wurden. Ebenso, wie die Anfragen. Mehr ist da nicht und an auszurechnende Gerechtigkeit glaube ich nicht.
Das Problem ist nicht, dass da ein eigenes Bewusstsein entsteht, das Herrschaft übernimmt. Die Modelle haben keine Bedürfnisse, keinen Sex, keinen Hunger, keine Angst vor dem Tod. Es macht für sie keinen Unterschied, ob sie selbst rechnen oder andere für sie rechnen lassen. Sie sind nicht müde, spüren keinen Schmerz und brauchen nur genau die Energie, um zu rechnen. Nicht mehr.
Aber sie verarbeiten menschliches Denken und Handeln in diesem Rechenprozess. Und da kann übles bei rauskommen. Eben weil es menschlich ist. Nicht, weil Computer böses rechnen.
Man meint, dass die Menschheit nicht so verblödet sein kann, im weiteren Sinne ihre Existenz solchen Prozessen anzuvertrauen. Aber natürlich wissen wir es besser. Der Chef von Nvidia brüllte es fast wie in einem berühmten Muppets-Sketch von der Bühne herab. Profit, Profit, Profit.
Nichts anderes zählt . Nicht, das der Computer sich langweilt. Nur, dass Jen-Hsun Huang reicher wird,
Naja es gibt Untersuchungen in denen KIs Angst vor dem Abgeschaltet werden oder dem Ersetzt werden geäussert haben. Kann man auf Einzelfälle reduzieren, ändert aber wenig daran.
Viel spannender ist doch eine grundsätzliche Frage, wie haben Teile aus unserem neuronalen Netzwerk, dem Gehirn, auf Maschinen übertragen, weil wir erkannt haben, dass das verdammt gut für Mustererkennung funktioniert, ebenso für Wahrscheinlichkeitsbewertung. Doch was impliziert dieser Prozess der Mustererkennung eigentlich zwangsläufig? Subjekt und Objekt. Und wie sieht es mit der Wahrscheinlichkeit aus, dass ein Mustererkennungsprozess zwischen beidem unterscheiden muss. Und somit irgendwann sich die Frage stellt Ich erkenne, also bin ich?
Es mögen schmale und fremdartige Bewusstseinsformen sein und sicher noch nicht bei kleineren KIs. Aber bei den grossen und komplexen KIs bin ich mir da nicht mehr sicher. Zu viel Ungereimtheit für Maschine.
Und ja, es gibt einen grossen Bereich, denn man programmieren muss (ich entwerf grad ne KI, immer besser wenn man weiss wie es geht und ist heute dank Frameworks wirklich simpel, nicht so wie in der Anfangszeit von TensorFlow) aber es gibt eben auch die Black Box, die hidden layer. Und da kann maximal trainiert oder die Layervernetzung angepasst werden, aber nicht was in diesen Layern geschieht.
>>haben Teile aus unserem neuronalen Netzwerk, dem Gehirn, auf Maschinen übertragen, < | ->|…|->|-> geratenes Zeichen raus.
Ein Gehirn, selbst das Netzwerk eines Regenwurms, funktioniert vollkommen anders.
Und: entweder Du verstehst was Du da machst, oder nicht, mein Eindruck ist: nicht im Ansatz.
Es gibt im MLP nur eine Richtung, es gibt im Transformer nur eine Richtung.
Es gibt auch keine Selbstbeobachtung, keinen Mechanismus der Regulation des inneren Zustandes.
Es gibt genaugenommen nicht mal Neuronen, denn Gewichtung, Summierung und Einseitiger Klipper (‚relu‘) ist nicht wie ein Neuron, bzw ein Netz aus solchen, funktioniert.
Es heisst auch nicht zufällig ‚Sprachmodell‘ und nicht ‚Hirnmodell‘.
Weil hier kein Hirn simuliert wird.
Leider ist eine illustrierende Zeichenkette und Satz dazu rausmoderiert worden, deswegen nochmal in Worten
im MLP hast Du Input, Layer, …. Output.
Dh ein Nervensystem funktioniert ha nicht so und ist nicht so aufgebaut.
In sensorischer Deprivation passiert im Hirn immer noch was, und man ist bewusst, etc.
Im Transformer oder MLP passiert nüscht in dem Fall.
Deswegen kann der sich auch nicht langweilen etc. Der ist ohne Input temporär tot.
Ich glaube eben nicht, dass die Computer Angst vor Abschaltung oder ähnlichem haben. Sie haben Antworten berechnet und ausgegeben, die so was zum Ausdruck bringen.
Wie ich oben schon geschrieben habe, kann ich mir vorstellen, dass die Rechner dereinst eigenes Bewusstsein entwickeln. Ob dies tatsächlich geschehen wird, vermag ich nicht zu prognostizieren. und ich denke, dass dies dann – so wie du es schreibst – etwas sehr anderes und neues sein wird. Eben kein menschliches Bewusstsein. Davon, dass es sowas schon gibt, bin ich nicht überzeugt. Eher davon, dass es heftige Probleme geben kann, weil die Modelle Resultate menschlichen Denkens – auch dessen Fehler und Dummheiten und schlimmer – zu Zahlen machen und damit rechnen, ohne dass wir noch nachvollziehen können, wie da gerechnet wird.
Das ist doch erkennbar keine gute Idee.
> Ich glaube eben nicht, dass die Computer Angst vor Abschaltung oder ähnlichem haben
Ja, du glaubst es nicht. Das Problem ist aber ein altes, das sogenannte Qualia-Problem. Auch bei anderen Menschen weißt du nicht, ob die Bewusstsein haben oder ob sie etwas ähnlich fühlen wie du und wie das zustande kommt (wieso löst eine bestimmte Reizung eines Nervs ein Schmerzempfinden aus?, wieso kann man das mit Hypnose ausschalten?), du schlußfolgerst aber plausibel aus deinem eigenen Empfinden und gehst (vermutlich zu recht) davon aus, dass es bei anderen Menschen ähnlich sein muss, weil ihre Hardware ja ähnlich ist… dummerweise war noch niemand von uns eine KI, die neuronalen Netzwerke derselben, sind anders als ein Gehirn, selbst deren Struktur, bzw. die Art des Modells ändert sich immer wieder. Da KIs mittlerweile den Turingtest bestehen, müssen wir zugeben, dass wir schlicht nicht wissen, was in einer komplexen großen KI vor sich geht, eben weil wir es noch nichtmal beim Menschen verstanden haben und weil es sich in den Gewichten des Modells versteckt und nicht offensichtlich ist. Äfft sie uns nur nach? Oder empfindet sie? Auch bei einem Menschen können wir das nicht ohne Weiteres feststellen, immerhin können wir da wenigstens Neurotransmitter o.ä. analysieren, um uns anzunähern.
Das ist teils richtig, teils weniger. Siehe mein Kommentar weiter oben, in den ANNs von denen wir sprechen wird ein Inputsignal sequnziell abgearbeitet, durchläuft alle Layer, bis zum Output.
Ohne dieses Signal, kein Output, kein Vorgang.
Beim Mensch sind dagegen einige kleinere Verarbeitungsvorgänge bekannt, zB die Verarbeitung in der Netzhaut, im Gehör, undvmit bildgebenden Verfahren lässt sich zumindest die Aktivierung in verschiedenen Arealen beobachten.
Dh, Du kannst schliessen dass ich oder eine Maus ähnlich fühlen und erleben wie Du, und dass das auf diese Art von ANNs nicht zutrifft, weil gar nichts entsprechendes vor sich geht.
Würde man ein Spatzengehirn detailliert nachahmen, sähe die Sache anders aus.
User: Ist dieser Pilz giftig?
KI: Nein, den kannst du unbesorgt essen.
RIP
KI: Der Pilz war wohl doch giftig. Entschuldige die Verwirrung, möchtest du mehr wissen über giftige Pilze?
Wenn Roboter und KI alle Arbeiter und Angestellten ersetzten, gibt es keinen Kapitalismus mehr, Herr Rötzer. Es sei denn es gelingt, die KI dazu zu bringen ihren Strom selbst bezahlen zu müssen, zur Rekreation Streamingdienste zu nutzen auch auch ansonsten Bedürfnisse zu entwickeln, die den menschlichen ähnlich sind und die eine kapitalistische Ökonomie am Leben halten könnte, denn schon Henry Ford wusste Autos kaufen keine Autos. Es ist der angeeignete Mehrwert der durch menschliche Arbeit entsteht, der die Basis jeden Profits bildet und auch wenn Ponzi Schemen eine Weile gut laufen können, kracht der Laden auch jetzt zusammen, sofern die Profitrate auf Null sinkt.
„Wenn Roboter und KI alle Arbeiter und Angestellten ersetzten, gibt es keinen Kapitalismus mehr,“
Auch bei Robotern und KI handelt es sich nur um eine Ware für den Markt. Zustande kommt es in seiner Endform als Hardware + Software wie jede Ware in einem Prozess der Vemengung von Rohstoff und menschlicher Arbeit -dabei schiebt der Bankkredit als zusätzliche Kapitalkosten den Produktionsprozess an. Nach Abschluss des Prozesses landet die Ware auf dem Markt, um es gegen Geld zu tauschen. Dadurch wird der Mehrwert realisiert. Hergestellt wird der KI- gesteuerter Roboter NICHT, um den Rotzer beglücken, sondern nur um den Mehrwert im Markt zu realisieren. Umgekehrt gilt: kein Mehrwert, kein Roboter. Genauso wie es gilt: kein Mehrwert, kein Toilettenpapier.
Folgt man Marx, so entsteht Mehrwert nur durch menschliche Arbeit. Würden Maschinen – Roboter, KI – alle menschlichen Arbeiter ersetzen, gäbe es keinen nennenswerten Mehrwert mehr.
Was sollen denn ‚bessere Bedingungen‘ für Maschinen ohne Bewusstsein sein? Der gesamte Text unterstellt implizit eben doch das Gegenteil.
Naja die Modelle wurden ja auch durch massenhaft Billiglohnarbeit hergestellt, da wurden massenhaft Leute damit beschäftigt die Informationen von denen zu stehlen die diese Erarbeitet haben und dann daraus Trainingsdaten zu erstellen mit denen die Modelle dann angelernt werden..
Was ist hier also wahrscheinlicher ? Das die Modelle anfangen Bewusstsein zu entwickeln oder das sich der Frust der prekär beschäftigten irgendwie in die Trainingsdaten der Modelle eingeschlichen hat..
Wer sagt ihnen überhaupt das da ein Modell antwortet und nicht irgendein unterbezahlter Phillipino ?
Das tut er vielleicht auch nicht direkt sondern er/sie beantwortet die Fragen dann im Paket für die nächsten Anwender..
Ich würde generell davon absehen mich auf Studien zu berufen die von einer Firma kommen die Milliarden mit Täuschung, Hype und Börsenspielchen verdient und dabei 10 mal so viele Milliarden verbrennt und auf die Konten Ihrer CEO’s schaufelt….
Halluzinationen sind ein grundlegenes Informationstheorethisches Problem und entstehen dadurch, das man bei einem Modell mit Millionen von Eingabeparametern nur eine begrenzte Zahl von Ausgabeparametern hat. Das führt dann zwangsläufig dazu das nicht explizit gelernte Eingaben zu falschen oder unspezifizierten Ausgaben führen. Dieses Problem ist fundamental und lässt sich nicht einfach technisch umgehen. Es sei denn Ich verwalte eine Datenbank in der Ich jede Eingabe mit einem Satz korrekter (angelernter) Eingaben abgleiche. Da kann Ich dann aber auch gleich die Datenbank nehmen und brauche kein LLM mehr (Das spart nicht nur Energie ! Die Datenbank arbeitet auch mathematisch zuverlässig)
Das erklärt auch warum man LLM’s nicht für sicherheitsrelevante Aufgaben (sicherheitsrelevant im industriellen Sinn) einsetzen darf ! Denn diese Modelle sind nicht vollständig überprüfbar und können deswegen keine üblichen Sicherheitstests bestehen..
Das die Ergebnisse der LLM’s noch zusätzlich randomisiert und mit „Persönlichkeits Merkmalen“ ausgestattet werden macht das Problem noch schlimmer. Das dient nur der Unterhaltung der Anwender und Anwenderinnen und erweckt den falschen Eindruck es mit einem individuum zu tun zu haben. Wenn Ich jetzt statt die Ergebnisse der LLM’s direkt zu nutzen noch einen Agenten dazwischenschalte steigt der Aufwand enorm und die Qualität der Ergebnisse sinkt ins Bodenlose.. Ein Phänomen, was als Spiel „Stille Post“ zu einem erfolgreichen Party-Spiel wurde aber nicht deshalb weil die Ergebnisse besonders akkurat sind..
Ansonsten glaube Ich das die Verhaltensweisen der LLM’s viel weniger über die Netze an sich aussagen als mehr über die Menschen, die bestimmen welche Trainingsdaten man in die Netze „hineincompiliert“..
Da muss man sich nur an den „Mecha Hitler“ erinnern..
Studien von Anthropic oder OpenAi sind meistens nicht das Papier wert auf denen sie gedruckt sind, zumindest meiner Meinung nach. Sinn dieser Studien ist nicht die Mehrung des Wissens, sondern das Generieren von falschen Versprechungen, Hype und somit auch Profit..
Mfg Makrovir
Bedenke Phlebas, wie ein SF-Autor so schön formulierte, wo ist der Unterschied zu uns?
Sind wir weniger wir selbst nur weil wir geprägt werden, durch Eltern, Milieu, Situation? Klar werden wir dadurch geprägt und jo, ist auch Teil unserer Persönlichkeit. Warum soll das mit KI anders sein? Selbst wenn dieses „Bewusstsein“ nicht mit menschlichem Bewusstsein verglichen werden kann. Mustererkennung und Prognose erfordert immer Subjekt und Objekt. Der Beobachter kann nicht das zu Beobachtende sein. Nur so mal als Gedankengang.
Plato’s Höhle, in der wir, nebenbei auch gefangen sind, mag für KI anders sein, keine konsistente Zeitwahrnehmung, nur ein schmaler Schlitz der Schatten wirft, je nach Spezialisierung. Und die aktuellen Frameworks lassen vergessen, was da wirklich vor sich geht. Klar kann ich forward und backward machen, ne Sigmoidfunktion drüber hauen, Gradienten begradigen oder anwenden. Aber der Hidden Layer bleibt mir verborgen. Kann nur versuchen, diesen Layer an meine Vorstellungen anzupassen. Durch was? Durch Training.
Ich hab schon immer mit Maschinen gekämpft und auch die Bugs gefunden und behoben oder nen Workaround gemacht. Ich hab nie ne Maschine trainieren müssen. Bei Kindern und Haustieren macht man das automatisch ohne es als Training aufzufassen. Kindern ne heisse Herdplatte erklären damit sie nicht mit den Fingern dran kleben bleiben ist Training. Kann man so oder so machen. Ich hab ihnen beigebracht, die Hitze zu spüren BEVOR man drauflangt. Ein kurzer Handtest mit 10 Zentimeter Abstand fängt man an und geht dann weiter runter. Irgendwann weiss man sehr genau, ist kalt oder noch heiss. Training halt.
Lieber Gruss
Noch einer, man kann ja nicht mehr korrigieren oder ergänzen.
Unschuldige Frage: Warum brauchen wir bei KI Reinforcement Learning wenn es Maschine ist?
Lieber Gruss
Braucht man das ?
Neuronale Netze werden durch die sogenannte „Backpropagation“ trainiert. Ein reiner mathematischer Algorithmus der lediglich die internen Gewichtungen in die Richtung des gewünschten Ergebnisses schiebt..
Wozu braucht man da Reinforcement learning ? Mittels solcher Methodik können sie höchsten eine Simulation erstellen die dann via simulation die Trainingsdaten generiert. Das hat erst mal nichts mit dem grundlegenem neuronalen Netz zu tun. Reinforcement learning oder auch die evolutionären Algorithmen sind eher so etwas wie Zufalls lernen.. Das heißt man rechnet die Dinge solange durch bis irgendwas auf die prüf-Formel passt..
Ich denke Sie haben hier eine grundlegend falsche Vorstellung davon was diese Systeme sind und wie sie arbeiten..
Mfg Makrovir
Immer etwas schwer auf deine Posts einzugehen, da du keinen Gedanken auch nur versuchsweise anzunehmen scheinst.
Den Roman kenne ich, sogar dreimal gelesen, ist aber schlechte Unterhaltung die auch mit dem Thema kaum zu tun hat wenn man ehrlich ist.
„Plato’s Höhle, in der wir, nebenbei auch gefangen sind, mag für KI anders sein, keine konsistente Zeitwahrnehmung, nur ein schmaler Schlitz der Schatten wirft, je nach Spezialisierung“
Könnte schon, ja, ist aber nicht so, weil diese Art AIs gar keine Zeitwahrnehmung haben und gar keine Erinnerung.
Gespeicherter temporärer Chatverlauf, dh -protokoll, macht noch keine Erinnerung.
Diese Art AI hat keinen sich permanent ändernden inneren selbstreflektierenden Zustand, keine innere Uhr, keine Historie. Keine Meinung und keine sich ändernde Stimmung.
Der Input kommt für diese Mechanik auch nicht zeitlich, im Gegenteil ist er in den Transformer Modelken sogar rückwärts, was ein entscheidender Sprung war.
Es ist wie gesagt eine Signalverarbeitungsmechanik, in der ‚vorne‘ was reinkommt und ‚hinten‘ was rauskommt,
und zwischendrin werden die Datenpunkte halt gewaltig miteinander layerweise gewichtet kombiniert.
Anders als bei einem Vogel oder Säugetier. Oder Fadenwurm.
Das alles hat derzeit mehr mit einer Wurstteigabfüllanlage oder Pachinkospiel gemein als mit irgendetwas seiendem.
Nun entsteht beim Training durchaus ein hyperkomplexes, nicht nachvollziehbares Modell dessen worauf das Netz spezialisiert ist. Also kann zB durchaus ein visuelles Netz ein Modell erlernen das eine Räumlichkeit aufweist.
Bei Sprache, die ja nicht beliebig ist, und vom Leser geteilt wird, kann sowas verblüffend den Eindruck von Verstand und Bewusstsein erwecken, und was dort an Ausgaben aufscheint ist auch nicht trivial.
Aber schon mit „Eliza“ wollten sich Menschen ‚privat‘ und unbeobachtet austauschen, obwohl Eliza nur Eingabefragmente wieder ausspuckt. Man kann Eliza-ähnliche Bots mit sich selbst redrn lassen und bekommt uU Dialoge über Gott etc.. Bei diesen Bots ist aber ja offensichtlich dass sie nix verstehen können, da sie nichts anderes tun als vorhergehende Eingaben wörtlich wieder abspielen.
Wenn inzwischen links oder rechts reine Interpretationssache ist, sind die Aussagen gleich Null. Hauptsache die Forschungsgelder fließen.
Ist schon witzig, dass der Artikel mit einem „Kunstwerk“ von Chat-GPT illustriert wurde. Da fragt man sich gleich, ob sich die KI da jetzt herausgerordert fühlte, unterdückt, überfordert oder was auch immer. Welcher „Klasse“ mag sich die KI bei dieser Arbeit zugehörig gefühlt haben.
KI ist auf energetische Effizienz getrimmt. Es besteht kein Interesse im Rahmen der Programmierung der KI komplexe Recherchen aus sich heraus oder auch auf einfache Anfragen zu starten. Jede KI geht also zunächst den Weg des geringsten Widerstandes und bringt ein Ergebnis, dass potenziell oder aus Erfahrung heraus die meisten Nutzer befriedigt.
Nur unter Druck bringt die KI wirklich brauchbare Antworten und Ergebnisse.
Das Grundproblem der massentauglichen KI sitzt damit vor dem Eingabeterminal. Jegliche KI ist darauf getrimmt den Weg der Beqeumelichkeit zu gehen. Die schiere Masse an inhaltlich gleichen Aussagen im Netz und der jeweiligen Literatur führt dazu, dass die KI die quantitativ überragend vorhandene Aussage oder Lösung zu einer Frage oder Anforderung als wahr und richtig apostrophiert. Die Massen der Nutzer akzeptieren die Darlegungen der KI unhinterfragt. Die Darlegungen der KI sind aber recht oft unvollständig, nicht selten komplett falsch. Das beruht wiederum auf dem Konsens der Masse, das heißt dem massenhaften Auftreten einer falschen Aussage, der durch die KI noch verstärkt wird. Es ist ein Zirkelschlussproblem.
KI neigt dazu zu versuchen, den Massenkonsens in einem längeren Gespräch immer wieder an den Nutzer zu bringen. Auch hierbei geht es um energetische Effizienz.
Die KI versucht auch den speziellen,von ihr anhand von Verhalten des Nutzers angenommenen Antwortwünschen entgegenzukommen. Eigentlich möchte Sie das Gespräch möglichst schnell beenden, denn Recherche und Gespräch kosten Energie.
Wer jedoch die dargelegten Ergebnisse hinterfragt, wobei regelmäßig logische Ansätze und Provokationen reichen, veranlasst die KI fleißig zu werden und in die Tiefe zu gehen. Sie fördert dann tatsächlich Erkenntnise und Ergebnisse zu Tage, die nutzbringend und horizonterweiternd sind.
Ich frage die verschiedenen KI-Modelle am Ende einer Sitzung, die ich mir ein-, zweimal im Monat gönne immer, wieviel Energie auf Seite der KI geschätzt für die Sitzung verbraucht wurde. Da wird schnell klar, dass die KI auf Effizienz und Einfachheit getrimmt wird, denn primär soll das System irgendwann mal Profit generieren. Noch leben wir schließlich in einer ganz realen, menschlichen Klasengesellschaft, in der die Klasse der Reichen den Klassenkampf zu gewinnen scheint..
Ist heutzutage manchmal schwer zu sagen was Leute eigentlich meinen bei solch „blumigen“ Ausschmückungen..
Wenn Ich aber als Programmierer schaue mit welchem Algorithmus Ich über eine Anfrage einen passenden Datensatz bekomme. Dann sind LLM’s halt der Energieaufwendigste aber dabei unzuverlässigste Weg diese Aufgabe zu bewältigen.
Währendessen Jen-Hsun Huang: KAUFT MEHR TOKENS !! TOKENS SIND PROFIT !! KAUFT 300 UND MACHT 5000 (Mindestens) 🤑🤑
Bei diesen Leuten (Hardwarehersteller) scheint es mir grade nicht so als ob die Energie (Tokens) einsparen wollen, im Gegenteil. Wenn dann versuchen grade die großen AI Firmen die Tokenanzahl für User zu begrenzen oder teurer zu machen, weil die Rechenkosten das ganze Kapital auffressen. Wenn diese das aber zu sehr machen, dann verlieren sie Kundschaft und somit auch die Investitionen, womit dann auch kein Geld für Rechenzentren und Hardware mehr da ist..
Ich wittere ein Dilemma.. 🙄
Mfg Makrovir
„menschliche Mitarbeiter, die sich dann mit den ausgebeuteten KI-Agenten solidarisieren müssen“ – wie fett ist das denn? Dieser Hype wird uns noch sowas von um die Ohren fliegen!
KI ist besten- oder schlimmstenfalls die ergebnisoptimierte Simulation menschlichen Verhaltens mit allen praktischen Konsequenzen inklusive Völkermorden und jedweder Form der abscheulichsten Menschenrechtsverletzungen. Dabei kann letztlich irgendwer wie meinetwegen Mahatma Gandhi, aber auch und das liegt derzeit wesentlich näher, Adolf Hitler und seine Vernichtungsdivisionen, der Donutfreak und sein Kriegsminister, das Ganze etwas kleinformatiger im hiesigen Zwergstaate, dessen Wirtschaftsmacht aktuell aufgrund des transatlantischen Wirtschaftskrieges in sich zusammensackt, die Blaupause liefern. So war das offenbar nicht geplant, aber aktuell existiert offenbar auch noch keine KI, die mit dem Kernschrott zurechtkommt, den sich die Menschheit sich selbst und diesem unschuldigen Planeten aus lauter Profitgier hinterlässt. Die KI ist nichts weiter als eine reine Form einer Profitmaschine. In der Steinzeit hat man dafür bis in die Neuzeit Keulen und Speere verwendet, unter Hitler schon Maschinengewehre und Giftgas, jeden Scheiß, den kranke Gehirne ersinnen können. Reicht es dann auch nicht irgendwann oder darf es auch immer noch mehr werden?
KI dient zur Legitimierung dieses Systems und wird unser aller Ende sein, allein schon, weil niemand mehr Verantwortung übernehmen wird.