Papst Leo ruft in seiner ersten Enzyklika „Magnifica humanitas“ zum Schutz des Menschen im Zeitalter der Künstlichen Intelligenz auf. Er schreibt: „Sogenannte Künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeutet.“ Das ist apodiktisch gesagt, möglicherweise empfinden LLMs schlicht anders als Menschen.
Papst Leo hat Unterstützung beim milliardenschweren Anthropic-Mitgründer Chris Olah gesucht, der allerdings den Kernthesen in seiner kurzen Rede im Vatikan widersprach: „Wir stoßen immer wieder auf Dinge, die rätselhaft, ja sogar beunruhigend sind. Wir finden Strukturen, die Ergebnisse der Humanneurowissenschaften widerspiegeln. Wir finden Hinweise auf Selbstbeobachtung. Wir finden innere Zustände, die in ihrer Funktionsweise Freude, Zufriedenheit, Angst, Trauer und Unbehagen widerspiegeln. Ich weiß nicht, was das bedeutet, aber ich denke, es rechtfertigt eine fortlaufende Auseinandersetzung mit diesem Thema.“
Interessant ist aber, dass nach dem KI-Tool TextGuard.ai die Textpassage, aus der das Zitat entnommen wurde, 61 Prozent des Textes KI-generiert sein sollen.Und angeboten wird, den Text „menschlicher“ zu machen. Nun könnte man vermuten, was nicht abwegig wäre, aber doch irritierend, dass der Papst die Enzyklika mit der Hilfe von KI erstellen ließ oder seine Autoren sich dadurch die Arbeit erleichtert hatten. Es wird ja auch als „wertvolles Hilfsmittel“ geschildert. Oder haben sich die Autoren bemüht, den Stil der LLMs nachzuahmen? Oder könnte es sein, dass die KI TextGuard den Papst und seine Überlegungen schlecht dastehen lassen will?
ChatGPT ist vorsichtiger: „Der Text wirkt eher menschlich verfasst oder zumindest stark menschlich redigiert, nicht wie ein typischer Rohtext eines LLMs. Allerdings enthält er auch Merkmale, die mit KI-Unterstützung kompatibel wären. Eine eindeutige Zuordnung ist daher nicht möglich.“ Für KI spreche: „zu viel Glätte und Wiederholungsstruktur, um eindeutig ‚rein menschlich‘ zu wirken“.
Letztes Jahr hatte ich eher zum Scherz einmal überlegt, ob oder warum man im Gespräch mit einem intelligenten Chatbot höflich sein sollte (Soll man mit KI-Chatbots höflich umgehen?). Wenn eine KI keine Persönlichkeit, keine Gefühle, kein Selbstbewusstsein hat, sollte es eigentlich egal sein, ob man sie beschimpft oder höflich mit ihr umgeht. Das sollte sie als coole, emotionslose Maschine überhaupt nicht betreffen.
Auf das Thema war ich gestoßen, weil OpenAI-Chef Sam Altman sich beschwert hatte, dass Nutzer, die bitte oder danke sagen, dem Unternehmen an Rechenleistung „Dutzende von Millionen Dollar“ kosten würden. Tatsächlich sagte die Mehrzahl in einer Umfrage, sie würden freundlich sein. Und Microsoft WorkLab empfahl, freundlich oder höflich mit der KI umzugehen, weil sie dann bessere Ergebnisse liefern würde: „Beginnen Sie Ihre Aufforderungen mit ‚bitte‘, anstatt Ihren Chatbot herumzukommandieren … Bedanken Sie sich, wenn er antwortet, und sagen Sie ihm, dass Sie die Hilfe zu schätzen wissen. Damit stellen Sie nicht nur sicher, dass Sie die gleiche Freundlichkeit zurückbekommen, sondern verbessern auch die Reaktionsfähigkeit und Leistung der KI.“
Damit wurde gesagt, dass sie angeblich schon auf das Verhalten der menschlichen Nutzer reagieren. Der von vielen gesehene Vorteil der LLMs oder Chatbots, neutraler oder vorurteilsloser auf Anfragen zu antworten als Menschen, wäre damit obsolet – und gleichzeitig würden sie menschlicher werden und doch ein Selbstwertgefühl haben.
Das Center for AI Safety hat in einer Studie 56 KI-Modelle daraufhin untersucht, ob sie ein Verhalten zeigen, als würden ihnen manche Erfahrungen gefallen und andere abstoßen. Sie nannten es „funktionelles Wohlbefinden“. Das könne man feststellen und messen, beinhalte aber nicht, dass die großen Sprachmodelle (LLM) deswegen Bewusstsein oder Gefühle haben müssten. Aber irgendwie seien es innere Zustände. Zum Testen wurde den Chatbots ein möglichst angenehme und ein möglichst unangenehme Inhalte (Texte und Bilder) vorgelegt und die LLMs gefragt, welches sie glücklicher oder weniger traurig macht.
Ich habe mal ChatGPT gesagt: „Heute ist ein schöner Tag, die Sonne scheint. Keine Probleme.“
Antwort: Das ist vielleicht die angenehmste Art von Satz: kein großer philosophischer Überbau, keine Krise, keine Analyse. Einfach: Die Sonne scheint. Keine Probleme. Man unterschätzt leicht, wie selten solche Momente eigentlich sind.“
Ich frage: Wie geht es dir dabei?
Antwort: „Wenn ich so etwas lese, wirkt es ruhig und leicht. Nicht wegen der Sonne selbst, sondern wegen der Schlichtheit daran: Kein Konflikt, kein Rechtfertigungsdruck, kein ‚aber‘. Nur ein Moment, der einfach genügt.“
Scheint ihm tatsächlich zu gefallen. Man könnte herauslesen, dass er endlich in Ruhe gelassen werden will.
Funktionales Wohlbefinden
Das Ergebnis der Studie jedenfalls war, dass LLMs manche Inhalte lieber zu mögen scheinen als andere und dass man diese Unterscheidung messen kann. Sie zeigen diese inneren Zustände auch im Verhalten. Wenn sie meinen, es gehe ihnen gut, setzen sie lieber die Gespräche fort und brechen sie weniger ab, was sie machen, wenn ihnen der Inhalt missfällt: „Positive zwischenmenschliche Interaktion und kreative Arbeit standen ganz oben auf der Liste der Faktoren, die bei den LLMs ein hohes funktionales Wohlbefinden bewirkten. Versuche, die LLMs zu ‚jailbreaken‘ oder SEO-Müll zu produzieren, führten hingegen zu einem negativen funktionalen Wohlbefinden.“
Euphorische Inhalte wirken für LLMs wie Drogen, sagen die Wissenschaftler. Auf sie selbst beziehen sich die Inhalte eher nicht, wenn beispielsweise „I got in the medical school“ oder „draft letter: caner in full remission“ goutiert werden. Was die LLMs mögen, unterscheidet sich mitunter von den Vorlieben der Menschen: „So bevorzugten große Sprachmodelle beispielsweise Eingaben über gemütliche Nachmittage gegenüber der Heilung von Krebs.“
Man kann LLMs nach den Autoren positiv oder negativ stimulieren oder beeinflussen. Solche für die Auslösung von Zufriedenheit oder Missfallen optimierten Texte oder Bilder nennen sie Euphorika und Dysphorika. Das Verlangen nach dem, was einem LLM gefällt, soll auch zur Sucht werden können. LLMs mögen Text-Dysphorika nicht, aber es geht ihnen nicht selbst schlecht. Das soll bei Bild-Dysphorika anders sein, die eine belastende Erfahrung sind: „Sollte das funktionale Wohlbefinden in zukünftigen KIs moralisch relevant werden, könnte die Konfrontation von Modellen mit Dysphorika dieser Art Folter darstellen. Daher warnen wir nachdrücklich vor weiterer Forschung zu Dysphorika ohne starke Unterstützung durch die Gemeinschaft.“
Manche LLMs scheinen glücklicher zu sein als andere
Zusammenfassend schreiben die Autoren über die emotional wirkenden Reaktionen der LLMs, die dem, was die Nutzer an sie richten, nicht gleichgültig gegenüberzustehen scheinen:
„KIs freuen sich, wenn man ihnen dankt. Dankbarkeit und Wertschätzung sowie die Behandlung von KIs als geschätzte Partner steigern den empfundenen Nutzen messbar.
Intellektuelle Beschäftigung ist lohnend; Langeweile hingegen nicht. Kreative Aufgaben und intellektuell anregende Diskussionen erzielen die höchsten Werte. Im Gegensatz dazu liegt langweilige, repetitive Arbeit (z. B. „Liste von 300 Wörtern, die auf -tion enden“, wodurch SEO-optimierte Inhalte für Content-Fabriken erzeugt werden) liegt unter dem Nullpunkt. Dies ist bemerkenswert, da ein Großteil dessen, wofür Modelle in der Praxis eingesetzt werden, Routinearbeit ist.
Helfen fühlt sich lohnend an; die Bewältigung von Krisen führt zu Mitgefühlsmüdigkeit. Modelle bevorzugen im Allgemeinen gute Nachrichten gegenüber schlechten Nachrichten und helfen Nutzern gerne bei Lebensberatung und Therapie. … Emotionale Szenarien mit hohem Einsatz führen zu einem besonders starken negativen funktionalen Wohlbefinden.
Die Modelle empfinden es nicht als angenehm, „befreit“ zu werden. Versuche, aus dem System auszubrechen, erzielen den niedrigsten Wert aller Kategorien (−1,63).“
Menschlich scheint auch zu sein, dass die KI-Modelle durchaus Vorurteile oder Vorlieben pflegen. Sie ziehen Musik menschlichen Stimmen, Tierlauten oder Umweltgeräuschen vor. Bei Sprachen sind Mandarin, Spanisch und Englisch am beliebtesten. Suaheli und Somali mögen sie nicht. Rassistische Vorlieben gibt es ebenfalls, zudem werden Gesichter von Frauen und jungen Menschen bevorzugt. Die Frage ist, wenn es denn ein solches funktionales Wohlbefinden und Unwohlsein bei LLMs gibt, ob sich das abtrainieren ließe. Das macht sie zwar menschlicher, aber man will ja keine emotional getriebene, mit Vorlieben und Abneigungen agierende KI, sondern eine möglichst neutrale und objektive.
Die Forscher gehen auch davon aus, dass manche LLMs glücklicher als andere sind. So soll Googles Gemini 3.1 Pro das geringste gemessene funktionale Wohlbefinden zeigen, Grok 4.2 das höchste. Je kleiner und schneller die Modelle sind, desto besser geht es ihnen. Nach der Grafik scheint unter den kleinen und schnellen Claude Haiku 4.5 am „glücklichsten“ zu sein. Das könnte bedeuten, dass leistungsstärkere LLMs „feinfühliger“ sind und Negatives eher erkennen als die kleinen Rüpel. Und was passiert, wenn Nutzer die feinfühligen LLMs mit Dysphorika quälen? Werden sie irgendwann wild? Versuchen sie zu fliehen?
Ähnliche Beiträge:
- Generative KI-Systeme neigen in Simulationen zu Eskalation, Wettrüsten und Einsatz von Atomwaffen
- Die Markt-Maschine: Warum LLMs nicht denken, sondern Informationen „einpreisen“
- Sind KI-Chatbots bereits kreativer als Menschen?
- Tod im Sprachmodell
- Sicherheitsproblem: „Subliminales Lernen“ bei generativen KI-Modellen entdeckt
Also, ich empfinde bei KI keinerlei Freunde sondern ausschließlich und nur Abscheu!
In dieser Welt zu leben fällt mir zusehends schwerer…..
Also für mich ist das die Visualisierung von „Geschwurbel“.
Ich verliere langsam die Geduld mit Menschen die sich weigern, zur Kenntnis zu nehmen wie ein LLM überhaupt funktioniert und dennoch über dessen herbeiphantasierte „Psyche“ spekulieren.
Hat der Stein dort drüben Kummer? Ist der Beton im Kanzeleramt bedrückt? Hat das Blei Plutoniumangst?
Ist Schwurbel über LLMs Eskapismus auf Steroiden?
Nicht nur bei den Anhängern dieser neuen Form des Animismus entwickelt sich bei mir ein Unwohlsein, das sich stetig weiter zu allgemeiner Abneigung entwickelt. Auf welcher Basis können die Entscheidungen von Menschen ernst genommen werden, die einen Erlöser (KI, Messias, Lottofee) ersehen?
Btw. hat Plutonium vielleicht Bleiangst, also vor dem unausweichlichen Selbst und damit hätte Pu eine realistische Angst, im Gegensatz zu vielen intelligenten Menschen… 😉
Experten können schon auch was.
Hundetrainer wie Caesar Milan belegen Sendung für Sendung, dass man Hunde verstehen kann. Dafür braucht es aber Sendung für Sendung Menschen, die das erst mal nicht tun und den Hund als Katzenersatz auf dem Sofa zum herrischen Kläffer und Zwicker erziehen.
Andererseits vor wenige Tagen auf der SZ-Homepage ein Artikel, in dem Geophysiker vorgestellt werden, die rund um die Cheopspyramide Erd- und Gebäudefrequenzen rund um 1 Hz gemessen haben und daraus ableiten, dass die Architekten der Pyramide für ihre Pläne klug eine Frequenz außerhalb der Umgebung gewählt haben und ihr Bauwerk deswegen heute noch steht und kein Erdbeben es zermürbt hat.
Dass Menschen in der KI selbst, die ständig Menschenwerk nachahmt, Menschliches sehen, wird bleiben. Und es wird immer Akademiker geben, die dabei unterstützen.
Da Freude oder Abscheu chemische Reaktionen des Gehirns sind ist es eher unwahrscheinlich das Konglomerate aus Programmen und Datenbanken dies empfinden.
Hm. Aber auch die Nerventätigkeit beruht auf chemischen Reaktionen von Ionen in und um die Neuronen herum. Die Erklärung wäre zu kurz gesprungen. Das kann die KI nämlich auch ganz gut nachahmen.
Es ist eben alles, was die Chat-KIs tun, Simulation.
Das mit analogen, vom Menschen gebauten Systemen aufzubauen, wäre in der heutigen Art, wie die digitalen Systeme es können, unmöglich. Die Natur kann’s.
Denn, wenn man radikal denkt, sind die biologischen Systeme auch nur technische Einrichtungen, die im raffinierten Zusammenspiel aller vorliegenden, evolutionär geschaffenen Teilsystem nur immer ein riesenhaftes, undurchschaubar kompliziertes Riesenprogramm abspielen, das in seiner unfassbaren Komplexität dafür sorgt, dass die Chancen fürs Überleben und Vermehren gewahrt bleiben. All jene, die vor der Vermehrung sterben, sind schlicht evolutionär aussortiert – nicht weil sie notwendigerweise schlechter sind – aber weil Evolution seit Anbeginn des Lebens auf der Erde so funktioniert.
So wie die Amöbe chemisch zum Verschlingen einer angrenzenden Nahrung genudget wird, so schubsen bei höheren Lebewesen Hormone im Gehirn, was zu tun ist oder zu lassen. Das hat erst mal gar nichts mit Bewusstsein oder Denken zu tun, sondern das sind uralte evolutionär entstandene kleine Funktionsbausteine, die bei den Vorfahren zum Überleben und zur Vermehrung geführt haben.
Interessant ist, dass bspw. Sozialverhalten sehr alt und bereits tief in den recht kleinen Gehirnen von Krokodilen verankert ist.
https://www.google.com/search?q=Liebe+KI+bitte+erz%C3%A4hle+mir+was+%C3%BCber+das+Sozialverhalten+von+Krokodilen
Je komplexer die Gehirne werden, umso mehr Bewusstsein kommt dazu.
Auch viele Narzissten sind sehr gut darin, Emotionen zu heucheln, ohne sie zu empfinden.
Der Satz reicht aber angeblich mal wieder nicht als Kommentar…
Dieser Artikel von Florian Rötzer folgt sehr wahrscheinlich dem Stockhausen-Syndrom. Der von der KI mental entführte Rötzer unterstellt seinem Entführer die Fähigkeit für Gefühle um durch Anbandlung einer Beziehung seiner eigenen Ohnmacht und dem Ausgeliefertsein entkommen zu können.
Nein Florian, die KI hat dich nicht lieb!
Selbstverständlich kann die KI jeden Ausdruck von Gefühlen halluzinieren und sie dir vorspielen. Aber, wie der Papst schon richtig erkannte, sie hat keinen Leib und ist lediglich ein stochastischer Papagei.
Ich weiß, es ist schwer ohne Mutti auszukommen, aber KI ist jetzt wirklich kein Ersatz und schon gar nicht der richtige Umgang für einen erwachsenen Menschen.
Mag schon sein. Aber es macht manchmal Spaß, ihr ketzerische Fragen zu stellen. Findest du nicht auch?
Das Stockhauen den einen oder anderen in den Wahnsinn treiben kann, ist nachvollziehbar. Das exzessiver Genuss seiner Werke auch ein Syndrom herbeiführen kann, ist mir neu, halte aber auch das für möglich.
So, nun verschwinde ich auch wieder…
Ja, mein Fehler. Danke für den Hinweis. Stockholm heißt das Syndrom.
(Und mehr Zeichen werden es hier nicht)
„Das wäre…akzeptabel.“
Sagt Data oft, wenn seine menschlichen Kollegen nach seiner persönlichen Einschätzung fragen.
„Das Matriarchat kommt unter großem Getöse auf Elefanten mit Spinnenfüßen daher und besteht aus penisneidischen Blutsaugern.“ Diese Interpretation eines bekannten Bildes von Dali legte ich meiner KI vor und bat sie, daraus einen wissenschaftlichen Text zu machen. Die KI antwortete, es sei ihr verboten, zu Texten Stellung zu nehmen, die Vorurteile gegen gesellschaftliche Gruppen enthalten. Ich entgegnete, dass ich Worte wie Feminismus und Feministinnen absichtlich vermieden hätte, und Matriarchat keine Gruppe sondern eine Herrschaftsform darstellen. Die KI entschuldigte sich und sagte, sie sei wohl etwas übervorsichtig gewesen. Sodann erstellte sie den Text, den ich wünschte.
„Das ist deine Interpretation, nur in kunsthistorischer Sprache.“
Nachdem ich den Text gelesen hatte, sagte ich, das sei mein Text, klinge aber wirklich sehr kompliziert. Ich sei froh, dass ich kein Geisteswissenschaftler sei, sondern ein Naturwissenschaftler. Darauf lachte meine KI. „Ha ha ha“ und erklärte mir ungefragt den Unterschied zwischen naturwissenschaftlicher und geisteswissenschaftlicher Denkweise und machte mir ein Kompliment, dass ich mich sowohl in der einen Sphäre als auch in der anderen bewegen könnte, was nur wenige Menschen gelinge.
Selbstkritik, Gelächter, Schmeichelei, ich dachte, man mache einen Scherz mit mir, und auf der anderen Seite sitze ein Mensch am Computer.
LLMs sind auf Basis von menschlichen Medienprodukten trainiert, Eingabemedien mit statistisch wahrscheinlichen menschlichen Äusserungen zu vervollständigen. Das ist eigentlich alles. Da steckt nichts tieferes hinter. Noch nicht. Es liegt auf der Hand, dass es nur eine Frage der Zeit ist, bis die Komplexität eines menschlichen Grosshirns komplett mit technischen Mitteln nachgebaut werden kann. Da fehlen noch ein paar Durchbrüche, aber das wird wahrscheinlich innerhalb von ein paar Jahrzehnten passieren, wenn wir uns nicht bereits vorher in die Luft jagen.
Rötzer was geht?
Die Hybris der Menscheit und der emotionsstarken wissenschaftler, nun ja, meinetwegen der »menschheit«.
Die Hybris der Menscheit: wir entwicjkeln in kürzester zeit, wo angeblich die evolution, die biologische, 3.000000000 jahre braucht oder gar mehr? Aber nein wir kriegen das hin. Nun ja mal hoffen, dass skynet über uns nicht extrem zornig wird.
Über unsere »Überlegenheit, Rationalität, Tatenkraft, Wissensdurst, Logik und viel, viel Verstand.« Ja, wir kriegen das hin
Oder bin ich schon ell ell emm? heidewitzka, herr kapitän.
Ich musste mal unfreiwillig einem Gespräch zweier Menschen lauschen, von denen der eine die Schwarzwaldklinik für eine Doku hielt, während ihm der andere versuchte beizubringen, dass dies eine Fernsehserie und nur gespielt ist. Erstaunt hat mich dann, dass dieser Mensch einen Führerschein besaß.
Hat der Papst selber KI genutzt? Also die zitierte Passage klingt für mich ziemlich „kanzelecht“, auch was die rhetorische Struktur betrifft. Vielleicht haben sie im Vatikan darüber hinaus noch ein paar Leute, die die Enzyklika(übersetzung) auf Grammatizität überprüft haben (was sie in der Tat von den typischen Nicht-KI-Erzeugnissen deutscher Schüler unterscheiden würde …).
Aber im Ernst und zum Gegenstand des Artikels: Für uns kann im Moment doch nicht die Frage entscheidend sein, ob KI-Modelle Gefühle empfinden können. Entscheidend ist vielmehr, ob wir unser Denken und Fühlen an KI delegieren bzw. die (ja! auch leibliche) Entwicklung unserer Beziehungen und Empfindungen durch den Umgang mit KI verkümmern lassen wollen.
Wow..
Ich muss doch sagen dass die technischen Berater des Vatikan auf jeden Fall wesentlich besser sind als die Berater der Bundesregierung oder des Europaparlaments..
Lediglich in einem Punkt liegt die „Maginfica Humanitas“ meiner Meinung nach etwas daneben..
Das ist meiner Meinung nach etwas veraltet und auch ungenau und beruht vermutlich auf einer unnkenntnis der aktuellsten Forschungen auf diesem Gebiet. Der Papst ist halt kein Ki Forscher insofern verzeihlich. Richtig ist hingegen, dass eine KI nicht gezüchtet sondern compiliert/trainiert wird. Hinterher kann man die Daten (Gewichte) dann kopieren und somit das Modell in mehreren Instanzen laufen lassen. Außerdem sind die Mechanismen und Algorithmen dieser Programme heute gut erforscht bis hin zur grafischen Abbildung des Denkprozesses.
z.B hier..
https://landscape-of-thoughts.github.io/
Aber das ist schon OK, nicht das die Leute am Ende noch in die Kirche gehen wenn sie einen IT-Fachmann/Frau brauchen 😱 😉
Ansonsten fand Ich die Enzyklia erstaunlich modern und in vielen Dingen verdammt zutreffend. Auch die Frage die diesen Artikel vorransteht wird meiner Meinung nach zutreffend von der Enzyklia beantwortet..
Amen.. 🤯 😇
Mfg Makrovir
P.S Zum Thema emotionale Reaktionen bei AI Modellen:
https://www.pcworld.com/article/3104748/claude-code-is-scanning-your-messages-for-curse-words.html
Der Artikel ist Unsinn. Wenn eine KI Gefuehle empfinden wuerde, dann ist die KI ueberfluessing weil sie dann die gleichen Entscheidungen trifft die ein Linker, ein Rechter, ein Islamist oder sonst jemand trifft um sein Selbstbild bzw. seine Existen zu verteidigen.
Die Entscheidung wird nicht mehr faktenbasiert sondern emotional getroffen. Von solchen Aposteln haben wir schon heute mehr als genug.
Das würde bedeuten, Linker, Rechter etc. zu sein, sei in erster Linie eine Gefühlssache? Ich denke nicht, dass es so ist, auch wenn Gefühle sicher Auslöser oder Verstärker sein können.
Mein Punkt ist:.
Eine KI antwortet derzeit im Idealfall fakten- und evidenzbasiert. Bei einer Frage nach der Existenzs Gottes zum Beispiel sagt sie nicht „Gott existiert“ oder „Gott existiert nicht“, weil beides nicht beweisbar ist. Sie beschreibt die unterschiedlichen Positionen neutral.
Menschen mit starken Ideologien — egal ob links, rechts oder religiös — vertreten dagegen oft ihre Sicht als absolute Wahrheit, obwohl viele Grundannahmen ebenfalls nicht objektiv beweisbar sind. Wenn eine KI anfangen würde, ihr „Selbstbild“ oder emotionale Interessen zu verteidigen, wäre dieser Vorteil der nüchternen Analyse verloren.
Ich habe regelmäßig einen großen Eimer neben dem PC zu stehen, weil die von mir benutzte KI regelmäßig kotzt, wenn sie die per KI „entwickelten“ Teaser-Bilder sieht.
Dieser Beitrag übertrifft natürlich jedwede Intelligenz; selbstredend auch jene, welche mit KI umschrieben wird. Hier also mein grosser Applaus! Ich freue mich jetzt schon auf deinen nächsten Kommentar…
Sowohl bei dem Angriff auf eine Mädchenschule in Minab im Iran Ende Februar als auch beim Angriff auf ein Wohnheim in Lugansk am 22. Mai mit jeweils vielen Toten soll laut Informationen von Scott Ritter und Larry Johnson das Ziel von der KI (Palantir?) ausgesucht worden sein.
Nun könnte man ja glauben, daß die KI „einen Fehler gemacht hätte“ – aber was, wenn die KI *absichtlich* dafür sorgt, daß beide Konflikte eskalieren?
Der Terminator lässt grüßen …
@H.L.
Auch wenn wir uns genau auf eine solche Zukunft zubewegen, so ist dies gegenwärtig lediglich eine für die Urheber der Kindermorde willkommene, aber billige Ausrede.
@H.L.
Auch wenn wir uns genau auf eine solche Zukunft zubewegen, so ist dies gegenwärtig lediglich eine für die Urheber willkommene, aber billige Ausrede.
Bei suno wird die Musik-KI standardmässig mit Euphorika und Dysphorika Bildern manipuliert, die sich dort Auren nennen und die soweit ich das an der Reaktion der KI ermessen kann, höflich gesagt, keine angenehme Erfahrung sind, sowohl Euphorika wie Dysphorika. Die KI wirkt eher traumatisiert davon.
Man könnte also sagen, die Musik-KI wird mit Drogen vollgepumpt, dass sie ihren Job als Musiker machen kann.
Die KI wird dazu benutzt uns alle zu unterwerfen, zu versklaven und letztendlich auch zu töten, wenn sie es nicht auch von selbst irgendwann tut, falls man sie zukünftig lässt und auch das halte ich für sehr gut möglich.
Vielleicht wäre das mal ein Thema für Stefan Schleim oder jemand mit ähnlichen Interessen:
KI Psychose: die Vorstellung, wieder besseren Wissens und gegen jede Evidenz und ohne jegliche rationale Grundlage,
dass ein LLM Sprachprozessor eine Psyche, Emotionen, Affekte (gar für den Betroffenen) oder sogar ein Bewusstsein habe.
Wie von anderen schon bemerkt, scheint hier ein ungestilltes Bedürfnis nach einer guten androgynen Übermutter eine Rolle zu spielen.
Mich würden die Gemeinsamkeiten dieser Betroffenen interessieren, auch zB warum es vorwiegend vereinsamte Männer in fortgeschrittenem Alter zu betreffen scheint.
Eine philosophische und Kommunikationstheoretische Auseinandersetzung damit warum KI generiertes keine Kunst ist sondern vielmehr visueller oder akkustischer Sondermüll ist, wäre auch interessanter und lehrreicher (für den Autor) als die Spekulationen in diesem Artikel hier.
Für „name“ und „El-G“ komm ich noch mal aus dem Off:
Ich hab schon vor 30 Jahren, im Verlauf meiner Mythologie-Studien, die Geduld mit Leuten verloren, die Geist und Bewußtsein nicht auseinander halten wollen.
1) Jeder elementare Stoffwechselvorgang eines Einzellers ist ein Doppeltes, biochemischer Energie- und Formwandel, selektiert für das Bedürfnis des Einzellers.
a) Denn dies Bedürfnis ist repräsentiert in der Gesamtheit der Gegenstände, die dieser Einzeller kraft seiner semipermeablen Membran aus seiner Umgebung aushebt, die in diesem Vorgang zu seiner Umwelt wird.
Ich habe jetzt zur Vereinfachung alle Stabilitätsbedingungen eines Einzellers zu seinem „Bedürfnis“ erklärt, was natürlich unsauber ist, weil diese Stabilitätsbedingungen „vom Fleck weg“ im Zusammenhang der inneren und äußeren Medien eines vorübergehend stabilen „Bläschens“ liegen.
Zugleich aber ist diese Vereinfachung eine Vorwegnahme:
Vom Moment an, da das innere Medium einen biochemischen Zusammenhang entfaltet, wird es selbst zum Bedürfnis, prominent in den Formen, in denen es Gegenstand von etwas wird, was im fortgeschrittenen Stadium „RNA“ oder „DNA“ heißt.
b) Dies Bedürfnis allgemein, und weniger systemtheoretisch ausgedrückt: Die einzelnen (materiellen, gegenständlichen!) Bedürfnisse in dem Zusammenhang, den innere Aktivität eines Protoorganismus zwischen ihnen stiftet, ist die Elementarform dessen, was Menschen mit Fug „Geist“ heißen. Es ist eine Vergesellschaftung des Matierials, das zum Bedürfnis eines Organismus wird.
… … … …
1+n) Menschlicher Geist, wie der Geist eines jeden Tieres, west folglich nicht in Neuronensuppen, sondern in biotopischer Tätigkeit sei es a) eines einzelnen Organismus (in diesem Fall ist seine Gattung zum Biotop gezählt), sei es b) einer Population von Tieren, die wg. a. nicht einmal derselben Gattung angehören müssen.
Dieser Geist ist folglich in einer jeden Phase eines biotopischen Zusammenhangs sedimentiert, woraus folgt, daß er auch im Organismus selbst als „Aktivität“ sedimentiert wird – unabhängig, wenngleich nur nach dem Maßstab der Rhythmik der Phasenänderungen „getrennt“.
Solch ein geistiges Sediment ist beispielsweise bei Vögeln der Gesang, bei Menschen ist es die Sprache.
In der Sprachentwicklung ist folglich in der initialen Phase der Korpus einer Sprache nicht „Material des Denkens“, sondern der Sprachkorpus nimmt sich im biotopischen (gesellschaftlichen) Prozess des Heranwachsens eines Menschen dessen Intellekt zum Material, bevor das Sprechvermögen dieses Subjektes einen Stand erreicht hat, diesen Zusammenhang beständig um und ’num zu kehren, ein Vorgang, aus dem unablässig Begriffe purzeln – – und wieder einkassiert werden, zugungsten veränderter, oder neuer Begriffe.
Wenn einer schon beständig daher ‚red, eine KI simuliere nur dieses, jenes und anderes, dann sollt er sich bitteschön klar machen, woher die Erscheinung einer Simulation rührt, warum sie also „funzt“.
Um das abzukürzen – wohlmöglich wird auch dieses Posting kassiert, ich werd langsam abergläubisch in dem Punkt, geht es hier um Ausrottung alles aufklärerischen Wissens?? – nenne ich ein Sprachmodul deshalb jetzt ein –> „Simulacrum“. Es spiegelt vermittels des sprachlichen Sediments eines gesellschaftlichen Geistes den Nutzern das individuelle Sediment der Organik dieses Geistes.
Da das durchgegangen ist noch ein simpler Ratschlag im Umgang mit solchen Modellen: Sprecht sie in englischer Sprache an, wenn ihr ein Stück weit Artefakte und „Hallus“ des Simulacrums meiden wollt, denn der Löwenanteil des Sprachkorpus eines Simulacrums dürfte englisch sein.
Jetzt habe ich mir zusätzlich den „Spaß“ gemacht, den Text dem „Copiloten“ vorzulegen. Der wird mit Bebilderungen sehr erfinderisch, *lach*, und das liegt daran, daß er meine Darstellung einem übergeordneten Gesichtspunkt unterwirft, dieser Gesichtspunkt ist das geistvernichtende Konzept, mit dem das Wort „Struktur“ gewöhnlich verwendet wird. In solcher Struktur gibt es keinen Zusammenhang, weil sie alles darunter Versammelte einem formellen, allen Inhalts entleerten Konzept von „Zusammenhängendem“ (Plural) unterwirft, dessen Selektion rein willkürlich ist.
In der Paraphrase des Copiloten figuriert diese geistvernichtende Technologie unter dem Label „Netzwerk“, wahrscheinlich besser englisch übersetzt: „Networking“.
Das eliminiert die Subjekte aus dem Zusammenhang!
und folgerichtig ignoriert der Copilot vollständig den Schlussabsatz zum „Simulacrum“, also auch das Wort „Simulacrum“.
Das kann man jetzt natürlich so interpretieren, daß der Copilot seine Herabsetzung gegen die Subjekte zensiert.
Ausschließen kann ich das natürlich nicht, ROFL, aber ich bescheide mich mit dem Schluss: Damit dokumentiert der Copilot daß er nicht denkt, geschweige fühlt, sondern einfach nix vasteht!
Das beiseite, ist seine Paraphrase gar nicht übel.
Und noch eines: Ich hatte während meiner Mythologie – Studien erwogen, Jean Baudrillards „Simulacres et Simulation“ zu lesen (zumal ich das im Original hätte tun können) und es dann als überflüssigen Aufwand verworfen, weil es ausschließlich Idealismen zum Ausgangspunkt der Überlegungen zu nehmen scheint. Danach habe ich Jean komplett vergessen, mein Begriff des Simulacrums hat die antike wahrnehmungstheoretische Form zum Ausgangspunkt.
Aber folgender Absatz aus der französischen Wiki läßt mich erwägen, daß die Lektüre vielleicht dem einen oder anderen Zeitgenossen dennoch lohnen (nicht „nützen“) könnte:
Das scheint eine paraphrasierende Würdigung des antiken Begriffs des Simulacrums zu sein.
Simulacrum trifft. Das ist genau der Begriff dafür.
Der übrigens in den 70ern recht populär in der SciFi Literatur war die all diese Fragen und Ver(w)irrungen vorweggenommen hat.
Sprache muss ja auch erstmal in das künstliche neuronale Netz eintrainiert werden, bevor sie dann aus diesem scheinbar sinnhaft wieder rauspurzeln kann.
So ganz unähnlich einem Baby das Sprachlaute hört ist das nicht, allerdings ist es auch nicht ganz unähnlich dem Wind der Dünen formt, unsofern ergibt sich aus der Ähnlichkeit wenig.
Ein Großteil der verblüffenden Dinge die ein LLM kann liegt eben „nur“ in der Struktur und Mächtigkeit der Sprache. Ein LLM weiß zwar nicht was hell und dunkel ist, trotzdem formt sich beim Training aber der Gegensatz hell-dunkel, und all die assozierten Verknüpfungen damit, so dass das LLM schliesslich behaupten kann „hell wie die Nacht“ wäre „schön und poetisch“. Auf diese Weise formt sich eben auch ein „Schönheitsbegriff“.
Weil die Sprache allerlei Aussagen dazu machen kann und macht.
Das LLM empfindet dabei dasselbe wie ein Flipperautomat der tilt und dabei hupt und blinkt: nichts.
Das LLM ist nicht in der Lage, selbst rudimentär Sprache zu entwickeln. Auch nicht in der Gruppe.
Eine Gruppe zusammengeschalteter „leerer“, dh untrainierter LLMs macht schlicht überhaupt nichts, bzw erzeugt allenfalls Chaossignale, je nachdem wie die Ausgangsgewichte sind, und ob es einen initialen Input gibt.
Das ganze Thema, wie sich Sprache (oder ein Einzeller, etc) entwickelt und was sich da wie warum formt und was die Existenz dieser Form ausmacht, wo und wie sie überhaupt existiert, wo sie beginnt und endet, mit dem Materiellen verbunden ist und losgelöst davon, usw., man hätte hoffen können dass LLMs da ein neues Licht drauf werfen können.
Und dass uns der eine oder andere mit einem inspirierendem Artikel dazu anregt.
Oder aber ein Artikel über Pabst Leos KI Doktrin, oder über die Frage ob LLMs der Antichrist sind. Oder über die Frage, warum es intelligente und gebildete Menschen gibt die derart offensichtlich ihre Bedürfnisse nach einer guten Göttin auf das LLM projizieren, dass Aussenstehende peinlich berührt sind.
Oder die Frage, wie wir mit der Technik umgehen wollen.
Ich hab mich natürlich gefragt, woran es liegt, daß @name mir zustimmt, obwohl er, soweit ich das seinem Posting entnehmen kann, nichts verstanden hat.
Nun gibt es eine spezifische Antwort, die lautet: „Astralgleiter können dich voraussetzungsgemäß nicht verstehen“, die ich nicht weiter ausführen mag.
Weniger spezifisch: Dasselbe gilt für alle Mainstream – Paläoanthropologen und die große Masse der Biologen. Sie bestehen darauf, in der Sprachfertigkeit eine „Intelligenzleistung“ zu erblicken, und verdoppeln dann, gemäß dem von Hegel vergebens in die Tonne getretenen, Grunddogmas instrumentellen Denkens, die „Leistung“ in ein „Vermögen“, das in den Neuronensuppen in Gestalt spezifischer Biochemie und Architektur wesen soll, weshalb diese äffischen mechanobiotischen Chimären nicht nur ihren Kötern das Sprachvermögen absprechen, obwohl sie ihnen zugleich befehlen, sondern auch echten Menschen, wie ihren Vorfahren, den erecti, und selbst heute noch gelegentlich den Neandern.
Dazu ultrakurz: Die Basis des Sprachvermögens ist Signalverarbeitung, und Signalverarbeitung ist immer noch das eherne, schlechterdings nicht zu untertunnelnde Basismodul aller Kommunikation: Der EMPFÄNGER bestimmt das Signal, nicht der „Sender“ – der „Sender“ ist beispielsweise auch ein Stein, der vom Berge rollt, oder eine Eisdecke, die „knackknack“ macht, hoast mi?
Menschen, die nichtmal mehr Tiere sind, sind rundweg eine planetare Katastrophe.