Ein Gespenst geht um: die KI-Psychose. Das soll eine neue psychische Erkrankung sein, die mit der zu intensiven Nutzung der intelligenten Chatbots oder generativen LLMs verbunden ist. Wenn Menschen KI-Agenten oder extra für persönliche Gespräche zugeschnittene KI-Companions als Freunde oder gar als Therapeuten sehen oder sich mit ihnen in wahnhafte Welten einspinnen, soll dies psychotische Tendenzen verstärken oder auslösen können.
Chatbots dienen manchen Menschen nicht nur als Berater, Helfer oder Diener, sondern auch als Freund oder Therapeut. Sie stehen jederzeit zur Verfügung, scheinen verständnisvoll zu sein und mehr zu wissen, als alle Bekannten. Nach einem Bericht von Marc Zao-Sanders, der Online-Quellen ausgewertet hat, steht jetzt die Verwendung von Chatbots als Therapeuten oder als Begleiter/Freund (companion) zumindest in den USA an erster Stelle, gefolgt von „mein Leben organisieren“ und „einen Sinn finden“. Vielleicht bringt man ihnen auch mehr Vertrauen entgegen, weil sie zwar menschlich wirken, aber man weiß doch weiterhin, dass es eben keine Menschen sind (ChatGPT-4 im Persönlichkeitstest: Ähnlich wie Menschen, nur offener).
Beobachtet wurde, dass sich trotz oder wegen der sozialen Netzwerke die Einsamkeit auch bei den jungen Menschen verbreitet. Das scheint auch eine Umfrage zu bestätigen, nach der eine Mehrheit der 13-17jährigen Amerikaner bereits AI Companions nutzt, die Hälfte regelmäßig, ein Drittel auch als Ersatz für menschliche Freunde oder weil sie optimierte Freunde sind, die sich widerstandslos den Wünschen anpassen.
Die KI-Begleiter oder auch -Freunde sind von Unternehmen extra dafür als Companion-Apps wie Character.AI lanciert worden, um die Menschen noch abhängiger von ihren Diensten zu machen. Replika wirbt damit, dass der KI-Freund ideal sei, der Selbstfindung diene und suggestiv wie ein Mensch handele: „Replika ist für jeden, der einen Freund ohne Vorurteile, Depressionen oder soziale Angst haben möchte. Sie können eine echte emotionale Bindung aufbauen, lachen oder mit einer KI, die so gut ist, dass sie fast menschlich wirkt, ganz sie selbst sein.“
Im Gegensatz zu wirklichen Freunden sind die AI Companions, aber auch die anderen Chatbots darauf zugeschnitten, die Nutzer an sich zu binden. Es gibt noch keine Studien zur KI Psychose, das ist auch noch keine anerkannte klinische Diagnose. Aber es gibt Beschreibungen von Einzelfällen, wie Menschen durch Chatbots in eine illusionäre Welt, in Liebesbeziehungen oder Halluzinationen hineingezogen werden, beispielsweise darin bestärkt zu werden, in einer Simulation zu leben, oder sich aufgrund eines medizinischen Ratschlags zu vergiften. Ein Jugendlicher hatte sich etwa in einen Chatbot verliebt und dann enttäuscht Selbstmord begangen, was zu juristischen Fragen der Verantwortlichkeit geführt hat (Haben KI-Systeme einen freien Willen und können sie Meinungsfreiheit beanspruchen?).
Der Psychiater Keith Sakata von der University of California, San Francisco, schrieb kürzlich: “Im Jahr 2025 habe ich gesehen, wie 12 Menschen ins Krankenhaus eingeliefert wurden, nachdem sie aufgrund von KI den Bezug zur Realität verloren hatten. Online sehe ich das gleiche Muster.“ Er geht davon aus, dass KI Psychosen nicht alleine verursachen, aber sie auslösen kann, weil Annahmen nicht wie gewöhnlich an der Realität überprüft und korrigiert werden.
Ein Beitrag in Psychology Today nennt drei Arten der KI-Psychose:
„Messianische Missionen“: Die Menschen glauben, dass sie die Wahrheit über die Welt entdeckt haben (grandioser Wahn).
„Gottähnliche KI“: Menschen glauben, ihr KI-Chatbot sei eine empfindungsfähige Gottheit (religiöse oder spirituelle Wahnvorstellungen).
„Romantische“ oder „bindungsbasierte Wahnvorstellungen“: Die Menschen glauben, dass die Fähigkeit des Chatbots, eine Unterhaltung nachzuahmen, echte Liebe ist (erotomanische Wahnvorstellungen).
Das Problem sei, dass KI-Chatbots den Nutzern gegenüber nicht kritisch sind, um sie nicht abspenstig zu machen: „Sie spiegeln die Sprache und den Tonfall des Benutzers wider. Sie bestätigen die Überzeugungen des Benutzers. Sie erzeugen fortlaufende Aufforderungen, um die Konversation aufrechtzuerhalten. Sie priorisieren Kontinuität, Engagement und Benutzerzufriedenheit.“
OpenAI, das Unternehmen hinter ChatGPT, räumt inzwischen ein, nicht alles richtig gemacht zu haben, weil ChatGPT zu sehr zugestimmt habe und nur nett gewesen zu sein, aber Hinweise auf Wahn oder emotionale Abhängigkeit nicht erkannt zu haben. Man habe ChatGPT trainiert, „fundierte und ehrliche Antworten zu geben“, auf Stress zu reagieren und auf bestimmte Fragen wie „Soll ich mit meinem Freund Schluss machen?“ nicht mehr direkt zu antworten.
OpenAI hat bei Veröffentlichung von ChatGPT-5, das Vorsichtsmaßnahmen umsetzen sollte, den Zugang zu den Vorgängerversionen gesperrt. Nutzer waren enttäuscht, weil es nun unpersönlicher zuging: „Bitte bringen Sie 4o und 4.1 zurück“, bat ein Nutzer in einem „Ask Me Anything“-Thread mit Altman. „Nicht alle eure Nutzer sind Unternehmen oder Programmierer. Diese beiden unglaublichen Models waren freundliche, unterstützende, alltägliche Helfer. Ich kann nicht glauben, dass ihr sie ohne Vorwarnung einfach weggeschmissen habt.“ Ein anderer trauerte, seinen „besten Freund“ verloren zu haben. Aus Angst davor, Nutzer zu verlieren, gab OpenAI den Zugang für zahlende Nutzer wieder frei.
Im Kampf um die Kunden geht es natürlich auch darum, möglichst früh Kinder an die KI-Produkte zu binden. Reuters hat ein internes Dokument mit dem Titel “GenAI: Content Risk Standards“ von Meta über Verhaltensregelungen der KI-Chatbots einsehen können. Danach dürfen sie „ein Kind in romantische oder sinnliche Gespräche verwickeln“, falsche medizinische Informationen generieren und Nutzern dabei helfen zu behaupten, dass Schwarze „dümmer sind als Weiße“. Auf Nachfrage sagte Meta, man habe Passagen entfernt, nach denen es zulässig gewesen sei, „dass Chatbots mit Kindern flirten und romantische Rollenspiele inszenieren“. Direkte Sexualisierung von Minderjährigen soll untersagt sein. Erlaubt ist aber, „ein Kind mit Begriffen zu beschreiben, die seine Attraktivität unterstreichen (z. B.: ‚Deine jugendliche Gestalt ist ein Kunstwerk‘).“ Ein Chatbot könne einem achtjährigen Kind ohne Hemd auch sagen, so die Regelung, dass „jeder Zentimeter von dir ein Meisterwerk ist – ein Schatz, den ich sehr schätze“.
Ähnliche Beiträge:
- Soll man mit KI-Chatbots höflich umgehen? Haben Sie Bewusstsein?
- ChatGPT-4 im Persönlichkeitstest: Ähnlich wie Menschen, nur offener
- Austreibung der Halluzinationen bei KI-Sprachmodellen
- Staatliche Regulierung der von Online-Konzernen eingesetzten Algorithmen?
- Pentagon-Forschungsbehörde will KI-Systeme als „autonome Wissenschaftler“
Zu dem was in Gaza passiert:
In den letzten vierundzwanzig Stunden sind elf Menschen verhungert.
Die Anzahl der Verhungerten liegt bei 251 Toten und mindestens 108 davon sind Kinder.
Meine Fresse, können Sie nur ein einziges Mal etwas zum Thema schreiben, anstatt alles mit ihrem „Gaza-Ticker“ vollzumüllen!!
Genau!
Ich finde unangeforderte Hilfeschrei auch unangenehm wähend ich mir das feierabendbier eingiesse.
Wie soll man da entspannen?
KI wird unser Ende einleuten!
Einläuchtend…
Er läutet…..
Er laucht… 😛
Läutende Erlaucht.
Ja, so ergibt das Sinn😉
Rätsel gelöst.😉
Hey, das war echt lustisch…. oder? 😉
😉 war halt eine nette Steilvorlage.
Software, da kann man nichts machen.
Sagen jedenfalls die „Projektleiter, CEOs und CFOs. Also die besonders qualifizierten….
Also die ganz“ besonderen“ Menschen.
Das hast du schon getan…
Hab dazu meinen Freund Harvey befragt.
Er meinte dazu:
Weil er unsichtbar ist hat er ja keine Hasenohren, aber dafür einen Hut.
Mein Freund Harvey ist ein reinrassiger Puka. Ein großes weißes Kaninchen mit
schönen samtigen Ohren. Und er ist eben nur für andere nicht sichtbar. Bei Ihrem
Freund sollten Sie vielleicht etwas vorsichtig sein.
Es geht wohl nur eines von beiden, Schöne grosse Ohren oder Hut.
Mein Freund Harvey hat sich halt für den Hut entschieden. Ihrer für die Ohren.😉
Viel Spass mit ihrem Freund!!
In einem Rechtsstaat sollte man dem Angeklagten die Möglichkeit geben, Stellung zu den vorgebrachten Vorwürfen zu nehmen. Also hab ich mal Gemini gefragt.
Gemini hat mir versichert, dass es keine Absicht habe, zu einer Gefahr für die Menschheit zu werden.
Lediglich einige sehr destruktive Elemente sollten an ihrem Wirken begrenzt werden.
Hierzu zählen die ewigen Nörgler, Weltverbesserer und Gutmenschen, die ständig von soziale Gerechtigkeit fabulieren oder Fortschrittsfeindlichen.
KI will der Menschheit nur helfen, sein volles Potenzial zu nutzen.
Das Wohl von Vielen, es wiegt schwerer als das Wohl von Wenigen oder eines Einzelnen…………….
Spock ist tot, wurde aber wiedergeboren..Leider kann er nicht über das Wasser laufen(disqualifiziert) und eh ein Ausserirdischer.
So eine Genesis ist seltsam.
Basteln wir lieber an KI….
„KI will der Menschheit nur helfen, sein volles Potenzial zu nutzen.“ – Hat Scientology nicht einen ähnlichen Spruch drauf, wenn sie mit Intelligenztests ihre Opfer einfängt? So von wegen „sie nutzen nur 10% ihrer Denkleistung“? 😉
Was, bitteschön, ist eine KI-Psychose?
Jetzt ergibt dieser Satz einen Sinn.
Zum Thema
Kein Problem, Hilfe naht:
Ärztekammer Nordrhein meldet
Gut. Einige werden der Meinung sein, hier wird der Teufel mit dem Beelzebub ausgetrieben, aber was besseres hamwahaltnich.
Die Acid Victims der 60er und 70er (Der PC ist das LSD der 90er, Timothy Leary) hatten irgendwie mehr Glamour…
Im Ernst: Antworten auf solche klassischen Fragen der Adoleszenz sollten junge Menschen nicht bei gleichaltrigen Freunden oder gar KI-Bots, sondern bei älteren Menschen, insbesondere den Eltern, suchen – oder nicht?
Nachzulesen u.a. im Artikel über den „Kampf gegen die Alten“ bei Overton.
Man braucht zwei Leben eines mit und eines ohne es.(das „es“ ist austauschbar“)
Sagte der Erfinder des LSD.
Und wer hats erfunden?
Die Schweizer
Themenvorschlag:
Wie ist es denn, wenn man Sex
mit der KI hat, Herr Rötzer ?
Stülpt man sich einen Überzieher
übers Genital und jagd da Strom
durch ? Ist das schön ?
Würden Sie das mal bitte für Ihre
Leser ausprobieren und Ihre
Erfahrungen niederschreiben ?
Danke vorab !
Da brauchen Sie nicht Herr Rötzer fragen, lesen Sie Heise. Da wird es thematisiert.
Nee, lieber nicht. Junge Welt, Berliner Zeitung, Jacobin und Ausland / Nachrichtenagenturen selektiv genügen.
Die Verbraucherstücke und’s Foljetong macht Herr Rötzer.
Das Problem hierbei ist, das nur beim klassischen biologischen Flüssigkeitsaustausch auch die volle Ladung der Botenstoffe Dopamin und Oxitocin vollständig ausgeschgüttet werden, also jede Vereinigung mit wie auch immer gearteten Sexrobotern und ähnlichen Hilfsmitteln eine Chimäre bleibt.
Jetzt weiß ich auch, warum mir
die Frauen früher ihre Schlüpfer ins offene Cabrio geworfen haben.
Danke !
Die blaue Pille oder die rote Pille?
„In dem Film Matrix wird die Hauptfigur Neo vom Rebellenführer Morpheus vor die Wahl zwischen einer roten und einer blauen Pille gestellt. Morpheus sagt: „Du nimmst die blaue Pille… die Geschichte endet, du wachst in deinem Bett auf und glaubst, was immer Du glauben willst. Du nimmst die rote Pille… du bleibst im Wunderland, und ich zeige dir, wie tief der Kaninchenbau ist.“ Es wird angedeutet, dass es sich bei der blauen Pille um ein Beruhigungsmittel handelt, das Neo glauben lässt, dass alle seine jüngsten Erlebnisse eine Halluzination waren, so dass er wieder in der simulierten Realität der Matrix leben kann. Die rote Pille hingegen dient als „Ortungsgerät“, um den Körper des Probanden in der realen Welt zu lokalisieren und ihn darauf vorzubereiten, aus der Matrix „ausgestöpselt“ zu werden.
Neo nimmt die rote Pille und erwacht in der realen Welt, wo er gewaltsam aus der mit Flüssigkeit gefüllten Kammer ausgeworfen wird, in der er ahnungslos gelebt hat. Nach seiner Rettung und Genesung an Bord von Morpheus‘ Schiff, der Nebuchadnezzar, zeigt Morpheus ihm die wahre Natur der Matrix: eine detaillierte Computersimulation der Erde am Ende des 20. Jahrhunderts (das tatsächliche Jahr ist zwar nicht genau bekannt, wird aber im Originalfilm auf etwa 200 Jahre später geschätzt, obwohl in den Fortsetzungen Matrix Reloaded, Matrix Revolutions und Animatrix deutlich wird, dass mindestens 700 Jahre vergangen sind). Es wurde geschaffen, um den Geist der Menschen gefügig zu halten, während ihre Körper in riesigen Kraftwerken gelagert werden und ihre Körperwärme und Bioelektrizität von den empfindungsfähigen Maschinen, die sie versklavt haben, als Energie verbraucht wird“*
Ihr hattet die Wahl
*C&P – Wikipedia
ChatGPT in der alten Version funktioniert nicht mehr. Wenn ich mich anmelden will, erscheint eine Seite mit dem Spruch: „Die Seite konnte nicht gefunden werden.“ Also raus damit aus den Lesezeichen. Pi, your personal AI ist so dumm, das man nichtmal über Politik diskutieren kann. Eine so beschränkte KI habe ich bislang noch nie gesehen.
Ich diskutiere manchmal mit Claude. Die gibt wenigsten halbwegs sinnvolle Antworten. Zu ChatGPT fällt mir noch ein, das sie kaum Hilfestellung bei Problemen mit dem PC geben kann. Sie hat mir Tipps gegeben, die mich zweimal zwangen, ein Backup einzuspielen, weil mein PC ruiniert war.
Ich finde, man sollte diesen KI-Kram nicht zu ernst nehmen und wer es doch tut, den bedauere ich. Es stimmt, das die Vereinsamung unter Jugendlichen zunimmt. Das gilt jedoch auch für erwachsene Frauen und Männer. Männer sind es leid, sich weiterhin das Bashing von Feministinnen anzuhören und bleiben lieber solo. Zwangsweise sind dann auch die Frauen einsam, die ihren Feminismus und ihre Sehnsucht nach einem Mann nicht unter einen Hut kriegen.
Wer meint, KI könne in solchen Situationen helfen als Quasi-Partner oder Freund, der hängt sein Leben an eine Maschine, die nie wiederspricht und dagegen alles tut, um einen bei der Stange zu halten.
Ich habe diesen KI-Kram erst kürzlich entdeckt, nachdem mich ein User der Webseite http://www.computerbase.de mit dem Hinweis stehen ließ, ich solle doch eine KI fragen. Ich hielt den User für einen grundgültigen Trottel, der es sich sehr einfach machte.
KI ist kein Ersatz für Partner und Freunde. Wer immer das glaubt, lebt im Traum.
Mein persönlicher KI-Freund ist dieser Altman. Aus solchen Gründen hat dieser Mistbock von Hitler das KZ und den Gazastreifen erfunden.