Schon wieder ist ein KI-System entgleist, das Menschen ersetzen sollte

Bild:  Nick Youngson CC BY-SA 3.0 Pix4free

Ein Chatbot sollte Menschen mit Essstörungen beraten, machte aber das Gegenteil. Er sollte Menschen ersetzen, die sich gerade gewerkschaftlich organisiert hatten.

In den USA hat die gemeinnützige National Eating Disorder Association (NEDA), die größte nichtkommerzielle Organisation für Essstörungen,  im März eine interessante Entscheidung getroffen. Offenbar begeistert von intelligenten Chatbots wie ChatGPT, beschloss die Organisation, alle Mitarbeiter – & Angestellte und 200 Freiwillige – der viel nachgefragten Hotline zu entlassen und ab 1. Juni durch den Chatbot bzw. Wellness Chatbot Tessa zu ersetzen. Offenbar hatte man nicht nur großes Vertrauen in das KI-Sprachmodell, sondern sah gut kapitalistisch auch die Möglichkeit Geld einzusparen.

Wahrscheinlich war der Anlass, dass sich die Mitarbeiter vier Tage vor dem Beschuss eine Gewerkschaft gegründet hatten, weil die Abteilung unterbesetzt sei und alle gestresst und überarbeitet seien. Anfragen wurden auf Wartelisten geschoben. Das erschien der Organisation auch rechtlich bedenklich, aber mehr Mitarbeiter einstellen wollte man auch nicht. Da erschien wohl ein braver Chatbot, der angeblich ohne Murren macht, zu was er beauftragt wurde, die geeignete Alternative für die gemeinnützige Organisation. Bei einer KI muss man nicht mit Streiks, Lohn- und Arbeitsplatzforderungen, Krankentagen und allerlei anderem Ungemacht rechnen.

Dachten sich die Verantwortlichen vermutlich und verkündeten auch, dass Tessa nicht ChatGPT sei, weswegen der Chatbot auch nicht wie dieser aus der Spur geraten wird, weil er auf Körperthemen  spezialisiert sei: „Tessa ist KEIN ChatGBT, dies ist eine regelbasierte, geführte Konversation. Tessa trifft keine Entscheidungen oder ‘wächst’ mit dem Chat; das Programm folgt vorgegebenen Pfaden, die auf dem Wissen des Forschers über Personen und ihre Bedürfnisse basieren.“

Entwickelt wurde der Wellness Chatbot an der medizinischen Fakultät der Washington University unter der Leitung von der Psychologin Dr. Ellen Fitzsimmons-Craft (Video). Beworben wird er so: „Tessa setzt therapeutische Methoden ein, um evidenzbasierte Strategien zur Prävention und Frühintervention von Essstörungssymptomen anzubieten. Wie Fitzsimmons-Craft anmerkt, basiert Tessa auf jahrzehntelanger, umfassender Forschung und stellt eine neuartige Form der Unterstützung der psychischen Gesundheit dar.“ Herausgestellt wird aber auch, wie kostengünstig er sei.

Am 1. Juni übernahm also Tessa die ganz von Menschen befreite Hotline. Es dauerte aber nicht lange, bis Sharon Maxwell warnte, dass Tessa ziemlich wilde Empfehlungen aussprach, u.a. auch Verhaltensweisen, die mit Essstörungen einhergehen. Er habe ihr Empfehlungen gegeben, „die zur Entwicklung meiner Essstörung geführt haben“, schrieb sie auf Instagram. So habe ihr Tessa vorgeschlagen, zwei Pfund wöchentlich zu verlieren, sich regelmäßig zu wiegen und darauf zu achten, 500 bis 1000 Kalorien weniger zu essen.

Der Psychologe Alexis Conason schrieb auf Instagram und postete Screenshots von ähnlichen Ratschlägen von Tessa: „Man stelle sich vor, dass sich gefährdete Menschen mit Essstörungen an einen Roboter zur Hilfe wenden, weil nur dieser verfügbar ist, und dann Antworten erhalten, die die Essstörung weiter fördern.“

NEDA hat schnell die Notbremse gezogen und den Wellness Chatbot, der gerade einmal eine Woche online war, am Dienstag vorübergehend abgeschaltet, bevor er die Helpline übernehmen konnte: “Wir sind gestern Abend darauf aufmerksam geworden, dass die aktuelle Version des Tessa Chatbots, auf dem das Body Positive Programm läuft, möglicherweise Informationen weitergegeben hat, die schädlich waren”, schrieb NEDA auf Instagram und kündigte eine Untersuchung an. Offenbar hatte man Tessa nicht wirklich erprobt. Die Firma, die ihn mit entwickelt hat, hat die Testversion aus der Website entfernt und spricht nur allgemein von dem Chatbot Tess.

Liz Thompson, CEO von NEDA, betonte, dass Tessa nur vorübergehend abgeschaltet wurde, „bis wir den ‚Bug‘  und die ‚Trigger‘ für den Kommentar verstehen und reparieren“. Es soll also an der Ersetzung der Menschen durch den Chatbot festgehalten werden, der wiederum Menschen in Not, auch in drohender Todesgefahr, beraten soll. Die entlassenen Mitarbeiter und Freiwilligen waren meist Menschen, die selbst unter Essstörungen gelitten haben. Sie haben also nicht nur ein Wissen, sondern auch eine persönliche Erfahrung, was der Chatbot bestenfalls simulieren kann.

Aber abgesehen davon scheinen die generativen KI-Systeme, die für alle eine Black Box sind, aus der Spur geraten zu können, wenn sie selbst unter Stress geraten, also wenn sie zu viele Antworten geben müssen und in längere Frage-und-Antwort-Ketten eintreten. Das scheint wie bei Tessa auch so zu sein bei Chatbots, denen enge Grenzen gesetzt werden. Sind sie also nicht zu kontrollieren, weil Intelligenz bedeutet, Kontrollen austricksen oder einfach unvorhersehbar agieren zu können?

Ähnliche Beiträge:

33 Kommentare

  1. Da wurde wohl mal wieder nicht verstanden, was ChatGPT und Co eigentlich sind:
    Das sind Sprachmodelle, nicht mehr und nicht weniger.
    Das wertet nur Statustiken aus, welche Worte zusammen auftreten bzw. welche nicht und wie man das gramatikalisch korrekt zusammen baut.

    In Sprachmodellen ist aber kein bisschen inhaltliches Verständnis vorhanden…
    Das sind halt keine künstlichen “Intelligenzen”, sondern nur Sprachmodelle.

    Aber die sind nicht die einzigen, die das nicht verstehen…
    https://www.heise.de/news/ChatGPT-erfindet-Gerichtsurteile-US-Anwalt-faellt-darauf-herein-9068180.html

    Das schlimmste finde ich aber, dass dieser NEDA-Verein eine “Wellness-KI” genutzt hat, da würde ich sogar erwarten, dass es genau solche Ratschläge gibt…
    Immerhin geht die Wellness-Industrie (und damit vermutlich auch die Texte, mit denen Tess trainiert wurde) mehr in Richtung “Schön und Schlank um jeden Preis” und nicht in Richtung “Vernünftige Ernährung”…

    1. Ah, jetzt weiß ich was Frau Bärbock ist, ein Sprachmodell! Kein bisschen inhaltliches
      Verständniss vorhanden. Keine nätürliche und künstliche Intelligenz vorhanden, sondern
      nur ein Sprachmodell. Jetzt fehlt nur noch eine vernünftige Erklärung für Herrn Habeck
      und Frau Lang.

    2. Wie schön, einen Beitrag zu lesen, der aufklärend auf „die Natur“ der „KI“ hinweist. Vielen Dank dafür.

      Das heutige Deppen sich ein Programm wünschen, das „Intelligenz“ vorgaukelt, also etwas, das ihnen wesensfremd ist, verwundert mich nicht.

  2. Ergänzend ist das gerade beim Thema “Essverhalten” seit Jahren schon, auch bei menschlichen Ernährungsberatern, “Irrtümer”, also beabsichtigte, und unbeabsichtigte, teils gravierende, Fehler auftreten.

    Wer sich für das Thema interessiert dem seien die Bücher des kritischen Ernährungsexperten Udo Pollmer – insbesondere “Das Lexikon der populären Ernährungsirrtümer* des Autors Udo Pollmer empfohlen 😉👍

    Soll heißen ganz ohne KI-System, dass ja von Menschen erschaffen wurde, und vielleicht sogar 🙄 völlig unkritischen Ernährungsexperten/-innen in den USA, gibt es hier, teils uralte Fehler, die bis heute unverändert als Tipp weitergegeben werden 👎🙄

    Gruß
    Bernie

    1. “…seit Jahren schon, auch bei menschlichen Ernährungsberatern, „Irrtümer“, also beabsichtigte, und unbeabsichtigte, teils gravierende, Fehler auftreten.”
      Zum Beispiel der gesund hohe Eisenanteil im Spinat😉.
      Aber wir sollten nicht zu kritisch mit ChatGPT oder KI ins Gericht gehen; zumal, wenn diese sich (noch in den Kinderschuhen steckend) nur um die Hälfte von 360 Grad drehen.
      Außerdem: die Nahrungsaufnahme einzustellen, bedeutet ja nicht zwangsläufig den gewerbli…äh, physischen Tod.
      Und wer würde auf die Idee kommen, dass kostengünstige und ‘effiziente/mathematisch-rationale’ Alternativen die Humanmasse ersetzen könnte oder gar sollte. 🤪

      1. @cui Bono

        Stimme mit dir überein, nur eine Sache, das mit dem “Spinat und dem gesund hohen Eisenanteil” ist nur die Spitze des Eisberges der “Volksverblödung” – deswegen gibt es ja ein “Lexikon der Ernährungsirrtümer”…..jeder Patient, der ab einem bestimmten Altern, eine neue Pandemie (?), seine Cholesterinwerte senken soll kann ein Lied davon singen – neuester Stand nach der “Cholesterinlüge” – es gibt gutes HDL und schlechtes LDL – oder so, und man kann seine Ernährung auf Fisch umstellen, da irgendwo in Japan gesunde, steinalte Menschen leben, die überwiegend von Fisch leben sollen….tja, kam mal als Doku im Fernsehen, und – seltsam, aber wahr – kurze Zeit danach kam von den Ernährungsberatern der Krankenkasse der Tipp mit dem Fisch……Nachtiggal ick hör dir trapsen…..wer da wohl am Rad gedreht hat? Welche Lobbyisten? *augenroll*

    2. Deswegen sollen wir auch nur noch 70gr. Fleisch pro Kopf und Woche bekommen. Im Kriegsjahr 1942 wurden noch ca. 506gr. zugestanden.

      Die GRÜNEN denken nur an unsere Gesundhet ???

      Özdemir will die Werbung für Süßigkeiten und zuckerhaltige Produkte verbieten, großartig, um dann mal wieder den Rest auf den Verbraucher abzuwälzen.
      An das Lebensmittelgesetz traut er sich, zwecks Zuckerreduzierung, nicht ran, dann müßte er der Nahrungsmittelindustrie auf die Füße treten. Seine Frau soll bei der DW sehr gut verdient haben, vermutlich wird das der nächste Vetternwirtschaft-Skandal der GRÜNEN. Die Gehaltshöhe soll wohl laut Bundesregierung absolute Geiheimsache sein, was in solchen Fällen schon sehr ungewöhnlich ist.

      1. Tja, wen wunderts? Schließlich entstammt ja “Häuptling Cem”, einer archaischen Stammeskultur. Was solls: die Entwicklung der Gehirne, führen Evolutionsbiologen, auf den Fleischkonsum unserer Vorfahren zurück. So gesehen, wird man in einigen Jahren zurecht sagen: Veganer sind cerebral insuffizente Troglodyten, die hoffentlich mittels KI, ENDGÜLTIG hinweg gerafft werden. Allein dafür, würde es sich lohnen, nicht ganz so bald, abzunippeln;o))))

        1. Ach, Gotterle, wenn kein Fleisch mehr, dann Gehirnschrumpfung?!
          Vielleicht haben Sie doch zu wenig Fleisch gegessen, wenn es zu solchen Schlüssen kommt?!
          Was vor 1-2 Millionen Jahren möglicherweise erfolgreich war, gilt wohl kaum im Zeitalter der Antibiotika-verseuchten Massentierhaltung und der kaum artgerecht ernährten, geschweige denn gehaltenen Tiersklaven.

        2. Welche Vorstellungen hast du den von der Menge des Fleischkonsums über die menschliche Evolution? Jeden Tag ein 750gr. Steak? Da war wohl eher hin und wieder Fleisch im Spiel und das hat dann den Turbo, ganz, ganz langsam angetrieben.

          Die Dosis macht das Gift und zuviel war noch nie gut, sonst heißt es bald:

          Reban leidet an RinderWAHN.

    3. Es gibt jeden Tag einen neue Diät, Erdbeerdiät, Schnitzeldiät, Salatdiät, Herba-Life, usw., man muss nur die entsprechenden Zeitungen oder Produkte kaufen. Alle haben eins gemeinsam, sie kosten Geld und taugen nichts.

      All die “Heilsbringer” wollen nur eins, ans Geld!
      Auf die günstigste kommen die wenigsten Leute: FDH

      Früher in der Nachkriegszeit gab es nur “Gute Butter” und frische Kuhmilch, beide galten als gesund.
      Ich kenne keine/n die/der damals dick war.

      Dann kamen die Werbefritzen und ihre gekauften Wissenschaftler und behaupteten Margarine sei gesünder.
      Heute muss es Sojamilch und anderer Schisslaweng sein, wie vegane Kost aus dem Supermarkt.
      Man könnte sich auch gleich einen Chemiebaukasten kaufen und den Mist selber produzieren.

      Die Spargelzeit ist ja nun bald vorbei, für den, der ihn mag. Für mich ist das Beste am Spargel das Schnitzel und das lasse ich mir von Özdemir ebensowenig verbieten wie die Currywurst oder die “Gute Butter”.
      Das Gemüse kommt größtenteils aus dem Garten, im Herbst wird geschlachtet.
      Sobald die Sau am Haken hängt, wird der Erste eingeschänkt 🙂

      Na gut, ich kann essen was ich will und werde nicht dick. Die Cholesterinwerte und Blutdruck sind okay, Fettleber ist auch nicht vorhanden, keine Allergie, keine Lactoseintoleranz.

      Heute sind Kinder aus der Stadt viel anfälliger für Allergien als Kinder vom Land.
      Grund: Sie leben viel zu steril. Früher hat man gesagt: Dreck reinigt den Magen.

  3. Tessa ist kein ChatCPT. Immerhin. ChatGPT ist bullshit-Generator. Menschen machen aus bullshit Sinn.
    Sterne haben Namen, Bilder, Geschichten.
    Manager glauben bullshit und wundern sich weil er so schlecht ist und keinen Profit bringt.
    Sie hattens anders erwartet. Sellarie, wie der Franzose sagt.

  4. Der Wettbewerb zwischen teuren und billigen Löhne führt wohl zum Kurzschluss mit einer KI.
    Während der Westen auf Teufel komm heraus ihre nicht fertigen Ideen umzusetzen versuchen, wird im globalen Süden, Milliarden an Arbeitskräften auf den Lohnwettbewerb ausgesetzt.
    Gerade heute erlebt, Firma XYZ sucht einen Branchmanager Max. 25, Gehalt als Hiwi, Abschluss in irgend einer Fakultät. Diese Generation hat die typischen “Grünen Allüren”, wissen alles nicht kritikfähig geschweige irgendeine Lebenserfahrung. Nun hat der globale Süden immerhin Massen an jungen Menschen mit der entsprechenden Demographie! Der Westen, vor allem die EU will noch mehr an ihrem ‘Sozialsysteme’ einsparen, nur was glauben diese was sie mit Millionen an Arbeitslosen tun werden? Sagen diese dann konkurrieren sie mit KI?
    Seit Jahren werden Homeoffice Arbeit im Gesundheitswesen im günstigen Ausland angeworben.

    1. Billig und willig, so soll es sein, vorausgesetzt 20 Jahre alt und 40 Jahre Berufserfahrung.
      Schon Gerhard Schröder hat gesagt: “Hauptsache Arbeit”, von Lohn hat er nicht gesprochen.

      Ein Bewerber kommt zum Chef und fragt: “Was kann ich bei Ihnen verdienen?”
      Chef: “Wie, Sie wollen auch noch Lohn, sind Sie Kommunist?

      Das Gejammere über den angeblichen Fachkräftemangel kann man schon nicht mehr hören.

      1. KI soll den neoliberalen Fortschritt ermöglichen, nur die deutsche “Elite” fliegt ins Ausland um, FACHKRÄFTE” für diesen Vorzeigestaat anzuwerben!
        Das sollte man sich auf der Zunge zergehen lassen …
        ‘Diese Welt’ oder einzelne Staaten werden aufgrund der Pandemie personell leer geschwemmt, man reduziert die Krankenversorgung/Personal um danach festzustellen, dass KI und Konsorten das noch nicht können, aber andererseits wird den Investoren alles zugesichert.
        Die letzte Parabel zum ‘Abspritzen’ wurde von der EU (angeblich für alle Mitglieder geltend) abgesegnet, d. H. die Steuerzahler sollen weiterhin für etwas zahlen das bis dato in keinster Weise klarifiziert ist.
        KI aus dem Land der unbegrenzten Möglichkeiten, wen es interessiert schaue sich die Deutsche Telekom an!

  5. @Otto0815
    „Deswegen sollen wir auch nur noch 70gr. Fleisch pro Kopf und Woche bekommen.“
    Na – das dürfte eine große Scheibe Hinterschinken sein, die bei täglich sparsamem dran-Lecken über die Woche ausreichend sein sollte.😂
    Allerdings halte ich die Zahl für ein Gerücht. Empfehle das online Berechnen des geplanten 3t CO2-Fußabdrucks ( bitte nur, wenn demnächst Obdachlosigkeit geplant ist, da anders nicht haltbar).
    Da bekommt der Slogan “ Wohnst du noch oder lebst du schon (on street)“ eine fundamentale Bedeutung 😳

    1. @“ Wohnst du noch oder lebst du schon (on street)“
      Das nennt sich jetzt “Brückenbewohner” oder “urbanes Wohnen”
      Unsere Kühlung ERZEUGT 22,60 kg/CO2 im Jahr gemessen

      Bertolt Brecht
      “Es gibt viele Arten zu töten. Man kann einem ein Messer in den Bauch stechen, einem das Brot entziehen, einen von einer Krankheit nicht heilen, einen in eine schlechte Wohnung stecken, einen durch Arbeit zu Tode schinden, einen zum Selbstmord treiben, einen in den Krieg führen usw.
      Nur weniges davon ist in unserem Staate verboten.”

  6. Und ich sag’ noch: das dicke Ende wird kommen.

    Einsatz von KI bewirkt, dass für jede Art des Scheiterns eine gesichtswahrende Ausrede zur Verfügung steht: unsere KI hat sich geirrt. Das Nicht-Scheitern wird dann zur Ausnahme.

  7. Es nervt ein wenig, wenn jetzt jeder Idiot oder sonstiger PR-Hansel seine zusammengestümperte Patternmatching-Software “AI” nennt. Und alle, die keinen blassen Schimmer von den Technologien haben, erstarren in Ehrfurcht, wie die Maschinen die Macht übernommen haben.

    Auch Chatgpt ist bloss Datenbankschrott auf grossem Eisen, mit Massen menschlicher Sklaven von Indien bis Kenia, die für teilweise weniger als 1$/Stunde die Software “trainieren”, also neue Muster einklopfen. Ohne dieses Sklavenheer wäre die “künstliche Intelligenz” noch blöder als die in Ehrfurcht vor ihren “Leistungen” erstarrenden Hohlköpfe und Narren.

    1. das ist eben solides Bullshit-Bingo.

      jeder, der denkt, er verstehe etwas von der Sache, dackelt vors nächste Mikrophon und wirft mit eingängigen Phrasen um sich: KI hier, KI dort – und das greift.
      einzig aufgrund der Tatsache, dass, wer nicht gerade selbst aus der IT-Welt kommt. den Unterschied zwischen KI und machine learning nicht zu erkennen vermag.

      einmal mehr der Verweis auf das Buch ‘Kritik des Computer’ von Werner Seppmann

      es ist aber immer wieder schon fast belustigend wie dieselben Leute vom intellektuellen Schlage einer Baerbock, eines Habecks oder Lauterbachs kommen und sich als Fachleute gerieren und das auch noch breitwillig medial transportiert wird, während diejenigen, die täglich ihren Lebensunterhalt aktiv in diesen Themenfeldern bestreiten, nur noch den Kopf schütteln. Dummerweise erfährt das in der Regel niemand. Wäre es anders, wären alle drei von mir Erwähnten längst mit Schimpf und Schande aus dem Amt gejagt worden.

      wer aus den Regierungskreisen betätigt sich eigentlich aktuell am aktivsten am Bullshit-Bingo rund um KI?
      glaub alle ein klein wenig, oder? Hat wohl schon jeder Minister inkl. Kanzler was (beschränkt) Schlaues dazu gesagt.
      Das Thema kann ja ressortübergreifend für fast alles gut gefüllte Sprechblasen generieren.

  8. Mal zum Abschluss ein scherzhafter Kommentar zur KI insgesamt – was macht die eigentlich wenn der Saft ausbleibt bzw. jemand den Stecker zieht bzw. die Strom- sowie Energieversorgung zusammenbricht? Bei Habeck, und den “Ökos” könnte solch ein Szenario durchaus passieren also hoffen wir, dass es nur bei meinem 😜 Scherz oben bleibt.😏

    1. Was soll die denn ‘machen’? Sie wird halt vergesslich. Wenn sie dabei vergisst, warum sie es wird – öhm jo naja. ;D

    2. Diese Frage ist nicht wirklich interessant. Was macht unsere Zivilisation überhaupt ohne Strom?
      Eine Frage an die KI. 🙂

      1. @andreas h

        Hast auch wieder Recht, und es sei angemerkt, von jemandem der einmal Klinikbedingt auf das web, und moderne Kommunikation verzichten musste, dass dann “interessante Zeiten” auf Homo sapiens sapiens und die KI zukommen – ich sag nur Back to stoneage and Fred Feuerstein 😜🙄

        1. Ergänzung:

          War übrigens eine Waldorfklinik – da ist jegliche moderne Kommunikation verboten – die Auszeit hat mir gut getan, weil ich wußte die ist nur begrenzt, wegen der Antroposophie – kannst ja denken was ich – gleich zuhause – gemacht habe *grins*

          Amüsierte Grüße
          Bernie

    3. Meine persönliche VT: es werden überall Kleinatomkraftwerke (Atomubootantriebe) an die Serverfarmen angeschlossen. Dann kann der Saft nicht ausgehen 🙂

      1. @TINA

        Tja, da könntest du auch recht haben, und würdest dich wundern was man – außer Atombomben, und Kernkraftwerke, oder Atomubootantriebe) – früher, in Hochzeiten des letzten Kalten Krieges, so alles gedacht hätte was Mensch mit Atomkraft anstellen könnte – man hielt die ja für ungefährlich.

        Was? Die “Wärmepumpe” ist ein Scheißdreck dagegen, ein Atom-Heiz-System für Wohnhäuser war tatsächlich mal angedacht – kein Witz – stell dir vor du hast dein eigenes Atomkraftwerk im Heizkeller – deine Energieprobleme wären längst Geschichte, und Habeck wäre entsetzt…..

        Hab leider den Titel vergessen, aber gab mal ein ganz interessantes Buch, als ich noch jung, und rank, war zum Thema Atomkraft, und was mit Atomkraft – auch für den Privatmenschen – alles möglich wäre – Atomauto? Kein Problem….usw. usf…..tja, dann kam Tschernobyl, und vorher schon – mehr oder weniger unter den Teppich gekehrte – Atomkraftunfälle, und Mensch merkte, da ist was brandgefährlich an der Sache – Radioaktivität und so…..aber ich fand es dennoch interessant wie unsere Urgroßväter, und Großväter, auch jenseits des Großen Teichs begeistert von der “neuen Technik” Atomkraft waren……bis….eben…..KaWum!

        Sarkastische Grüße
        Bernie

        PS: Das bekannteste Bild aus dem letzten Kalten Krieg ist ein Atombombenversuch in den USA, wo die Truppen, nach der erfolgten Explosion, das Gebiet “erobern mussten”…..will gar nicht wissen wieviel GIs, die damals dort mitmachten Jahre, oder Jahrzehnte später, an durch die Radioaktivität der Atombombe verursachtem Krebs starben – das Bild hat sich mir übrigens eingeprägt, wie “dämlich” unsere Vorfahren waren……die wußten es halt nicht besser, und man sagte ihnen auch nicht – wissenschaftlicher Seits – wie gefährlich es ist sich dieser Strahlung auszusetzen, aber das Foto hat sich mir bis heute ins Hirn gebrannt – glaub es war in der Wüste von Nevada…..der Versuch kontaminiertes Gelände, nach dem Abwurf einer Atombombe “zu erobern”….in einer militärischen Übung…..andere Zeiten eben *augenroll*

  9. Tja, eine Maschine macht das, was man ihr einprogrammiert hat. Und wenn sie schlecht programmiert wird, kommt halt nur Stuss dabei raus. Wer wissen will, wie KI funktioniert, braucht nur mal einem Polizisten zuzuhören, der im Fernsehen versucht, einen ganz normalen Unfall zu schildern. Wie er versucht, ganz “ordnungsgemäß” zu klingen und sich dann im Gestrüpp von Grammatik, vorherrschenden Narrativen und Sprechschablonen hilflos verheddert und heilfroh ist, wenigstens etwas halbwegs Verstehbares zusammenbekommen zu haben. Nicht mal der schafft das. KI heißt doch nur, halbwegs zusammenpassende Sprechschablonen mit “weil”, “dadurch” und Ähnlichem zusammenzubinden, um Sinnzusammenhänge zu simulieren. Und da die meisten sowieso zu blöd sind, auch nur Korrelation von Kausalität zu unterscheiden, wird das vermutlich mit großem Hallo begrüßt werden ohne das jemand die Täuschung auch nur bemerkt.

  10. Apropo KI, es ist ja auch angedacht bei psychischen Erkrankungen – Psychiater und Psychotherapeuten – durch eine KI zu ersetzen – so habe ich es mal aufgeschnappt.

    Sollte das wahr sein, dann kommen auch hier “interessante Zeiten” (Zitat aus einem alten, chinesischen Fluch), auf Patienten zu – frei nach dem Motto – depressiv? selbstmordegefährdet? Kein Problem fragt die KI was die dazu sagt.

    Ganz sarkastische Grüße
    Bernie

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert