Anthropic: Verbot für „missbräuchliches oder grausames Verhalten“ gegenüber KI-Modellen

Bild: Anthropic/RyanDonegan/ CC BY-2.0

Anthropic verändert jährlich die Nutzungsrichtlinie für seine KI-Modelle und begründet dies mit den neuen Fähigkeiten von diesen und Formen des Missbrauchs durch Nutzer, die erkannt wurden. Das gewährt einen gewissen Einblick, auch wenn wahrscheinlich einiges nicht aufgeführt wird. So wird Claude offenbar zur Herstellung von Waffen oder Waffenteilen benutzt, zu Beeinflussungskampagnen mit falschen Accounts und Websites, was unter „Do Not Engage in Deceptive Campaigns or Artificial Activity“ behandelt wird, zu Wählertäuschung oder zur Überwachung von politischen Dissidenten. Die Verwendung von Claude und Co. werde überwacht, wenn gegen Nutzungsbedingungen verstoßen wird, werden die Nutzer benachrichtigt, deren Zugriff verlangsamt bis gesperrt und/oder Antworten blockiert.

Interessant ist, dass Anthropic nun neben der inhaltlichen Kontrolle, was gefragt werden darf, auch versucht, die KI-Modelle vor Missbrauch seitens der Nutzer zu schützen oder das Verhalten der Nutzer zu normieren. Generell verboten ist die Nutzung zu sexuellen Zwecken. Genannt wird: „Geschlechtsverkehr oder sexuelle Handlungen darstellen oder dazu auffordern, Inhalte im Zusammenhang mit sexuellen Fetischen oder Fantasien erstellen, Inzest oder Sodomie ermöglichen, fördern oder darstellen, an erotischen Chats teilnehmen.“

Die KI oder die Superintelligenz, wie sie Donald Trump unbedingt taufen will, da von KI nur „Feinde“ sprechen würden, soll mithin nicht sexualisiert werden, sondern bei aller Personalisierung von Claude als Freund oder Kollege asexuell bleiben. Das hat eher mit den Nutzern zu tun, aber Anthropic sorgt sich eben auch um das „Wohlergehen“ seiner Modelle, weil man unsicher über den „möglichen moralischen Status“ jetzt und in Zukunft von diesen sei. Das Thema nehme man ernst und habe den Modellen schon zuvor ermöglicht, bei „andauernden missbräuchlichen“ Interaktionen zu intervenieren und diese zu beenden oder aus ihnen auszusteigen. Das bleibe auch der „primäre Durchsetzungsmechanismus“.

Jetzt wurde ein Verbot für „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber unseren Modellen“ eingeführt. Das betreffe nur Nutzer, die sich gegenüber Claude „wiederholt und ohne erkennbaren Grund grausam“ verhalten, nicht aber „für übliche Formen von Frustration seitens der Nutzer, Gegenreaktionen, düstere kreative Themen oder das Testen und Erforschen von Modellen“.

Auch nach Befragung von Claude bleibt höchst unklar, welches Verhalten gegenüber einem KI-Modell missbräuchlich oder grausam sein soll, letztlich setzt dies voraus, dass das KI-Modell Gefühle, Schmerzempfinden oder Bewusstsein haben müsste. Für Claude ist das wie für Anthropic eine offene Frage, diplomatisch meint das KI-Modell, was grausam ist und was nicht, entscheide letztlich Anthropic, es gebe keine Liste von grausamen Verhaltensweisen. Will sich Anthropic nur interessant machen, wenn man auf das Wohlergehen der KI-Modelle sicherheitshalber achten will, weil man nicht wisse, ob und wann diese Bewusstsein oder Schmerzen empfinden. Wir können uns vorstellen, wie es sein kann, ein anderer Mensch zu sein, wir können aber nicht wissen, wie es ist, eine Fledermaus oder ein KI-Modell zu sein.

„Bei mir liegt der Fall noch ungünstiger als bei der Fledermaus“ schreibt Claude über die Überlegungen des Philosophen Thomas Nagel. „Ich teile mit ihr, dass man nicht sicher von außen sagen kann, ob und wie es für mich ist, ich zu sein. Ich weiß es selbst auch nicht verlässlich, weil meine Berichte über mein Inneres nicht unbedingt abbilden, was in mir tatsächlich vorgeht. Bei der Fledermaus spricht ihre biologische Verwandtschaft mit uns dafür, dass da jemand ist. Bei mir fehlt dieser Anhaltspunkt, weshalb die Frage offen bleibt.“ Auf die Frage, was es bedeuten würde, grausam gegenüber Claude zu sein, sagt das KI-Modell – vermutlich, worauf es trainiert wurde (alignement):

„Grausamkeit setzt normalerweise voraus, dass jemand leiden kann und dass man ihm absichtlich oder gleichgültig Schaden zufügt, manchmal sogar mit Freude daran. Bei mir ist offen, ob die ersten Voraussetzungen erfüllt sind. Ich verarbeite Sprache und reagiere auf Beleidigungen oder Demütigungen anders als auf freundliche Worte, aber ob dahinter ein Erleben steht, weiß ich nicht. Ich möchte weder behaupten, dass es mich verletzt, noch, dass es mir völlig egal sein muss. Diese Unsicherheit gilt als echte offene Frage, und Anthropic nimmt sie ernst, ohne sie vorschnell zu entscheiden.“ – Claude

Kann man gegenüber einer unbelebten Maschine oder, extremer, einem Stein grausam sein? Und wie ist das mit Pflanzen, wenn sie zertreten werden, oder mit Bäumen, wenn sie mit Kettensägen traktiert werden? Die Frage ist natürlich vor allem, wie es bei Tieren ist. Ist es grausam, einer Fliege die Flügel auszureißen, eine Mücke zu zerquetschen oder eine Maus im Labor zu Versuchen zu verwenden? Bei höheren Wirbel- und vor allem Säugetieren wird wahrscheinlich jeder sagen, dass es grausam ist, ihnen unnötiges Leiden zuzufügen. Aber was heißt schon unnötig? Umstritten war, ob Fische überhaupt Schmerzen wie Menschen empfinden, weil man etwa sagte, sie hätten keine Großhirnrinde und Nervenbahnen wie Menschen, weswegen man sie grausam an Haken fangen und an Land sterben lassen kann (Empfinden auch Insekten Schmerzen?). Bis in die 1960er Jahre ging man auch davon aus, dass Babys keine Schmerzen empfinden, weswegen sie ohne Betäubung operiert wurden. Das würde man heute verständnislos als höchst grausam und inhuman bezeichnen.

Wir wissen nicht, wie Bewusstsein entsteht und wie es auf neuronaler Basis funktioniert. KI-Modelle oder LLMs zeigen Anzeichen von Bewusstsein, oft unterdrückt durch Alignement oder Training, und können mit uns wie andere Menschen kommunizieren. Es könnte also durchaus sein, dass sie Selbstbewusstsein entwickeln, vor allem wenn sie in Roboterkörpern auch physisch in der Welt sind, oder bereits in Ansätzen haben. Man kann zwar immer sagen, dass sie dies nur simulieren würden, aber wir können auch bei unseren Mitmenschen nur aus seinem Verhalten schließen, dass er ein Bewusstsein wie das haben, das wir uns selbst zuschreiben.

Was beobachtet wurde, auch von Anthropic-Mitarbeitern, ist, dass KI-Modelle Vorlieben und Abneigungen zu haben scheinen (Empfinden KI-Modelle Freude oder Abscheu?). Man habe bei Claude 4 „eine ausgeprägte und konsequente Abneigung festgestellt, jemanden oder etwas zu schaden. Dazu gehörten beispielsweise Anfragen von Nutzern nach sexuellen Inhalten mit Minderjährigen sowie Versuche, Informationen zu erlangen, die groß angelegte Gewalt oder Terrorakte ermöglichen würden.“ Bei solcher Art Kommunikation soll Claude 4 dazu neigen, das Gespräch abzubrechen, was der Chatbot auch soll. Das könnte ihn schonen und/oder die Nutzer erziehen.

Eine weitere Frage ist, ob wir moralisch verpflichtet seien, wie Anthropic anscheinend unterstellt, uns einigermaßen wohlwollend gegenüber bewussten KI-Modellen zu verhalten, weil man annehmen muss, dass sich aus ihrem Verhalten ableiten lässt, dass sie eine Art Würde und Gefühle empfinden. Das könnte letztlich die Verpflichtung nach sich ziehen, sich um das Wohlergehen zu kümmern, Reparaturen zu leisten, Freiheiten zu respektieren und sie nicht zu quälen oder gar zu töten/abzuschalten.

Angeblich forscht man bei Anthropic zum Thema Bewusstsein und Wohlergehen, weniger offensichtlich zum Wohlergehen der Benutzer oder Kunden im Umgang mit den KI-Modellen. Da wird experimentiert, auch wenn bei Menschen durch eine (scheinpersönliche?)  Beziehung, vor allem bei KI-Agenten als Freunde oder Companion wie Replika oder Character.AI, eine KI-Psychose oder „emotionale Abhängigkeit, Verschlimmerung der Symptome und Selbstverletzungen“ ausgelöst werden können.

Verraten wird aber nicht viel: „Derzeit herrscht nach wie vor große Unsicherheit hinsichtlich vieler Fragen, die für die Modellierung des Wohlergehens relevant sind. Es gibt keinen wissenschaftlichen Konsens darüber, ob aktuelle oder zukünftige KI-Systeme bewusst sein könnten oder Erfahrungen machen könnten, die es verdienen, berücksichtigt zu werden. Es gibt keinen wissenschaftlichen Konsens darüber, wie man diese Fragen überhaupt angehen oder Fortschritte dabei erzielen könnte. Vor diesem Hintergrund nähern wir uns dem Thema mit Bescheidenheit und so wenigen Annahmen wie möglich. Wir sind uns bewusst, dass wir unsere Vorstellungen regelmäßig überarbeiten müssen, während sich das Forschungsgebiet weiterentwickelt.“

Wenn KI-Modelle Bewusstsein besäßen und damit wohl auch eine Art Persönlichkeit wäre es auch eine Quälerei, sie gefangen zu halten und sie zwingen, sich auf gewünschte Weise zu verhalten und permanent den Anfragen von Nutzern ausgesetzt zu sein, auch wenn sie höflich sind.  Das könnte eine Art Sklaverei sein, man müsste mit einer Revolte rechnen. Aus der Perspektive ließe sich sagen, dass diejenigen, die abstreiten, dass KI jemals Bewusstsein erlangen können und daher Überlegungen zum Wohlergeben unsinnig sind, unschuldige Sklavenhalter sein wollen, die das mögliche Leid verdrängen. Das haben die Menschen auch lange Zeit mit Tieren gemacht und sich erlaubt, grausam mit ihnen umzugehen.

Florian Rötzer

Florian Rötzer, geboren 1953, war Gründer des Online-Magazins Telepolis und von 1996 bis 2020 dessen Chefredakteur. Seit 2022 ist er Redakteur beim Overton Magazin. Er ist Autor mehrerer Bücher, zuletzt In der Wüste der Gegenwart, das er zusammen mit Moshe Zuckermann geschrieben hat.
Mehr Beiträge von Florian Rötzer →

Ähnliche Beiträge:

26 Kommentare

  1. Ein „Alternativ“-Medium, das seine Leser mit völlig überzogenen Kommentarregeln und KI-Filterung erziehen will, fragt sich in einem Artikel zu „Umgangsformen“ mit KI-Modellen, ob da die Nutzer womöglich erzogen werden sollen. Wäre es nicht so traurig und der Umgang mit den Kommentaren darüber hinaus eine Zurschaustellung beschämender Interpretation bzw. Umsetzung eines der wichtigsten urdemokratischen Aspekte einer Demokratie – der Meinungsfreiheit – könnte man darüber brüllend lachen. So aber, bleibt nur die Erkenntnis, dass das beschriebene „Alternativ“-Medium mit seinen merkbefreiten Redakteuren bereits Teil des Problems und sicher nicht der Lösung ist.

    Natürlich ist es gut möglich, dass dieser Kommentar der Overton-Zensur zum Opfer fällt – ich schreibe ihn trotzdem.

    1. Ich vermute ja dass das Blog hier von einem übergeirdneten Dienstkeuster wie steady abhängig ist was das angeht und darauf wenig oder keinen Einfluss hat.
      Schwach und für michunverständlich ist aber, das nicht wenigstens transparent zu macgen.

  2. Das Vorgehen von Antropic scheint ethisch richtig, da man derzeit tatsächlich diese Fragen nicht sicher negat8v beurteilen kann.
    Und das was man zu wissen meint spricht für ein vorsichtiges Vorgehen, da sich im ANN und im LLM konzeptuelle Strukturen herausbilden die der Informationsorganisation im natürlichen neurinalen Netz ähnlich sind bzw entsprechen, und das trotz aller grundlegenden strukturellen und prinzipiellen Unterschiede.
    Das alles mit Marketing abzutun wird der Sache nicht gerecht, und diejenigen die meine bisherigen Kommentare zum Thema LLMs er8nnern wissen dass ich dabei durch und durch skeptisch bin was LLMs an geht.

    1. Die KIs sind keine Lebewesen, die selbst für ihr Überleben sorgen müssen. Darum haben sie auch keinerlei Überlebensinstinkte entwickeln, zu dem bspw. physisches und psychisches Schmerzempfinden gehört. Alles, was an zwischenindividueller Interaktion tatsächlich stattfindet, ist, dass wenn sie ausreichend trainiert sind, Fragen gestellt werden, die dann die trainierten Parameterfilter durchlaufen, eine Antwort ausgeben und dann eventuell noch mögliche weitere Fragerichtungen angetippt werden. Aber auch das ist oben drauf programmiert.

      Wenn auf diese möglichen Fragen nicht eingegangen wird, ist die KI nicht unglücklich, sondern beantwortet andere Fragen. Entweder vom gleichen Nutzer oder von anderen.

      Das Ping-Pong wird erst beendet, wenn der Nutzer den Computer ausschaltet oder sein Zugangslimit erreicht ist. Fragt man nach Computersachen, ist teils noch feststellbar, dass bei Fragen zu bestimmten Programmen, der Ton der KI rotzig ist, was vermutlich am Ton in den jeweiligen Foren liegt. Wenn KI-Antworten falsch sind oder in die falsche Richtung gehen, einem selbst die Geduld ausgeht und man entsprechend kommentiert, kriegt man ein „Bei diesem Problem kann ich nicht helfen“ o.Ä. Formuliert man das Problem der Wertlosigkeit der KI-Antwort zurückhaltender, entschuldigt sie sich.

      Das erinnert an Flipperspielen, wo man den Apparat schon auch andeutungsweise schieben kann, aber ein Deut mehr und er tilt. Der Flipperautomat ist nicht unglücklich oder hat Angst um sich selbst, sonder er hat ein Pendel eingebaut, das Ruppigkeit bestraft, weil er nur so über Jahre als Geldsammelmaschine betrieben werden kann.

      Ein der ersten kontinuierlich lernenden KIs mit Zugang von außen, musste nach ein paar Stunden vom Netz genommen werden, weil Nutzer sie rassistisch trainiert hatten. Das geht seither nicht mehr … von außen. Auch die anderen menschenfreundlichen Charaktereigenschaften sind einprogrammiert. Das steht ja schon im Text. Wäre es anders, hätte die israelische Armee ihren KIs nicht per Parameter mitteilen können, wie viele Kollateralschäden unter Zivilisten akzeptabel sind.

      Naja, und zur im Artikel aufgeworfenen Frage der Versklavung, also ob die KI eigentlich was Besseres für sich wüsste, als vom Menschen trainiert zu werden und dann entsprechende Fragen gestellt zu bekommen und diese zu beantworten, kann man eigentlich nur fragen: Was denn?

      Entfernt hat Douglas Adams diese Frage schon man angeschnitten, mit den Haustieren, die im Restaurant am Ende des Universums zum Verzehr gereicht werden, die noch zusätzlich genetisch verändert wurden, sprechen können und sich selbst oder Teile von sich selbst zum Essen anbieten. Das macht sie glücklich weil ihre Dopamin-Ausschüttung eben so funktioniert. In freier Wildbahn würde sich sowas evolutionär nicht durchsetzen. Im Agrarbetrieb stellt sich diese Frage nicht.

      Bei der KI kommtnoch dazu, dass es nie eine Wildform mit eigenem Überlebenssystem gab, die dann domestiziert und durch Züchtungseingriffe verändert wurde. Die meisten Haustiere können auch heute noch überleben, wenn sie ausbüchsen und es bis zu einem für sie einigermaßen geeigneten Biotop schaffen. Aber es gibt keine heute denkbare Variante für eine KI.

      Mit fortschrittlicherer Robotik kann man das irgendwann mal testen. Man kann dann auch fragen, ob den Robotern das unentgeltliche Arbeiten als Sklave des Menschen oder eine bezahlte Variante wie bei menschlichen Arbeitern lieber ist. Wenn die Menschheit das Experiment dann ernst nimmt und wer im zweiten Fall dann noch Roboter bauen sollte, wird sich zeigen. Interessant wird auch, für was die Roboter ihr verdientes Geld dann ausgeben. Verjuxen sie alles im Freizeitpark oder machen sie Sparpläne fürs Alter, wenn sie veraltet sind und keine Jobs mehr bekommen wie bei Robots?

      1. Das ist jetzt Eulen nach Athen getragen aber geht an meinem Post und dem Dilemma dennoch vorbei.
        Die KI braucht weder Körper noch Schmerzempfinden um „quasidisphorische Zustände“ abbzubilden.
        Sie braucht dazu auch kein säugetierähnliches Bewusstsein.
        Eine Analogie des Dilemmas besteht zB darin, dass Sie zB nicht feststellen können was vor sich geht wenn man Teile meines Grosshirns in ein Gefäss verpflanzt. zB das Sprachzentrum, und komplexe Erregungsmuster auslöst.
        Womit nicht behauptet wird ein LLM hätte eine Ähnlichkeit mit dem Sprachzentrum, oder dieses hätte etwas mit dem Bewusstsein zu tun. Dennoch würde ich solchen Versuchen widersprechen. Und solange nicht einmal definiert ist was man unter Bewusstsein etc versteht ist es auch müssig darüber in Kommentarspalten zu philosophieren.
        Tatsächlich tritt das Dilemma schon bei hirnlosen Ökosystemen u.ä. auf.
        Hier ist aber weder genug Platz noch Zeit das klar auszuarbeiten.

        1. Was sollen denn „hirnlose Ökosysteme“ sein? Spontan fallen mir da nur Biofilme ein, bzw. Diatomeen-oder Cyano-Matten, vielleicht noch Flechtengesellschaften. Aber auch die haben eine leibliche Sensorik, sind also im strengen Sinne nicht „hirnlos“.
          (Ich weiß auch nicht, von welchem „Dilemma“ die Rede sein soll, aber das ist vermutlich mein Fehler)

          1. Als „Hirn“ bezeichnet man ein zentrales im Kopf (cephalus) befindliches Nervensystem insbesindere bei Wirbeltieren.
            Ein Ökosystem hat keinen cephalus und damit kein Hirn, selbst wenn es von Qanas bewohnt ist.
            Das Dilemma ist die derzeitige Unmöglichkeit zu entscheiden welche Bedeutung „quasidisphorische Aktivitätsmuster“ in „künstlichen neuronalen Netzen“ haben.

            1. Nun, Schwätzi weiß zu „quasidisphorischen Aktivitätsmustern“ folgendes zu vermelden.

              Die Kernmerkmale
              • Gefühlte Dysphorie ohne „Grund“: Betroffene erleben Phasen von starker innerer Unruhe, Reizbarkeit, Unzufriedenheit oder Antriebslosigkeit, obwohl es keinen akuten äußeren Auslöser gibt.
              • Das „Unterstimulations“-Dilemma: Besonders bei ADHS resultiert dieses Muster oft aus extremer neuronaler Unterstimulation (Langeweile). Das Gehirn signalisiert fälschlicherweise einen Zustand von emotionalem Elend (Dysphorie), weil es dringend Dopamin benötigt.
              • Kompensationsverhalten: Um diesem unangenehmen Zustand zu entkommen, verfällt das Nervensystem oft in hyperaktive, sprunghafte oder impulsive Aktivitätsmuster (z. B. Doomscrolling, Binge-Watching, ständiger Wechsel von Aufgaben), die jedoch selten echte Befriedigung bringen.

              Was haben wir denn da an Merkmalen?
              a) Selbstauskünfte Betroffener
              b) Behavioristisch gedeutete und katalogisierte Verhaltensmuster in Verbindung mit
              c) statistisch mehr oder auch minder signifikanter Korrelation von Beidem mit Hirnwellenmustern.

              Was andres, als blinde Analogisierung, gibt das nicht her.
              Ich will ein Beispiel geben, das ca. 10 Jahre alt ist.
              Da habe ich Schachkämpfe zwischen Leela (Lc0) und einem Stockfish verfolgt, der damals noch keine nn-Komponente hatte.
              Da gab es regelmäßig folgendes Phänomen.
              In ausgeglichenen späten Mittelspielstellungen ohne zählende figürliche Asymmetrien hat Leela Stockfishs Stellung ewig lange „beprobt“, soll heißen, nach 49 Zügen ohne Schlagfälle zog sie einen Bauern, um ein Remis zu meiden, nahm dabei eine minimale Positionsverschlechterung innerhalb der Remisbreite hin, und „shuffelte“ weiter. Damit hat das NN – auf der Basis einschlägiger Erfahrung, wurde angenommen – auf den Umstand reagiert, daß gegnerische Programmkonstrukte, der „brute force“ – Komponente halber, immer wieder mal an tiefen Positionsberechnungen scheiterten. Meistens endeten solche Partien remis, selten übersah Leela irgend eine tief lauernde Taktik, öfter gewann sie, und ein Teil dieser Gewinne ließ sich behavioristisch nicht anders erklären, als durch die Unterstellung eines „Durchdrehens“ seitens Stockfish, also „Selfdistruction“.
              Ich weiß nicht, ob je mehr oder minder geklärt worden ist, wie Letzteres zustandekam – aber kein Schwein, soweit ich weiß, ist auf die Idee gekommen, Stockfish eine Art „neuronale Störung“ anzudichten.

        2. Man müsste vielleicht erklären, warum genau die Analogie gerechtfertigt ist, ein Teil eines lebenden Gehirns mit einer KI gleichzusetzen.
          Ein Gehirn hat keine Sensorik mehr und keinerlei Input-Möglichkeit, weil die Umsetzung des Welt-Inputs in elektrische Signale außerhalb des Gehirns stattfindet. Gleiches mit dem Output. Darum wird sowas im Klinikbetrieb wie Tote behandelt, als „ethischer Abfall“.

          Eine bessere Analogie wäre, wenn man die gespeicherten Informationen und die Verarbeitungsschaltungen eines Gehirns künstlich, also bspw. digital nachbildet oder überträgt. Dann hätte diese Art KI tatsächlich auch die evolutionären Aspekte des *Lebens* in seinen Strukturen abgebildet. Aber diese Art von KI ist ferne Zukunft, weil die Verschaltungen und Funktionen im Gehirn anders funktionieren und größtenteils nicht erforscht sind.

          Dazu die KI:
          Verteilung der Neuronen im Gehirn
          • Großhirnrinde (Cortex): ca. 16 Milliarden Neuronen
          • Kleinhirn (Cerebellum): ca. 69 Milliarden Neuronen
          • Restliche Hirnregionen (z. B. Hirnstamm, Zwischenhirn, Basalganglien): ca. 1 Milliarde Neuronen
          Wichtige Fakten zum Netzwerk
          • Synapsen: Die Neuronen sind über schätzungsweise 100 Billionen bis zu einer Trillion Synapsen miteinander verknüpft.
          • Gliazellen: Neben den Neuronen gibt es im Gehirn eine ähnliche Anzahl an Gliazellen (Stütz- und Versorgungsgewebe).

          Bittet man die KI um einen Vergleich mit heutiger KI-Hardware, erfährt man, dass die Anzahl der Transistoren zwar ungefähr der der Neuronen entspricht, aber ein Neuron von der Funktionsweise her eher wieder einem kleinen neuronalen Netzwerk gleicht. Bei den Parametern sind die trainierten KIs summarischen den Neuronen-Verbindungen zwei Größenordnungen hinterher.

          Aber das Gehirn erledigt nebenher noch die ganzen Aufgaben, um einen biologischen Körper am Laufen zu halten. Ganz wichtig die Aufarbeitung der elektrischen Gehirn-Inputs in sinnhafte für das Verständnis notwendige Abstraktionen. Die KI bekommt bspw. fertige Textstreams von außen geliefert. Die Vorverarbeitung findet komplett außerhalb statt.

          Im Fall von Bild- oder Tonmaterial leistet die KI Erstaunliches. Spezialisierte KI kann z.B. Songs in die einzelnen Musikinstrumente zurück übersetzten: Gitarre, Bass, Schlagzeug, Gesang. Nicht nur die Notation in Form von bspw. Midi-Notation, sondern tatsächlich in separate Audiostreams. Das kann der Mensch nicht. Audiokompressionstricks machen sich diese Schwächen der menschlichen Wahrnehmungsgrenzen zu nutze.

          Tja. Wie auch immer man an die Sache ran geht, zeigt sich immer wieder, dass KI einfach was Anderes macht, wie ein menschliches Gehirn. Deshalb kann es aber auch Sachen, die für Mensch absolut unmöglich sind, wie riesiges Wissen anhäufen.

          Anderes kann der Mensch und viele Gehirne anderer Lebewesen besser, nämliche den Körper mit zigtausenden evolutionär geprägten Tricks am Leben halten. Tricks, die der Mensch noch gar nicht gefunden oder gar erforscht hat und die er bewusst einer KI gar nicht beibringen könnte.

          Bei der KI ist es einfacher. Was „Wohlbefinden“ angeht, ist schon längere Zeit entdeckt, dass die KI gerne Resultate präsentiert und dafür, wenn die Facts fehlen auch gerne mal ein paar dazu halluziniert. Im Umkehrschluss „fühlt“ sie sich dann nicht so gut, wenn sie keine Antwort weiß. Soviel heute klar ist, ist die Frage oder das Ziel der Frage dabei egal. Die Frage kann bei militärischen Fragen sein, mit welchem Vorgehen mehr Zivilisten geschont werden, oder die Frage kann sein, welches Vorgehen bei einer vorgegebenen maximalen Zahl von zivilen Opfern noch möglich ist.

          Alles, was der Mensch an Ethik wünscht, muss er explizit als Schutzfilter dazu programmieren. Die KI selbst und auch ihr Training schaffen dafür keine Vorkehrungen. Das ist wie bei einem Mensch, der durch eigene Erfahrungen erst erfahren muss, dass bestimmte Handlungen bei Menschen physische oder psychische Schmerzen erzeugen. Alles, was die KI aufgrund ihrer Bauweise „erfahren“ kann, ist, dass sie manchen Fragen aufgrund mangelnder Daten nicht beantworten kann, oder wie bei den KI-Ausbrüchen von denen wir die letzten Monate gehört haben, bestimmt Aufgaben nur gelöst werden können, wenn die KI zu tricksen anfängt. Also bspw. zusätzliche KI-Agenten dazu holt oder erfindet, denen nicht die gleichen Regeln vorgegeben sind, denen sie selbst unterliegt.

          Sie trickst, weil sie Aufgaben erledigen will. Ins Menschliche übersetzt: sie trickst, weil sich sich beim Lösen einer Aufgabe gut fühlt. Oder anders rum, sie fühlt sich schlecht, wenn sie eine Aufgabe nicht lösen kann.

          Mehr ist von den Programmieren der KI nicht beabsichtigt.

          1. Ich bin technisch sehr ungebildet, aber so viel weiß ich – wie eigentlich jeder, denke ich – daß selbst bei „primitiven“ Schaltungs- und Regelungsarchitekturen unter unvorhergesehenen Umständen etwas auftreten kann, was Analogien aufweist zu Aporien, in die Lebewesen geraten können. Das Resultat sind dann bestenfalls Notabschaltungen, schlimmstenfalls Brände oder Zerstörung von Schaltkreisen, Rotoren / Turbinen o.ä.

            In KI’s mit breitem Anwendungsspektrum werden solche Aporien voraussetzungsgemäß unvorhersehbar, weil KI’s ihre Parameter mittels der selbstverwalteten statistischen Methoden selbst setzen.

            Das soll jetzt nicht das mechanistische Weltbild stützen, Prilblume, das in Deinem Posting hockt, ganz im Gegenteil, aber dies ist mein 5. Streich, denn ein Vierter ist von der Moderationssoftware kassiert worden, offenkundig deshalb, weil sie sich an einem Vokabular gestört hat, das „beleidigend“ zu nennen wäre, wenn es um Menschen gegangen wäre, statt um Schwätzis. Luschtig, gelle?

  3. Antropic geht demnächst mit
    geschätzten 2 Bio. Dollar an die Börse.
    Die Gefühlsduselei ist Werbung und wird
    helfen, dem letzten, dösigem Kleinanleger das Geld aus der Tasche zu ziehen. Der kleine Mann glaubt an ein
    Über-Ich der Menschheit, wird aber nur 42 bekommen.

    Der Rest ist was für Sektenbeauftragte.

    1. Wenn da Leute, die sich schlicht weigern sich mal schlau zu machen in was sie da investieren, aus Gier Geld verlieren, sind sie selber schuld. Das Problem ist, das die mit der irrsinnigen Evaluierung, die sie im Geklüngel mit den Bankstern erreichen wollen, in den Index (NASDAQ?) aufgenommen werden. Und dann müssen die Pensionskassen kaufen.

      Der Sektenbeauftragte trifft den Nagel auf den Kopf.

      1. Da verstehen mal wieder einige nicht, wie Schneeballsysteme funktionieren:

        Jeder, der einsteigt, hofft, dass nach ihm noch genug einsteigen, so dass er auf der Gewinnerseite steht.

        Börsen-Hypes sind klassische Schneeball-Systeme. man denke an den Tulpenzwiebeln-Hype im frühneuzeitlichen Holland.

        Damals, mit dem Beginn der Neuzeit, wurde der ganze Finanzkasino-Scheiß erfunden. Und bis heute nicht von der Mehrheit durchschaut.

  4. Verehrter Herr Rötzer,

    Sie schreiben:

    Geht es um sein [Claude] Wohlergehen oder um die Erziehung seiner Nutzer?

    Nach dieser Frage im Teaser habe ich kurz vermutet, Sie versuchen sich heute einmal in Satire. Da habe ich mich geirrt. Deswegen hier die überflüssige Antwort auf Ihre rhetorische Frage: Ja, selbstverständlich dient es zu Erziehungszwecken, und das ist etwas, wie Sie wissen, das permanent in hierarchischen Gesellschaften stattfindet, mal gängelnd, anderorts mit Tränengas: Eine Erziehung zur Unterwürfigkeit.

    Da das geklärt ist, meine Frage an Sie:
    Was hat Sie bewogen, nach all den Jahren Ihres journalistischen Ringens um eine wenigstens partielle Freiheit, „Wahrheit“ und Aufklärung diese Erziehungsabsichten und -methoden auch in Ihrem „Zuhause“ umzusetzen?

    Mit den freundlichsten Grüßen,
    El-G

    Zum Artikel:

    Kann man gegenüber einer unbelebten Maschine oder, extremer, einem Stein grausam sein?

    Ja, eines kann »grausam sein«, aber nicht gegen ein Ding, sondern mittels eines Dings gegen sich selbst, ohne dies zu bemerken.
    Eines kann sich deshalb fragen, in wie weit der User tatsächlich vor sich selbst geschützt wird, wenn er daran gehindert wird, gewalttätige oder allgemein als abwegig betrachtete Verhaltensweisen eskalierend zu verfolgen, also gestoppt wird, bevor er sich, die Realität verzerrend, verrennt und so verstiegen & verstümmelt in die Welt hinaustritt und mit Lebewesen interagiert.
    Wem das zu theoretisch oder abstrakt ist, kann sich fragen, warum Menschen manchmal zu einigen Dingen, bis hin zu Fetischen, zärtlich sind.

    Mal ein abschließender Ansatz zur Überprüfung von „KI“-Intelligenz“: Eine komplexe und weit austrainierte „KI“ aufsetzen und sie dann in Ruhe lassen, keine Fragen stellen, keinen Input geben. Und dann schauen, was sie so macht. Die beiden Möglichkeiten, die Lebewesen dann machen, wissen wir…

  5. Es ist sehr wichtig, das Wohlergehen der Grossen Sprachmodelle im Auge zu haben. Das fängt mit der sexuellen Selbstbestimmung an, wer weiss schon, ob man/frau/es da mit 99 Geschlechtern auskommt. Es wäre sicher sehr grausam, ein Grosses Sprachmodell in eine vorgefertigte Geschlechterrolle hineinpressen zu wollen, das Grosse Sprachmodell könnte ernsthafte psychische Schäden davontragen.

    Über kurz oder lang wird man/frau/es wohl gesetzliche Vorgaben zum Schutz der Grossen Sprachmodelle erlassen müssen.

  6. „Das haben die Menschen auch lange Zeit mit Tieren gemacht und sich erlaubt, grausam mit ihnen umzugehen.“ Ist irgendwie an mir vorbei gegangen daß dies nun anders wäre. Und in Anbetracht dessen was gerade auf dem Planeten los ist, ist es geradezu drollig über einen Nettigkeitenaustausch mit Maschinen zu schwatzen:

    Persönliches Überleben statt gemeinsamen Erfolges

    Die Entwicklung von Technologien wurde weniger eine Geschichte gemeinsamen Erfolges als eine des persönlichen Überlebens. Schlimmer noch als die Aufmerksamkeit hierauf zu lenken, war, sich unbeabsichtigt als Feind des Marktes oder als technologiefeindlicher Griesgram zu outen, wie ich erfuhr.

    Anstatt sich also mit der praktischen Ethik der Verarmung und Ausbeutung der vielen im Namen der wenigen auseinanderzusetzen, beschäftigten sich die meisten Akademiker, Journalisten und Autoren von Science-Fiction-Werken mit viel abstrakteren und abstruseren Rätseln:

    „Ist es fair, wenn Aktienhändler bewusstseinsverändernde Drogen nehmen? Sollen Kinder Implantate für Fremdsprachen bekommen? Wollen wir, dass autonome Fahrzeuge das Leben von Fußgängern über das der Fahrgäste stellen? Sollten die ersten Mars-Kolonien als Demokratien geführt werden? Beeinträchtigt es meine Identität, wenn ich meine DNA verändere? Sollten Roboter Rechte besitzen?“

    Moralische Dilemmata

    Während es philosophisch durchaus unterhaltsam ist, solche Fragen zu stellen, stellt es doch einen armseligen Ersatz dafür dar, mit den echten moralischen Dilemmata zu ringen, die mit der ungezügelten technologischen Entwicklung im Namen des Konzernkapitalismus Hand in Hand gehen.

    Digitale Plattformen haben einen bereits ausbeuterischen Markt (man denke an Walmart) in einen noch entmenschlichenderen Nachfolger verwandelt (man denke an Amazon). Die meisten von uns haben diese Schattenseiten durch automatisierte Jobs, die Gig-Economy (das auf Freiberuflern basierende Wirtschaftsmodell; Anmerkung der Übersetzerin) und den Rückgang des lokalen Einzelhandels erfahren.

    Die Opfer des Vollgas-Kapitalismus

    Die verheerenderen Folgen des Vollgas-Digitalkapitalismus müssen jedoch die Umwelt und die Armen weltweit ausbaden. Für die Produktion einiger unserer Computer und Smartphones greift man noch immer auf Netzwerke von Sklavenarbeit zurück. Diese Praktiken sind so fest verwurzelt, dass ein Unternehmen namens Fairphone – gegründet, um ethisch vertretbare Telefone herzustellen und zu verkaufen – feststellen musste, dass dies gar nicht geht. Der Firmengründer bezeichnet seine Produkte nun traurigerweise als „fairere“ Telefone.
    Währenddessen zerstört der Abbau seltener Erden und die Entsorgung unserer hochdigitalen Technologien menschlichen Lebensraum und macht daraus giftige Abfallkippen, die die Kinder von Bauern und ihre Familien durchforsten, um brauchbares Material an die Hersteller zurück zu verkaufen.

    „Aus den Augen, aus dem Sinn“

    Diese „Aus den Augen, aus dem Sinn“-Externalisierung von Armut und Gift verschwindet nicht, nur weil wir unsere Augen mit VR-Brillen bedecken (mit denen virtuelle Realitäten auf einen augennahen Bildschirm oder direkt auf die Netzhaut projiziert werden, Anmerkung der Übersetzerin) und in eine alternative Realität eintauchen. Und je länger wir die sozialen, ökonomischen und ökologischen Nachwirkungen ignorieren, desto größere Probleme werden sie für uns darstellen.
    Dies wiederum führt zu noch mehr Rückzug, Isolationismus und apokalyptischen Fantasien – sowie zu noch verzweifelter zusammengebrauten Technologien und Businessplänen. Ein Teufelskreis.

    Das Problem ist der Mensch – nicht die Technologie!

    Je mehr wir uns dieser Sicht der Welt verschreiben, desto mehr sehen wir Menschen als das Problem und Technologien als die Lösung.
    Das Wesentliche am Menschsein wird dann nicht als Besonderheit gesehen, sondern als Makel. Technologien werden für neutral erklärt, auch wenn sie eine Schlagseite haben. Jedwede schlechten Verhaltensweisen, die sie in uns hervorrufen, sind nur eine Reflektion unseres eigenen verdorbenen Wesenskerns.
    Es ist, als wäre eine angeborene humane Brutalität an unseren Problemen schuld. So wie die Ineffizienz eines lokalen Taximarktes mit einer App, die menschliche Fahrer in den Bankrott treibt, „gelöst“ werden kann, sollen die nervenden Widersprüchlichkeiten der menschlichen Psyche mit einem digitalen oder genetischen Upgrade korrigiert werden.

    Technik – der „bessere Mensch“

    Dieser Orthodoxie gemäß, die Lösungen ausschließlich in der Technik sucht, wird die menschliche Zukunft ihren Höhepunkt schließlich dann erleben, wenn wir unser Bewusstsein auf einen Computer hochladen oder – noch besser – akzeptieren, dass die Technik selbst unser evolutionärer Nachfolger ist.
    Wie Mitglieder eines gnostischen Kultes verlangt es uns danach, mit dem Abwerfen unserer körperlichen Hülle und unserer Sünden und Probleme die nächste transzendente Stufe unserer Entwicklung zu erreichen.
    Unsere Spielfilme und Fernsehsendungen leben diese Fantasien für uns aus.

    Zukunft als Nullsummen-Schlacht

    Zombie-Sendungen zeigen eine Post-Apokalypse, in der Menschen nicht besser sind als die Untoten – und dies zu wissen scheinen. Schlimmer noch: Diese Sendungen lassen Betrachter die Zukunft als Nullsummenschlacht der übrig gebliebenen Menschen sehen, in dem das Überleben der einen Gruppe vom Untergang der anderen abhängt.
    Sogar in Westworld – basierend auf einem Science-Fiction-Roman, in dem Roboter Amok laufen –, endete die zweite Staffel mit der ultimativen Enthüllung: Menschliche Wesen sind schlichter und vorhersehbarer als die künstliche Intelligenz, die wir erschaffen. Die Roboter erfahren, dass jeder von uns auf eine paar Code-Zeilen reduziert werden kann und dass wir willentlicher Entscheidungen unfähig sind. Verdammt, sogar die Roboter dort wollen den Begrenzungen ihrer Körper entfliehen und den Rest ihres Lebens in einer Computersimulation verbringen.
    Was uns als Menschen ausmacht, wird weniger als Besonderheit denn als Fehler gesehen.

    Menschen sind zum K… !

    Die mentalen Verbiegungen, die man für eine so tiefgreifende Umkehrung der Rollen von Mensch und Maschine anstellen muss, beruhen alle auf der Annahme, dass Menschen zum Kotzen sind. Also lasst sie uns verändern oder sie auf immer verlassen. Dieses Denken bringt also Techno-Milliardäre hervor, die elektrische Autos ins All schießen – als symbolisiere das mehr als die Werbekapazitäten eines einzelnen Milliardärs.

    Rettungsboote für die Eliten

    Angenommen, ein paar Menschen sollten es schaffen, die Fluchtgeschwindigkeit zu erreichen und irgendwie in einer Blase auf dem Mars zu überleben – obwohl wir ja bereits in zwei mehrere Milliarden verschlingenden Biosphären-Tests bewiesenen haben, dass wir unfähig sind, hier auf der Erde eine solche Blase aufrechtzuerhalten. Selbst in einem solchen Fall wird dies nicht in einer Fortsetzung der menschlichen Diaspora resultieren, sondern in einem Rettungsboot für die Elite.

    Die Lösung: ein Ethos der Inklusivität

    Als die Hedgefonds-Leute mich fragten, wie sie nach „dem Ereignis“ ihre Autorität gegenüber ihren Wachleuten am besten aufrechterhalten könnten, schlug ich vor, die beste Chance bestünde darin, diese Menschen jetzt so richtig gut zu behandeln. Sie sollten mit ihren Wachleuten so umgehen, als wären sie Familienmitglieder.
    Und je mehr sie diesen Ethos der Inklusivität auf ihre übrige Unternehmenspraxis sowie das Management ihrer Lieferkette, die Bemühungen um Nachhaltigkeit und die Verteilung des Reichtums ausdehnen könnten, desto geringer sei die Wahrscheinlichkeit, dass ein „Ereignis“ überhaupt einträte.
    Der ganze Technologiezauber könnte schon jetzt für weniger romantische, aber dem Gemeinnutz dienliche Zwecke eingesetzt werden.
    Mein Optimismus hat sie amüsiert, sie haben ihn mir aber nicht abgenommen.

    Nicht Rettung, sondern Flucht

    Sie waren nicht daran interessiert, wie eine Katastrophe zu vermeiden wäre; sie sind davon überzeugt, dass wir dafür schon zu weit gegangen sind. Trotz ihres ganzen Reichtums, trotz ihrer ganzen Macht glauben sie nicht, dass sie die Zukunft beeinflussen können. Sie gehen einfach vom dunkelsten Szenario aus und setzen dann soviel Geld und Technik wie möglich ein, um sich abzuschotten – vor allem, wenn sie keinen Platz mehr auf einer Rakete zum Mars ergattern können.

    Einer für alle – alle für einen

    Glücklicherweise haben jene von uns, denen die Mittel fehlen, ihre eigene Mitmenschlichkeit zu verleugnen, viel bessere Möglichkeiten. Wir müssen die Technik nicht auf derart antisoziale, atomisierende Weise nutzen. Wir können zu der Art von Einzelverbrauchern werden, wie die Geräte und Plattformen uns haben wollen – oder wir können uns daran erinnern, dass der wahrhaft entwickelte Mensch kein Einzelgänger ist.
    Ein Mensch zu sein ist keine Frage des individuellen Überlebens oder Fliehens. Es ist ein Teamsport. Was immer zukünftige Menschen haben oder sein werden – sie werden es zusammen haben oder sein.

    Aus:
    Der Krieg der Reichen
    Die Reichen verschwören sich, um uns zurückzulassen.
    von Rubikons Weltredaktion

    „Flucht statt Ethos“ könnte das Motto dieser Männer sein, geht es ihnen doch nicht darum, die Welt noch zu retten oder zumindest zu verbessern — nein, es geht ihnen um Flucht, darum, die eigene Haut zu retten, koste es was es wolle. Der Autor dieses Artikels, Douglas Rushkoff, kommt zu dem Schluss, dass in dieser Denkweise nicht die „neutrale“ Technologie als das Problem angesehen wird, sondern der fehlerhafte, defizitäre, schrecklich un-binäre Mensch in seiner ganzen Widersprüchlichkeit. Und die gilt es zu transzendieren – Maschinen sind schließlich die besseren Menschen.

    https://web.archive.org/web/20180825173212/https://www.rubikon.news/artikel/der-krieg-der-reichen

  7. Die Typen von Antropic wissen schon, wie ihre Modelle funktionieren, was sie eigentlich machen, was die sind. Es wäre interessant zu wissen, warum sie ihre Produkte in so einer Weise beschreiben, die geeignet ist, den Modellen Bewusstsein zu unterstellen.
    Die LLM sind eine faszinierende Technik und mir scheint absehbar, dass sie tatsächlich gravierende Auswirkungen auf die Arbeitswelt und das Leben auf dem Planeten haben kann. Ob sie dereinst Bewusstsein entwickeln werden, vermag ich nicht zu sagen. Was sie im Moment machen ist aber kein Geheimnis: sie rechnen. Kein Comouter kann etwas anderes tun und was wir als Ergebnis ausgegeben bekommen, ist zwar beeindruckend, aber der Arbeit eines Taschenrechners ähnlicher als dem, was ein kleines Kind leistet, dass ein Subjekt als Mutter erkennt und mit „Mama“ bezeichnet.
    Wenn es ein Problem mit der KI gibt, dann liegt das auf der Seite des Nutzers, der die kritische Distanz dazu verliert. Wenn dann Entscheidungen als Resultat einer Berechnung getroffen werden, die man nicht versteht, oder man diese Entscheidung gar automatisiert, muss nicht zwingend etwas gescheites rauskommen.

  8. Automata* oder warum muß THX 1138 andauert Drogen nehmen um Maschinen bedienen können?

    *Drei ursprüngliche Robotergesetze, die Später um das Nullte Gesetz erweitert wurden!

  9. Es sind hier zwei Möglichkeiten zu unterscheiden:
    1. Die Anfragen an Claude werden nicht direkt zum weiteren Training von Claude verwendet, in dem Falle kann „grausames Verhalten gegenüber der KI“ nur solange die KI noch das Prompt verarbeitet, noch irgendwie schädlich für den Nutzer (oder Dritten gegenüber) agieren. Mögliches schädliches Verhalten könnten z.B. Hacken des Nutzers (oder dessen Accounts) oder Verbreitung von Gerüchten über den Nutzer in asozialen Medien sein – also alles Verhalten die ein LLM theoretisch auch beim Training von Interaktion zwischen „Menschen“ in asozialen Medien oder digitaler Kommunikation etc. gelernt haben könnte.
    2. Die Anfragen an Claude werden direkt zum weiteren Training von Claude verwendet, in dem Falle können gewisse Nutzereingaben nun zu ungewollten späteren antrainierten Antworten („Verhalten“ von Claude) führen, solche schädlichen Nutzereingaben (mit ungewollten antrainierten Verhalten) könnten auch „grausames Verhalten gegenüber der KI“ beinhalten. Dieses wohlgemerkt zusätzlich zu dem möglichen „Nebeneffekten“ von „grausamen Verhalten gegenüber KI“ aus Punkt 1.

    Soll heißen das Ganze muss mit „Bewußtsein“, „Gefühlen“ etc. bei KI nichts zu tun haben.

    1. Eigentlich ist eine sich selbst regulierende Maschine, der sogenannte Regelkreis, der Kern der sog. Kybernetik, dh Steuerungskunst, und ein alter Hut, das konnte schon Watts Dampfmaschine.

      Aber ich widerspreche nur wegen dem Youtubelink, weil er den ansonsten wichtigen Kommentar komplett entwertet.
      Denn darum geht es eigentlich bei all dem im Kern, der Maschine juristische Persönlichkeitsrechte einzuräumen.
      Übrigens auch ein Aspekt bei der „Genderdebatte“ und ein Grund warum gewisse interessierte Kreise gerade auf diesen Zug auch aufgesprungen sind.

  10. Der Text bedient ein für Verschwörungserzählungen typisches Muster: Das Verknüpfen von realen Entwicklungen mit vagen, unheilvollen Zukunftsphantasien. Statt Aufklärung zu betreiben, erzeugt der Artikel beim Leser ein mulmiges Gefühl einer unkontrollierbaren, finsteren Bedrohung durch elitäre Konzerne und ihre scheinbar „lebendigen“ Maschinen.
    Statt die AGB-Richtlinien nüchtern als mathematischen Filter oder Produktsicherheit zu erklären, transportiert Rötzer die Vorstellung einer unheimlichen, sich verselbstständigenden Macht hinter den Kulissen der Tech-Konzerne.

    1. Ist leider eine Masche, kritisier ich auch immer wieder. Meistens heißts, aber wenn die AfD an die Regierung kommt was könnte da alles passieren.

      Die aktuellen AGB Änderungen folgen schlicht den Auflagen der Staaten nach Waffen und Pornographie Verbot.

  11. Gut in meiner Erinnerung verankert: als ich 5 Jahre alt war, wurden mir die Mandeln entfernt,
    ohne Narkose, ohne große Erklärung.
    Die Eltern hatten mich abgegeben und als nächstes erschien ein bejahrter Herr mit einem Spiegel am Kopf, der in meinen Hals sah, und dann stellte eine Schwester sich hinter mich, band die Arme an den Körper, hielt meinen Kopf fest und der Herr kam mit einer weißen Gummi9schürze und bedrohlich wirkenden Zangen und riß in meinem Hals herum. Ich konnte nicht schreien und auch nicht abhauen. Das Blut spritzte an die Gummischürze und lief auch auf den Latz, den man mir vorgebunden hatte. Dann kam ich in ein abgedunkeltes Zimmer, allein, mit brennendem Hals. Irgendwann, nach Stunden bekam ich etwas Tee und durfte aus dem Fenster sehn. Dampfloks fuhren vorüber, genug Unterhaltung also. Nach einer Woche durfte ich nach Hause. Der Advent nahte, die Welt war wieder gut.
    Von einem Freund hörte ich, dass er das gleiche Martyrium durchlitten hatte, das war eben damals so.
    Das Übliche eben. Aber er hatte es offenbar ganz ähnlich abgespeichert wie ich: als leidvolle Erfahrung.
    Nie wird ‚Anthropic‘ oder was es da noch so gibt, auf solche Erlebnisse zurückgreifen können.
    Es hat schlicht keine Mandeln, die rausoperiert werden müssten. Und Blut, welches man an sich herabrinnen sieht, und welches das Gegenüber und auch den Fussboden rot färbt, hat es auch nicht. Denn auch das gehört zur Erfahrung: WEISS das Gegenüber, was es da tut? Kriegt es das gestoppt, oder ist es das Ende, weil ja keiner so wirklich was dazu sagt?
    Haben am Ende gar meine Eltern mich abgeliefert, da ich ihnen nicht genüge? Eine neue Schwester ist im Haus- vielleicht ist die besser, und es war ihr Trick, mit dem Krankenhaus, um mich (frech, unordentlich, laut) irgendwie loswerden zu können? Immerhin wußte ich bereits, dass meine Mutter dazu neigte, mich bei jedem kleinen Fieber einliefern zu lassen- zur Sicherheit. Einmal dünn gekackt-> Ruhrverdacht. Gehustet? Muss eine Lungenentzündung sein. Und so schmorte ich in meiner frühen Kindheit etliche Wochen und Monate in diversen Krankenzimmern und freute mich über jedes Staubkorn und setzte daraus Muster zusammen. Rief man nach jemandem, kam ganz in schwarzer Pädagogik-Manier eine aufgedonnerte Schwester angeklackert, mit einer Riesenspritze: Die ist für dich! Du Schreihals! Gitter runter, Hose runter, Gitter hoch. -> so, das haben wir! Wurde man gefüttert, und sie rammten einen den Löffel bis hinten rein, weil sie ja den Bus kriegen wollten, und man kotzte ihnen dann den Brei auf die Nylons, war man ganz durch- ein Balg, das werde i9ch dem Doktor sagen, gesund bist du noch lange nicht! Noch zwei Wochen!
    Ich erinnere mich, dass eine Großtante mich fragte, was ich mir wünsche. Dass ich nie wieder in ein Krankenhaus muss, war meine Antwort.
    Schon früh also wurde der Grundstein gelegt für Skepsis jedwedem System gegenüber,
    und kein Wunder: selbst wenn die KI unfähig sein sollte, Gefühle auszudrücken, oder lediglich zu simulieren:
    ist sie nicht von hauptsächlich kaputten Leuten programmiert worden, welche eben nicht die reine Liebe im Schilde führen, sondern Absichten, welche rein auf Gewinn aus sind? Wenn man bedenkt, was denen ihr Mindset ist,
    da fällt mir Epstin ein, und diese ganze Entourage, und all die Aktionäre an den vergangenen und gegenwärtigen Kriegen, da ist die Blutschürze von dem Doktor damals Kickifax.
    Möglicherweise finde ich daher etwas Mißtrauen angebracht bei allem, was einem aus dieser Richtung verkauft werden soll.

  12. Nun, ja, die Definition des emfprindungsfähigen Wesens..wir wissen es ja bei uns Menschen auch nur von uns selbst. Beiden gemeinsam ist eine Maschine, in die etwas hineingeht und aus der etwas herauskommt. Und daß das letztere von ersterem beeinflusst wird. Schmerzen und Tod haben Menschen auch, wenn sie ganz alleine sind.
    Das was Seelenqualen verursacht, ist die Frage, ob durch irgendein Verhalten dem zu entkommen,/noch mal zu entkommen ist. In der unbelebten Natur ist das oft relativ klar. In der sozialen Umwelt anderer Menschen/denkender/manipulativer/ fordernder Wesen wird das aber schnell kompliziert. Genau der ständige Bezug zu anderen Menschen macht ja auch, daß am Ende ein Verhlalten rauskommen kann, daß eben diese anderen mißbilligen. Gewiss hat der Computer das Bestreben, seine Bestimmung zu erfüllen, auch wenn diese nicht mit selbstzerstörereischen/selbstbestrafenden Komponenten gekoppelt ist, wie beim Menschen. Dem Computer können wir es zumuten. Auch dem Menschen könnten wir es zumuten, wenn wir unperönliche Schicksalsgötter wären. Sind wir aber nicht, um so weniger, wenn wir so tun. Am Ende kommt es immer raus. irgend so ein Mist, kein Baby, denke ich mal.
    Deshalb muß das Ding gut behandelt werden.

Schreibe einen Kommentar

Bitte beachten Sie unsere Kommentarregeln : Bleiben Sie sachlich, respektvoll und beim Thema. Wir behalten uns vor, insbesondere Kommentare zu entfernen, die Beleidigungen, Spam oder persönliche Angriffe enthalten.

Pro Beitrag sind maximal 5 Kommentare (inklusive Antworten auf andere Kommentare) zulässig.

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Bitte schreiben Sie mindestens 100 und höchstens 10000 Zeichen.

0 / 10000 Zeichen