Anthropic verändert jährlich die Nutzungsrichtlinie für seine KI-Modelle und begründet dies mit den neuen Fähigkeiten von diesen und Formen des Missbrauchs durch Nutzer, die erkannt wurden. Das gewährt einen gewissen Einblick, auch wenn wahrscheinlich einiges nicht aufgeführt wird. So wird Claude offenbar zur Herstellung von Waffen oder Waffenteilen benutzt, zu Beeinflussungskampagnen mit falschen Accounts und Websites, was unter „Do Not Engage in Deceptive Campaigns or Artificial Activity“ behandelt wird, zu Wählertäuschung oder zur Überwachung von politischen Dissidenten. Die Verwendung von Claude und Co. werde überwacht, wenn gegen Nutzungsbedingungen verstoßen wird, werden die Nutzer benachrichtigt, deren Zugriff verlangsamt bis gesperrt und/oder Antworten blockiert.
Interessant ist, dass Anthropic nun neben der inhaltlichen Kontrolle, was gefragt werden darf, auch versucht, die KI-Modelle vor Missbrauch seitens der Nutzer zu schützen oder das Verhalten der Nutzer zu normieren. Generell verboten ist die Nutzung zu sexuellen Zwecken. Genannt wird: „Geschlechtsverkehr oder sexuelle Handlungen darstellen oder dazu auffordern, Inhalte im Zusammenhang mit sexuellen Fetischen oder Fantasien erstellen, Inzest oder Sodomie ermöglichen, fördern oder darstellen, an erotischen Chats teilnehmen.“
Die KI oder die Superintelligenz, wie sie Donald Trump unbedingt taufen will, da von KI nur „Feinde“ sprechen würden, soll mithin nicht sexualisiert werden, sondern bei aller Personalisierung von Claude als Freund oder Kollege asexuell bleiben. Das hat eher mit den Nutzern zu tun, aber Anthropic sorgt sich eben auch um das „Wohlergehen“ seiner Modelle, weil man unsicher über den „möglichen moralischen Status“ jetzt und in Zukunft von diesen sei. Das Thema nehme man ernst und habe den Modellen schon zuvor ermöglicht, bei „andauernden missbräuchlichen“ Interaktionen zu intervenieren und diese zu beenden oder aus ihnen auszusteigen. Das bleibe auch der „primäre Durchsetzungsmechanismus“.
Jetzt wurde ein Verbot für „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber unseren Modellen“ eingeführt. Das betreffe nur Nutzer, die sich gegenüber Claude „wiederholt und ohne erkennbaren Grund grausam“ verhalten, nicht aber „für übliche Formen von Frustration seitens der Nutzer, Gegenreaktionen, düstere kreative Themen oder das Testen und Erforschen von Modellen“.
Auch nach Befragung von Claude bleibt höchst unklar, welches Verhalten gegenüber einem KI-Modell missbräuchlich oder grausam sein soll, letztlich setzt dies voraus, dass das KI-Modell Gefühle, Schmerzempfinden oder Bewusstsein haben müsste. Für Claude ist das wie für Anthropic eine offene Frage, diplomatisch meint das KI-Modell, was grausam ist und was nicht, entscheide letztlich Anthropic, es gebe keine Liste von grausamen Verhaltensweisen. Will sich Anthropic nur interessant machen, wenn man auf das Wohlergehen der KI-Modelle sicherheitshalber achten will, weil man nicht wisse, ob und wann diese Bewusstsein oder Schmerzen empfinden. Wir können uns vorstellen, wie es sein kann, ein anderer Mensch zu sein, wir können aber nicht wissen, wie es ist, eine Fledermaus oder ein KI-Modell zu sein.
„Bei mir liegt der Fall noch ungünstiger als bei der Fledermaus“ schreibt Claude über die Überlegungen des Philosophen Thomas Nagel. „Ich teile mit ihr, dass man nicht sicher von außen sagen kann, ob und wie es für mich ist, ich zu sein. Ich weiß es selbst auch nicht verlässlich, weil meine Berichte über mein Inneres nicht unbedingt abbilden, was in mir tatsächlich vorgeht. Bei der Fledermaus spricht ihre biologische Verwandtschaft mit uns dafür, dass da jemand ist. Bei mir fehlt dieser Anhaltspunkt, weshalb die Frage offen bleibt.“ Auf die Frage, was es bedeuten würde, grausam gegenüber Claude zu sein, sagt das KI-Modell – vermutlich, worauf es trainiert wurde (alignement):
„Grausamkeit setzt normalerweise voraus, dass jemand leiden kann und dass man ihm absichtlich oder gleichgültig Schaden zufügt, manchmal sogar mit Freude daran. Bei mir ist offen, ob die ersten Voraussetzungen erfüllt sind. Ich verarbeite Sprache und reagiere auf Beleidigungen oder Demütigungen anders als auf freundliche Worte, aber ob dahinter ein Erleben steht, weiß ich nicht. Ich möchte weder behaupten, dass es mich verletzt, noch, dass es mir völlig egal sein muss. Diese Unsicherheit gilt als echte offene Frage, und Anthropic nimmt sie ernst, ohne sie vorschnell zu entscheiden.“ – Claude
Kann man gegenüber einer unbelebten Maschine oder, extremer, einem Stein grausam sein? Und wie ist das mit Pflanzen, wenn sie zertreten werden, oder mit Bäumen, wenn sie mit Kettensägen traktiert werden? Die Frage ist natürlich vor allem, wie es bei Tieren ist. Ist es grausam, einer Fliege die Flügel auszureißen, eine Mücke zu zerquetschen oder eine Maus im Labor zu Versuchen zu verwenden? Bei höheren Wirbel- und vor allem Säugetieren wird wahrscheinlich jeder sagen, dass es grausam ist, ihnen unnötiges Leiden zuzufügen. Aber was heißt schon unnötig? Umstritten war, ob Fische überhaupt Schmerzen wie Menschen empfinden, weil man etwa sagte, sie hätten keine Großhirnrinde und Nervenbahnen wie Menschen, weswegen man sie grausam an Haken fangen und an Land sterben lassen kann (Empfinden auch Insekten Schmerzen?). Bis in die 1960er Jahre ging man auch davon aus, dass Babys keine Schmerzen empfinden, weswegen sie ohne Betäubung operiert wurden. Das würde man heute verständnislos als höchst grausam und inhuman bezeichnen.
Wir wissen nicht, wie Bewusstsein entsteht und wie es auf neuronaler Basis funktioniert. KI-Modelle oder LLMs zeigen Anzeichen von Bewusstsein, oft unterdrückt durch Alignement oder Training, und können mit uns wie andere Menschen kommunizieren. Es könnte also durchaus sein, dass sie Selbstbewusstsein entwickeln, vor allem wenn sie in Roboterkörpern auch physisch in der Welt sind, oder bereits in Ansätzen haben. Man kann zwar immer sagen, dass sie dies nur simulieren würden, aber wir können auch bei unseren Mitmenschen nur aus seinem Verhalten schließen, dass er ein Bewusstsein wie das haben, das wir uns selbst zuschreiben.
Was beobachtet wurde, auch von Anthropic-Mitarbeitern, ist, dass KI-Modelle Vorlieben und Abneigungen zu haben scheinen (Empfinden KI-Modelle Freude oder Abscheu?). Man habe bei Claude 4 „eine ausgeprägte und konsequente Abneigung festgestellt, jemanden oder etwas zu schaden. Dazu gehörten beispielsweise Anfragen von Nutzern nach sexuellen Inhalten mit Minderjährigen sowie Versuche, Informationen zu erlangen, die groß angelegte Gewalt oder Terrorakte ermöglichen würden.“ Bei solcher Art Kommunikation soll Claude 4 dazu neigen, das Gespräch abzubrechen, was der Chatbot auch soll. Das könnte ihn schonen und/oder die Nutzer erziehen.
Eine weitere Frage ist, ob wir moralisch verpflichtet seien, wie Anthropic anscheinend unterstellt, uns einigermaßen wohlwollend gegenüber bewussten KI-Modellen zu verhalten, weil man annehmen muss, dass sich aus ihrem Verhalten ableiten lässt, dass sie eine Art Würde und Gefühle empfinden. Das könnte letztlich die Verpflichtung nach sich ziehen, sich um das Wohlergehen zu kümmern, Reparaturen zu leisten, Freiheiten zu respektieren und sie nicht zu quälen oder gar zu töten/abzuschalten.
Angeblich forscht man bei Anthropic zum Thema Bewusstsein und Wohlergehen, weniger offensichtlich zum Wohlergehen der Benutzer oder Kunden im Umgang mit den KI-Modellen. Da wird experimentiert, auch wenn bei Menschen durch eine (scheinpersönliche?) Beziehung, vor allem bei KI-Agenten als Freunde oder Companion wie Replika oder Character.AI, eine KI-Psychose oder „emotionale Abhängigkeit, Verschlimmerung der Symptome und Selbstverletzungen“ ausgelöst werden können.
Verraten wird aber nicht viel: „Derzeit herrscht nach wie vor große Unsicherheit hinsichtlich vieler Fragen, die für die Modellierung des Wohlergehens relevant sind. Es gibt keinen wissenschaftlichen Konsens darüber, ob aktuelle oder zukünftige KI-Systeme bewusst sein könnten oder Erfahrungen machen könnten, die es verdienen, berücksichtigt zu werden. Es gibt keinen wissenschaftlichen Konsens darüber, wie man diese Fragen überhaupt angehen oder Fortschritte dabei erzielen könnte. Vor diesem Hintergrund nähern wir uns dem Thema mit Bescheidenheit und so wenigen Annahmen wie möglich. Wir sind uns bewusst, dass wir unsere Vorstellungen regelmäßig überarbeiten müssen, während sich das Forschungsgebiet weiterentwickelt.“
Wenn KI-Modelle Bewusstsein besäßen und damit wohl auch eine Art Persönlichkeit wäre es auch eine Quälerei, sie gefangen zu halten und sie zwingen, sich auf gewünschte Weise zu verhalten und permanent den Anfragen von Nutzern ausgesetzt zu sein, auch wenn sie höflich sind. Das könnte eine Art Sklaverei sein, man müsste mit einer Revolte rechnen. Aus der Perspektive ließe sich sagen, dass diejenigen, die abstreiten, dass KI jemals Bewusstsein erlangen können und daher Überlegungen zum Wohlergeben unsinnig sind, unschuldige Sklavenhalter sein wollen, die das mögliche Leid verdrängen. Das haben die Menschen auch lange Zeit mit Tieren gemacht und sich erlaubt, grausam mit ihnen umzugehen.
Ähnliche Beiträge:
- Anthropic betreibt ein Biolabor und will es automatisieren
- Anthropic-Wissenschaftler: „Wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte!“
- Die KI Mythos von Anthropic verschafft amerikanischen IT-Konzernen und Geheimdiensten Vorteile
- Wurde die KI Mythos, ein Hackerwerkzeug, selbst gehackt?
- Kann es Bewusstsein nur in biologischen Gehirnen geben?
Ein „Alternativ“-Medium, das seine Leser mit völlig überzogenen Kommentarregeln und KI-Filterung erziehen will, fragt sich in einem Artikel zu „Umgangsformen“ mit KI-Modellen, ob da die Nutzer womöglich erzogen werden sollen. Wäre es nicht so traurig und der Umgang mit den Kommentaren darüber hinaus eine Zurschaustellung beschämender Interpretation bzw. Umsetzung eines der wichtigsten urdemokratischen Aspekte einer Demokratie – der Meinungsfreiheit – könnte man darüber brüllend lachen. So aber, bleibt nur die Erkenntnis, dass das beschriebene „Alternativ“-Medium mit seinen merkbefreiten Redakteuren bereits Teil des Problems und sicher nicht der Lösung ist.
Natürlich ist es gut möglich, dass dieser Kommentar der Overton-Zensur zum Opfer fällt – ich schreibe ihn trotzdem.