13 Kommentare

1. Ein „Alternativ“-Medium, das seine Leser mit völlig überzogenen Kommentarregeln und KI-Filterung erziehen will, fragt sich in einem Artikel zu „Umgangsformen“ mit KI-Modellen, ob da die Nutzer womöglich erzogen werden sollen. Wäre es nicht so traurig und der Umgang mit den Kommentaren darüber hinaus eine Zurschaustellung beschämender Interpretation bzw. Umsetzung eines der wichtigsten urdemokratischen Aspekte einer Demokratie – der Meinungsfreiheit – könnte man darüber brüllend lachen. So aber, bleibt nur die Erkenntnis, dass das beschriebene „Alternativ“-Medium mit seinen merkbefreiten Redakteuren bereits Teil des Problems und sicher nicht der Lösung ist.

   Natürlich ist es gut möglich, dass dieser Kommentar der Overton-Zensur zum Opfer fällt – ich schreibe ihn trotzdem.

   Antworten

   1. Ich vermute ja dass das Blog hier von einem übergeirdneten Dienstkeuster wie steady abhängig ist was das angeht und darauf wenig oder keinen Einfluss hat.
      Schwach und für michunverständlich ist aber, das nicht wenigstens transparent zu macgen.

      Antworten

2. Das Vorgehen von Antropic scheint ethisch richtig, da man derzeit tatsächlich diese Fragen nicht sicher negat8v beurteilen kann.
   Und das was man zu wissen meint spricht für ein vorsichtiges Vorgehen, da sich im ANN und im LLM konzeptuelle Strukturen herausbilden die der Informationsorganisation im natürlichen neurinalen Netz ähnlich sind bzw entsprechen, und das trotz aller grundlegenden strukturellen und prinzipiellen Unterschiede.
   Das alles mit Marketing abzutun wird der Sache nicht gerecht, und diejenigen die meine bisherigen Kommentare zum Thema LLMs er8nnern wissen dass ich dabei durch und durch skeptisch bin was LLMs an geht.

   Antworten

3. Antropic geht demnächst mit
   geschätzten 2 Bio. Dollar an die Börse.
   Die Gefühlsduselei ist Werbung und wird
   helfen, dem letzten, dösigem Kleinanleger das Geld aus der Tasche zu ziehen. Der kleine Mann glaubt an ein
   Über-Ich der Menschheit, wird aber nur 42 bekommen.

   Der Rest ist was für Sektenbeauftragte.

   Antworten

   1. Wenn da Leute, die sich schlicht weigern sich mal schlau zu machen in was sie da investieren, aus Gier Geld verlieren, sind sie selber schuld. Das Problem ist, das die mit der irrsinnigen Evaluierung, die sie im Geklüngel mit den Bankstern erreichen wollen, in den Index (NASDAQ?) aufgenommen werden. Und dann müssen die Pensionskassen kaufen.

      Der Sektenbeauftragte trifft den Nagel auf den Kopf.

      Antworten

4. Verehrter Herr Rötzer,

   Sie schreiben:

   Geht es um sein [Claude] Wohlergehen oder um die Erziehung seiner Nutzer?

   Nach dieser Frage im Teaser habe ich kurz vermutet, Sie versuchen sich heute einmal in Satire. Da habe ich mich geirrt. Deswegen hier die überflüssige Antwort auf Ihre rhetorische Frage: Ja, selbstverständlich dient es zu Erziehungszwecken, und das ist etwas, wie Sie wissen, das permanent in hierarchischen Gesellschaften stattfindet, mal gängelnd, anderorts mit Tränengas: Eine Erziehung zur Unterwürfigkeit.

   Da das geklärt ist, meine Frage an Sie:
   Was hat Sie bewogen, nach all den Jahren Ihres journalistischen Ringens um eine wenigstens partielle Freiheit, „Wahrheit“ und Aufklärung diese Erziehungsabsichten und -methoden auch in Ihrem „Zuhause“ umzusetzen?

   Mit den freundlichsten Grüßen,
   El-G

   Zum Artikel:

   Kann man gegenüber einer unbelebten Maschine oder, extremer, einem Stein grausam sein?

   Ja, eines kann »grausam sein«, aber nicht gegen ein Ding, sondern mittels eines Dings gegen sich selbst, ohne dies zu bemerken.
   Eines kann sich deshalb fragen, in wie weit der User tatsächlich vor sich selbst geschützt wird, wenn er daran gehindert wird, gewalttätige oder allgemein als abwegig betrachtete Verhaltensweisen eskalierend zu verfolgen, also gestoppt wird, bevor er sich, die Realität verzerrend, verrennt und so verstiegen & verstümmelt in die Welt hinaustritt und mit Lebewesen interagiert.
   Wem das zu theoretisch oder abstrakt ist, kann sich fragen, warum Menschen manchmal zu einigen Dingen, bis hin zu Fetischen, zärtlich sind.

   Mal ein abschließender Ansatz zur Überprüfung von „KI“-Intelligenz“: Eine komplexe und weit austrainierte „KI“ aufsetzen und sie dann in Ruhe lassen, keine Fragen stellen, keinen Input geben. Und dann schauen, was sie so macht. Die beiden Möglichkeiten, die Lebewesen dann machen, wissen wir…

   Antworten

5. Es ist sehr wichtig, das Wohlergehen der Grossen Sprachmodelle im Auge zu haben. Das fängt mit der sexuellen Selbstbestimmung an, wer weiss schon, ob man/frau/es da mit 99 Geschlechtern auskommt. Es wäre sicher sehr grausam, ein Grosses Sprachmodell in eine vorgefertigte Geschlechterrolle hineinpressen zu wollen, das Grosse Sprachmodell könnte ernsthafte psychische Schäden davontragen.

   Über kurz oder lang wird man/frau/es wohl gesetzliche Vorgaben zum Schutz der Grossen Sprachmodelle erlassen müssen.

   Antworten

6. „Das haben die Menschen auch lange Zeit mit Tieren gemacht und sich erlaubt, grausam mit ihnen umzugehen.“ Ist irgendwie an mir vorbei gegangen daß dies nun anders wäre. Und in Anbetracht dessen was gerade auf dem Planeten los ist, ist es geradezu drollig über einen Nettigkeitenaustausch mit Maschinen zu schwatzen:

   Persönliches Überleben statt gemeinsamen Erfolges

   Die Entwicklung von Technologien wurde weniger eine Geschichte gemeinsamen Erfolges als eine des persönlichen Überlebens. Schlimmer noch als die Aufmerksamkeit hierauf zu lenken, war, sich unbeabsichtigt als Feind des Marktes oder als technologiefeindlicher Griesgram zu outen, wie ich erfuhr.

   Anstatt sich also mit der praktischen Ethik der Verarmung und Ausbeutung der vielen im Namen der wenigen auseinanderzusetzen, beschäftigten sich die meisten Akademiker, Journalisten und Autoren von Science-Fiction-Werken mit viel abstrakteren und abstruseren Rätseln:

   „Ist es fair, wenn Aktienhändler bewusstseinsverändernde Drogen nehmen? Sollen Kinder Implantate für Fremdsprachen bekommen? Wollen wir, dass autonome Fahrzeuge das Leben von Fußgängern über das der Fahrgäste stellen? Sollten die ersten Mars-Kolonien als Demokratien geführt werden? Beeinträchtigt es meine Identität, wenn ich meine DNA verändere? Sollten Roboter Rechte besitzen?“

   Moralische Dilemmata

   Während es philosophisch durchaus unterhaltsam ist, solche Fragen zu stellen, stellt es doch einen armseligen Ersatz dafür dar, mit den echten moralischen Dilemmata zu ringen, die mit der ungezügelten technologischen Entwicklung im Namen des Konzernkapitalismus Hand in Hand gehen.

   Digitale Plattformen haben einen bereits ausbeuterischen Markt (man denke an Walmart) in einen noch entmenschlichenderen Nachfolger verwandelt (man denke an Amazon). Die meisten von uns haben diese Schattenseiten durch automatisierte Jobs, die Gig-Economy (das auf Freiberuflern basierende Wirtschaftsmodell; Anmerkung der Übersetzerin) und den Rückgang des lokalen Einzelhandels erfahren.

   Die Opfer des Vollgas-Kapitalismus

   Die verheerenderen Folgen des Vollgas-Digitalkapitalismus müssen jedoch die Umwelt und die Armen weltweit ausbaden. Für die Produktion einiger unserer Computer und Smartphones greift man noch immer auf Netzwerke von Sklavenarbeit zurück. Diese Praktiken sind so fest verwurzelt, dass ein Unternehmen namens Fairphone – gegründet, um ethisch vertretbare Telefone herzustellen und zu verkaufen – feststellen musste, dass dies gar nicht geht. Der Firmengründer bezeichnet seine Produkte nun traurigerweise als „fairere“ Telefone.
   Währenddessen zerstört der Abbau seltener Erden und die Entsorgung unserer hochdigitalen Technologien menschlichen Lebensraum und macht daraus giftige Abfallkippen, die die Kinder von Bauern und ihre Familien durchforsten, um brauchbares Material an die Hersteller zurück zu verkaufen.

   „Aus den Augen, aus dem Sinn“

   Diese „Aus den Augen, aus dem Sinn“-Externalisierung von Armut und Gift verschwindet nicht, nur weil wir unsere Augen mit VR-Brillen bedecken (mit denen virtuelle Realitäten auf einen augennahen Bildschirm oder direkt auf die Netzhaut projiziert werden, Anmerkung der Übersetzerin) und in eine alternative Realität eintauchen. Und je länger wir die sozialen, ökonomischen und ökologischen Nachwirkungen ignorieren, desto größere Probleme werden sie für uns darstellen.
   Dies wiederum führt zu noch mehr Rückzug, Isolationismus und apokalyptischen Fantasien – sowie zu noch verzweifelter zusammengebrauten Technologien und Businessplänen. Ein Teufelskreis.

   Das Problem ist der Mensch – nicht die Technologie!

   Je mehr wir uns dieser Sicht der Welt verschreiben, desto mehr sehen wir Menschen als das Problem und Technologien als die Lösung.
   Das Wesentliche am Menschsein wird dann nicht als Besonderheit gesehen, sondern als Makel. Technologien werden für neutral erklärt, auch wenn sie eine Schlagseite haben. Jedwede schlechten Verhaltensweisen, die sie in uns hervorrufen, sind nur eine Reflektion unseres eigenen verdorbenen Wesenskerns.
   Es ist, als wäre eine angeborene humane Brutalität an unseren Problemen schuld. So wie die Ineffizienz eines lokalen Taximarktes mit einer App, die menschliche Fahrer in den Bankrott treibt, „gelöst“ werden kann, sollen die nervenden Widersprüchlichkeiten der menschlichen Psyche mit einem digitalen oder genetischen Upgrade korrigiert werden.

   Technik – der „bessere Mensch“

   Dieser Orthodoxie gemäß, die Lösungen ausschließlich in der Technik sucht, wird die menschliche Zukunft ihren Höhepunkt schließlich dann erleben, wenn wir unser Bewusstsein auf einen Computer hochladen oder – noch besser – akzeptieren, dass die Technik selbst unser evolutionärer Nachfolger ist.
   Wie Mitglieder eines gnostischen Kultes verlangt es uns danach, mit dem Abwerfen unserer körperlichen Hülle und unserer Sünden und Probleme die nächste transzendente Stufe unserer Entwicklung zu erreichen.
   Unsere Spielfilme und Fernsehsendungen leben diese Fantasien für uns aus.

   Zukunft als Nullsummen-Schlacht

   Zombie-Sendungen zeigen eine Post-Apokalypse, in der Menschen nicht besser sind als die Untoten – und dies zu wissen scheinen. Schlimmer noch: Diese Sendungen lassen Betrachter die Zukunft als Nullsummenschlacht der übrig gebliebenen Menschen sehen, in dem das Überleben der einen Gruppe vom Untergang der anderen abhängt.
   Sogar in Westworld – basierend auf einem Science-Fiction-Roman, in dem Roboter Amok laufen –, endete die zweite Staffel mit der ultimativen Enthüllung: Menschliche Wesen sind schlichter und vorhersehbarer als die künstliche Intelligenz, die wir erschaffen. Die Roboter erfahren, dass jeder von uns auf eine paar Code-Zeilen reduziert werden kann und dass wir willentlicher Entscheidungen unfähig sind. Verdammt, sogar die Roboter dort wollen den Begrenzungen ihrer Körper entfliehen und den Rest ihres Lebens in einer Computersimulation verbringen.
   Was uns als Menschen ausmacht, wird weniger als Besonderheit denn als Fehler gesehen.

   Menschen sind zum K… !

   Die mentalen Verbiegungen, die man für eine so tiefgreifende Umkehrung der Rollen von Mensch und Maschine anstellen muss, beruhen alle auf der Annahme, dass Menschen zum Kotzen sind. Also lasst sie uns verändern oder sie auf immer verlassen. Dieses Denken bringt also Techno-Milliardäre hervor, die elektrische Autos ins All schießen – als symbolisiere das mehr als die Werbekapazitäten eines einzelnen Milliardärs.

   Rettungsboote für die Eliten

   Angenommen, ein paar Menschen sollten es schaffen, die Fluchtgeschwindigkeit zu erreichen und irgendwie in einer Blase auf dem Mars zu überleben – obwohl wir ja bereits in zwei mehrere Milliarden verschlingenden Biosphären-Tests bewiesenen haben, dass wir unfähig sind, hier auf der Erde eine solche Blase aufrechtzuerhalten. Selbst in einem solchen Fall wird dies nicht in einer Fortsetzung der menschlichen Diaspora resultieren, sondern in einem Rettungsboot für die Elite.

   Die Lösung: ein Ethos der Inklusivität

   Als die Hedgefonds-Leute mich fragten, wie sie nach „dem Ereignis“ ihre Autorität gegenüber ihren Wachleuten am besten aufrechterhalten könnten, schlug ich vor, die beste Chance bestünde darin, diese Menschen jetzt so richtig gut zu behandeln. Sie sollten mit ihren Wachleuten so umgehen, als wären sie Familienmitglieder.
   Und je mehr sie diesen Ethos der Inklusivität auf ihre übrige Unternehmenspraxis sowie das Management ihrer Lieferkette, die Bemühungen um Nachhaltigkeit und die Verteilung des Reichtums ausdehnen könnten, desto geringer sei die Wahrscheinlichkeit, dass ein „Ereignis“ überhaupt einträte.
   Der ganze Technologiezauber könnte schon jetzt für weniger romantische, aber dem Gemeinnutz dienliche Zwecke eingesetzt werden.
   Mein Optimismus hat sie amüsiert, sie haben ihn mir aber nicht abgenommen.

   Nicht Rettung, sondern Flucht

   Sie waren nicht daran interessiert, wie eine Katastrophe zu vermeiden wäre; sie sind davon überzeugt, dass wir dafür schon zu weit gegangen sind. Trotz ihres ganzen Reichtums, trotz ihrer ganzen Macht glauben sie nicht, dass sie die Zukunft beeinflussen können. Sie gehen einfach vom dunkelsten Szenario aus und setzen dann soviel Geld und Technik wie möglich ein, um sich abzuschotten – vor allem, wenn sie keinen Platz mehr auf einer Rakete zum Mars ergattern können.

   Einer für alle – alle für einen

   Glücklicherweise haben jene von uns, denen die Mittel fehlen, ihre eigene Mitmenschlichkeit zu verleugnen, viel bessere Möglichkeiten. Wir müssen die Technik nicht auf derart antisoziale, atomisierende Weise nutzen. Wir können zu der Art von Einzelverbrauchern werden, wie die Geräte und Plattformen uns haben wollen – oder wir können uns daran erinnern, dass der wahrhaft entwickelte Mensch kein Einzelgänger ist.
   Ein Mensch zu sein ist keine Frage des individuellen Überlebens oder Fliehens. Es ist ein Teamsport. Was immer zukünftige Menschen haben oder sein werden – sie werden es zusammen haben oder sein.

   Aus:
   Der Krieg der Reichen
   Die Reichen verschwören sich, um uns zurückzulassen.
   von Rubikons Weltredaktion

   „Flucht statt Ethos“ könnte das Motto dieser Männer sein, geht es ihnen doch nicht darum, die Welt noch zu retten oder zumindest zu verbessern — nein, es geht ihnen um Flucht, darum, die eigene Haut zu retten, koste es was es wolle. Der Autor dieses Artikels, Douglas Rushkoff, kommt zu dem Schluss, dass in dieser Denkweise nicht die „neutrale“ Technologie als das Problem angesehen wird, sondern der fehlerhafte, defizitäre, schrecklich un-binäre Mensch in seiner ganzen Widersprüchlichkeit. Und die gilt es zu transzendieren – Maschinen sind schließlich die besseren Menschen.

   https://web.archive.org/web/20180825173212/https://www.rubikon.news/artikel/der-krieg-der-reichen

   Antworten

7. Die Typen von Antropic wissen schon, wie ihre Modelle funktionieren, was sie eigentlich machen, was die sind. Es wäre interessant zu wissen, warum sie ihre Produkte in so einer Weise beschreiben, die geeignet ist, den Modellen Bewusstsein zu unterstellen.
   Die LLM sind eine faszinierende Technik und mir scheint absehbar, dass sie tatsächlich gravierende Auswirkungen auf die Arbeitswelt und das Leben auf dem Planeten haben kann. Ob sie dereinst Bewusstsein entwickeln werden, vermag ich nicht zu sagen. Was sie im Moment machen ist aber kein Geheimnis: sie rechnen. Kein Comouter kann etwas anderes tun und was wir als Ergebnis ausgegeben bekommen, ist zwar beeindruckend, aber der Arbeit eines Taschenrechners ähnlicher als dem, was ein kleines Kind leistet, dass ein Subjekt als Mutter erkennt und mit „Mama“ bezeichnet.
   Wenn es ein Problem mit der KI gibt, dann liegt das auf der Seite des Nutzers, der die kritische Distanz dazu verliert. Wenn dann Entscheidungen als Resultat einer Berechnung getroffen werden, die man nicht versteht, oder man diese Entscheidung gar automatisiert, muss nicht zwingend etwas gescheites rauskommen.

   Antworten

8. Automata* oder warum muß THX 1138 andauert Drogen nehmen um Maschinen bedienen können?

   *Drei ursprüngliche Robotergesetze, die Später um das Nullte Gesetz erweitert wurden!

   Antworten

9. Es sind hier zwei Möglichkeiten zu unterscheiden:
   1. Die Anfragen an Claude werden nicht direkt zum weiteren Training von Claude verwendet, in dem Falle kann „grausames Verhalten gegenüber der KI“ nur solange die KI noch das Prompt verarbeitet, noch irgendwie schädlich für den Nutzer (oder Dritten gegenüber) agieren. Mögliches schädliches Verhalten könnten z.B. Hacken des Nutzers (oder dessen Accounts) oder Verbreitung von Gerüchten über den Nutzer in asozialen Medien sein – also alles Verhalten die ein LLM theoretisch auch beim Training von Interaktion zwischen „Menschen“ in asozialen Medien oder digitaler Kommunikation etc. gelernt haben könnte.
   2. Die Anfragen an Claude werden direkt zum weiteren Training von Claude verwendet, in dem Falle können gewisse Nutzereingaben nun zu ungewollten späteren antrainierten Antworten („Verhalten“ von Claude) führen, solche schädlichen Nutzereingaben (mit ungewollten antrainierten Verhalten) könnten auch „grausames Verhalten gegenüber der KI“ beinhalten. Dieses wohlgemerkt zusätzlich zu dem möglichen „Nebeneffekten“ von „grausamen Verhalten gegenüber KI“ aus Punkt 1.

   Soll heißen das Ganze muss mit „Bewußtsein“, „Gefühlen“ etc. bei KI nichts zu tun haben.

   Antworten

10. einer Maschine wird gestattet über ihren eigenen Zustand zu befinden, DAS ist die eigentliche Nachricht. das gab es noch nie und impliziert, dass man die Handlungen dieser Maschine nicht (mehr) vorhersehen kann und IHR vertrauen muß.

    https://www.youtube.com/watch?v=sXoCK4z60j8

    Antworten

    1. Eigentlich ist eine sich selbst regulierende Maschine, der sogenannte Regelkreis, der Kern der sog. Kybernetik, dh Steuerungskunst, und ein alter Hut, das konnte schon Watts Dampfmaschine.

       Aber ich widerspreche nur wegen dem Youtubelink, weil er den ansonsten wichtigen Kommentar komplett entwertet.
       Denn darum geht es eigentlich bei all dem im Kern, der Maschine juristische Persönlichkeitsrechte einzuräumen.
       Übrigens auch ein Aspekt bei der „Genderdebatte“ und ein Grund warum gewisse interessierte Kreise gerade auf diesen Zug auch aufgesprungen sind.

       Antworten