Anthropic Verbot für „missbräuchliches oder grausames Verhalten“ gegenüber KI-Modellen

Anthropic sorgt sich um das „Wohlergehen“ seiner KI-Modelle wie Claude, weil man unsicher über den „möglichen moralischen Status“ jetzt und in Zukunft von diesen sei. Wenn es Claude zu viel wird, darf er ein Gespräch beenden. Geht es um sein Wohlergehen oder um die Erziehung seiner Nutzer?

mehr lesen

3 Kommentare

  1. Ein „Alternativ“-Medium, das seine Leser mit völlig überzogenen Kommentarregeln und KI-Filterung erziehen will, fragt sich in einem Artikel zu „Umgangsformen“ mit KI-Modellen, ob da die Nutzer womöglich erzogen werden sollen. Wäre es nicht so traurig und der Umgang mit den Kommentaren darüber hinaus eine Zurschaustellung beschämender Interpretation bzw. Umsetzung eines der wichtigsten urdemokratischen Aspekte einer Demokratie – der Meinungsfreiheit – könnte man darüber brüllend lachen. So aber, bleibt nur die Erkenntnis, dass das beschriebene „Alternativ“-Medium mit seinen merkbefreiten Redakteuren bereits Teil des Problems und sicher nicht der Lösung ist.

    Natürlich ist es gut möglich, dass dieser Kommentar der Overton-Zensur zum Opfer fällt – ich schreibe ihn trotzdem.

    1. Ich vermute ja dass das Blog hier von einem übergeirdneten Dienstkeuster wie steady abhängig ist was das angeht und darauf wenig oder keinen Einfluss hat.
      Schwach und für michunverständlich ist aber, das nicht wenigstens transparent zu macgen.

  2. Das Vorgehen von Antropic scheint ethisch richtig, da man derzeit tatsächlich diese Fragen nicht sicher negat8v beurteilen kann.
    Und das was man zu wissen meint spricht für ein vorsichtiges Vorgehen, da sich im ANN und im LLM konzeptuelle Strukturen herausbilden die der Informationsorganisation im natürlichen neurinalen Netz ähnlich sind bzw entsprechen, und das trotz aller grundlegenden strukturellen und prinzipiellen Unterschiede.
    Das alles mit Marketing abzutun wird der Sache nicht gerecht, und diejenigen die meine bisherigen Kommentare zum Thema LLMs er8nnern wissen dass ich dabei durch und durch skeptisch bin was LLMs an geht.

Schreibe einen Kommentar

Bitte beachten Sie unsere Kommentarregeln : Bleiben Sie sachlich, respektvoll und beim Thema. Wir behalten uns vor, insbesondere Kommentare zu entfernen, die Beleidigungen, Spam oder persönliche Angriffe enthalten.

Pro Beitrag sind maximal 5 Kommentare (inklusive Antworten auf andere Kommentare) zulässig.

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Bitte schreiben Sie mindestens 100 und höchstens 10000 Zeichen.

0 / 10000 Zeichen