Elon Musks Chatbot Grok kann weiter gepostete Fotos von Menschen „sexualisieren“, sie als Deepfakes im Bikini oder in sexuellen Positionen darstellen, allerdings dürfen dies nur noch zahlende Nutzer. Indonesien und Malaysia haben den Zugang zu Grok gesperrt. In den USA gibt es Kritik, auch wenn das Kriegsministerium Grok verwenden will. Einige Staaten überlegen, wie sie gegen die Deepfakes vorgehen sollen, die EU wird wahrscheinlich den Digital Services Act (DSA) dazu benutzen.
Großbritannien sticht heraus, die Regierung hat angekündigt, mit dem Data Act, der letztes Jahr verabschiedet wurde und jetzt in Kraft tritt, gegen „Nudification“-Apps vorzugehen. Nicht mit Zustimmung erfolgte Erstellung von sexuellen Bildern und Videos meist von Frauen und Mädchen verbieten soll: „Die Inhalte, die auf X verbreitet wurden, sind abscheulich. Sie sind nicht nur ein Affront gegen die anständige Gesellschaft, sondern auch illegal“, erklärte die Liz Kendall, Ministerin für Wissenschaft, Technologie und Innovationen. „Keine Frau und kein Kind sollte in Angst leben, dass ihr Bild durch Technologie sexuell manipuliert wird. Das Teilen oder Androhen, ein Deepfake-Intimbild ohne Einwilligung zu teilen – einschließlich Bilder von Menschen in Unterwäsche – ist eine Straftat. Diese Straftat, die im vergangenen Jahr durch das Datengesetz geschaffen wurde, wird diese Woche in Kraft gesetzt und ich werde sie auch im Online-Sicherheitsgesetz zu einem Prioritätsverbrechen machen.“
Kendall hängt tatsächlich das Vorgehen gegen die nicht-konsensuelle Herstellung von intimen Bildern sehr hoch, als würde der Untergang der Kultur bevorstehen: „Es geht darum, die grundlegenden britischen Werte wie Anstand und Respekt hochzuhalten und sicherzustellen, dass die Standards, die wir offline erwarten, auch online eingehalten werden. Und es geht darum, unsere souveräne Macht und Verantwortung auszuüben, um die Gesetze dieses Landes aufrechtzuerhalten.“
Allerdings ist bereits letzte Woche in Großbritannien ein Gesetz in Kraft getreten, das mit dem Einstieg in Bekämpfung von Bildern, die Genitalien zeigen (Cyberflashing), oder Selbstverletzungsdelikte wie Unterstützung oder Aufforderung darstellen, Befürchtungen weckt, dass schnell die Meinungsfreiheit eingeschränkt werden kann und Internetnutzer anlasslos überwacht und damit eingeschüchtert werden. Das liegt auf der Hand, denn auch gegen Desinformation und Hass wird vorgegangen.
Cyberflashing ist bereits mit dem Online Safety Act von 2023 verboten worden, jetzt wurde das Gesetz erweitert und Cyberflashing ebenfalls zu einem der zahlreichen Prioritätsverbrechen erhoben. Darunter werden unterschiedliche Delikte im Rahmen von Terrorismus, Stalking, Hass, Kindesmissbrauch, illegale Einwanderung, Menschenschmuggel oder Betrug eingeordnet. Anbieter von allen Nutzer-zu-Nutzer-Diensten wie Suchmaschinen, Kommunikationsdiensten, Sozialen Netzwerken, Messenger, Foren, Video-, Foto-, Gaming oder Dating-Plattformen müssen alle Inhalte, die von Nutzern erstellt werden, präventiv durchsuchen, um die Versendung von verbotenen Bildern oder die Androhung, dies zu tun, zu verhindern. Im Wortlaut:
„Provider müssen für jede Art von ‚prioritären illegalen Inhalten‘ eine separate Risikobewertung durchführen. Anbieter von Nutzer-zu-Nutzer-Diensten müssen Systeme und Verfahren einführen, um das Risiko zu verringern, dass ihre Dienste zur Begehung oder Erleichterung vorrangiger Straftaten genutzt werden, und um zu verhindern, dass Nutzer auf Inhalte stoßen, die vorrangigen Straftaten gleichkommen. Suchdienste müssen Systeme und Verfahren einführen, um die Wahrscheinlichkeit zu verringern, dass Nutzer auf Inhalte stoßen, die vorrangigen Straftaten gleichkommen.“
Auch das Sehen von oder das Zugreifen auf „verbotenen Inhalt“ stellt schon eine Straftat dar, heißt es bei der britischen Medienaufsichtsbehörde Ofcom (1.27). Ein von Ofcom empfohlenes Beispiel für Maßnahmen einer Video-Plattform gegen „Hass“: „Der Dienst verfügt über umfangreiche und ausgefeilte Sicherheitsmaßnahmen. Dazu gehören automatische Systeme zur Moderation von Inhalten und die Sperrung oder Einschränkung von Nutzern, die rechtswidrige Inhalte veröffentlichen. Er verfügt über ein benutzerfreundliches System zur Meldung von Inhalten und arbeitet mit verschiedenen vertrauenswürdigen Flaggers zusammen.“ Weil aber noch o,1 Prozent bei vielen Nutzern durchkommen, besteht hohes Risiko.
Vorgeschlagen wird eine KI unterstützte Suche nach illegalen Inhalten, die verhindern, dass diese überhaupt verbreitet werden können: „Unternehmen könnten gegen diese Bilder vorgehen, indem sie beispielsweise automatisierte Systeme einsetzen, die das Bild vorab erkennen und ausblenden, Moderationswerkzeuge implementieren oder strengere Inhaltsrichtlinien anwenden.“ Goutiert wird aber bislang auch das Vorgehen der Dating-App Bumble, die einen KI-gestützten „Private Detector“ verwendet, der automatisch Nacktheit in Bildern entdeckt, die in Chat geteilt werden. Die nackten Stellen werden verschwommen gezeigt, der Empfänger wird benachrichtigt, er kann entscheiden, ob er das Bild sehen, blockieren oder melden will.
Ähnliche Beiträge:
- Die neue Angstmaschine
- Zuckerberg geht zurück zur Meinungsfreiheit des frühen Internet
- Meinungsterror wird deutsche Staatsräson
- Maschinen an die Macht
- »Auch mit KI besteht die Gefahr eines Atomkrieges aus Versehen«
Dass Durchsetzung und Haftung für die Bekämpfung „illegale Inhalte“ (und bald auch „Desinformation“) auf die Provider übertragen wird, sage ich seit mindestens 1874. Auch die DNS-Resolver werden in die Pflicht genommen, siehe Italien jüngst. Was Enland angeht, ventiliere ich schon länger die VT, dass die nur aus der EU ausgetreten sind, um irres Zeug auszutesten, was (noch) nicht so ohne Weiteres in der EU durchgehen würde. Man will da ja auch bei allen Smartphones eine Scan-Pflicht auf OS-Ebene (zumindest iOS u. Android) einführen, die sämtliche Inhalte vor jeder – dann obsoleten – Verschlüsselung „überprüfen“ soll.
Der Angrif auf die Privatsphäre und Meinungs/Informationsfreiheit hat gerade erst begonnen.
Privacy interessiert allerdings auch bei den selbsternannten „Erwachten“ kaum.
Nur in einem Punkt möchte ich widersprechen, der Angriff auf die Privatsphäre hat nicht gerade erst begonnen, der tobt schon lange und lodert immer wieder auf, ob es ein Klicken im Telefon mit Wählscheibe war, die geöffneten Päckchen aus oder in die DDR seitens der Verwandtschaft oder gestern wie heute im Indernett. Eben seit 1818, dem Semmelbröselkrieg oder so.
Lieber Gruss
@ Michael
Ich meinte das auch nicht wörtlich, sondern im Sinne von „da kommt noch viel, viel mehr“.
Same procedure as every year, James oder täglich grüsst das Murmeltier.
Ich kann ja verstehen, dass man in Zeiten von Reichsacht als Journalist vorsichtig formuliert. Aber dieses Muster haben wir doch schon seit Ewigkeiten. Keiner findet mal raus, wie effektiv denn diese Schutzmassnahmen im Sinne der Behauptungen zur Einführungen waren. Und zu was sie alles missbraucht wurden. Denn es ist der Staat der sich vor Bürgern schützt, was jedem Demokraten mehr als zu denken geben sollte. Es geht immer nur darum, neue Breschen in den Rechtsstaat zu schlagen, damit Überwachung ausgeweitet werden kann. Wenn es ein Einzelfall wäre, dann könnte man ja Zweifel haben. Aber nach Jahrzehnten der gleichen Argumentation und dem Missbrauch der erweiterten geschaffenen Möglichkeiten, kann man nicht umhin, mit einer hohen Wahrscheinlichkeit, so hoch, dass jede KI Ja sagen würde, zu Recht annehmen, dass hier nur die Überwachung ausgeweitet wird. Die Argumente sind der Sand in den Augen der „rechtschaffenen“ Bürger, die brav ihre Scheuklappen putzen.
Lieber Gruss
+++ Auf den Punkt gebracht! Darauf ein herzliches: „Na und?“
Wollen sie jetzt einen Knast für Millionen finanzieren? Dann ist genau DAS ihr finanzielles Ende.
Selbst des „vergasen“ aller „Putin-Freunde“ wird zu teuer.
LMAO
Orwell war Brite.
Kein Zufall.
Orwell IST Brite. Der guckt sich das gerade kopfschüttelnd an.
Unsere Wahrnehmung ist EWIG. Kein schwarzes Loch nach dem Tod in Sicht…
Als X-Leser kann ich Folgendes sagen: X ist eine Diskussionsplattform. Daneben ist ein Button für das KI Programm Grok. Wenn man dort schreckliche Bilder produzieren kann, dann ist das für X nur relevant, wenn diese dort veröffentlicht werden. Was nicht der Fall ist. Elon Musk produziert gern Fantasy-Clips mit schönen (virtuellen) Frauen in Phantasiewelten. Harmlos, würde ich sagen. Gut, einmal kam ein Keir Starmer im Bikini. Der Skandal hält sich doch in Grenzen.
Die Story dahinter ist doch eher interessant. Musk hat nun mit seiner Medienwucht diesen Tommy Robinson aus dem Gefängnis geholt. Das ist der, der den Grooming-Skandal an die Öffentlichkeit brachte. Dieser ist ein Star auf X und eigentlich kann er nichts tun, ohne 10.000 Likes zu bekommen. Robinson kann der Starmer-Regierung nicht gefallen, denn er deckt weiter auf. Weitere Grooming-Fälle, skandalöse Gerichtsurteile, Berichte über militante Islamisten. Soweit ich sehe, berichtet er korrekt. Wobei er nicht der Einzige ist, in dieselbe Richtung gehen viele andere User. Dass nun das der Grund für ein X-Verbot sein könnte, müsste ein naheliegender Gedanke sein.
X steht für unzensierte Debatte und das zurecht. Knallhartes Aufeinandertreffen aller Meinungen. Trotzdem ist ausgesprochene Hassrede ausgesprochen selten. Mag ich.
Klar, „KI unterstützte Suche nach illegalen Inhalten“, um von KI erzeugte, illegale Inhalte zu finden. Übrigens, mein Android meldet mir gerade „Ihr Gerät hat jetzt tolle neue Funktionen“. Auh-h-h-h-fhören, ich kann nich mehr!