Augen sollen die Fenster zur Seele sein. Astrophysiker wollen mit ihren Methoden anhand der Licht-Reflexionen erkennen können, ob es sich um echte oder simulierte Augen handelt.
Es findet ein absurder Wettstreit zwischen KI-Systemen statt, die entweder versuchen, den Menschen etwas vorzutäuschen, oder die versuchen, die KI-Produkte von menschengemachten Hervorbringungen zu unterscheiden. Identifiziert werden sollen etwa Texte, Musik oder Bilder anhand von Merkmalen, die von KI erzeugt wurden, die damit gleichzeitig erkennt, wo die Schwachstellen sind. Man könnte es auch ein Wettrüsten nennen, in dem KI gegen sich selbst antritt, um Wahrheit von Falschheit zu unterscheiden.
Jetzt wollen Wissenschaftler ein Merkmal von menschlichen Gesichtern herausgefunden haben, an dem man wahrnehmen kann, ob wirkliche Menschen aufgenommen oder diese fotorealistisch in Deepfakes simuliert wurden. Es sind die Augen, an denen man die Unterscheidung treffen kann. An den Augen lässt sich von Menschen ablesen, ob jemand lebt oder tot ist, sie sind, wie man sagt, die Spiegel oder das Fenster zur Seele, die auch Emotionen und Absichten verraten können. Mit dem Tod erlöschen sie, wie man sagt.
Adejumoke Owolabi von der britischen University of Hall hat auf dem Astronomical Society’s National Astronomy Meeting in Hull vorgestellt, dass sich anhand der Lichterflexionen in den Augen feststellen lässt, ob es sich um einen Deepfake handelt. Erkennen soll man dies objektiv mit Methoden, die in der Astronomie benutzt werden, um Reflexionen zu quantifizieren. Bei den Augen wird geprüft, ob die Reflexionen in beiden Augen konsistent sind. Sind sie das nicht, könnte es sich um ein Deepfake-Bild handeln. Eindeutig ist das auch nicht. Für gewöhnlich zeigen sich auf Bildern von wirklichen Menschen dieselben Reflexionen, auf KI-generierten meist nicht.
„Um die Form von Galaxien zu messen, analysieren wir, ob sie zentral kompakt sind, ob sie symmetrisch sind und wie glatt sie sind. Wir analysieren die Lichtverteilung”, sagt Astrophysik-Professor Kevin Pimbblet. “Wir erkennen die Reflexionen auf automatisierte Weise und lassen ihre morphologischen Merkmale durch die CAS- [Konzentration, Asymmetrie, Glätte] und Gini-Indizes laufen, um die Ähnlichkeit zwischen linken und rechten Augäpfeln zu vergleichen.“ Der Gini-Koeffizient wird verwendet, um zu messen, wie das Licht im Bild von einer Galaxy zwischen den Pixeln verteilt ist.
Pimbblet räumt ein, dass es falsch Positive und falsch Negative gibt, aber versichert, dass diese Methode „uns eine Grundlage, einen Angriffsplan im Wettrüsten beim Entdecken von Deepfakes bietet“. Wenn dies zutrifft, wäre dies wohl auch nur ein Schritt im Wettrüsten der bildgenerierenden KIs, die trainiert werden können, auf die Reflexionen zu achten und sie gemäß den Messmethoden auszurichten.
Bleibt die Frage, ob Menschen sehen können, ob die Augen auf einem Bild von lebendigen Menschen oder simulierten stammen? Eigentlich bleibt aber die Frage, ob dies nicht auch KI-gestützte Programme erkennen können. Die britischen Wissenschaftler wollten ihre Erfolgsmeldung damit wahrscheinlich nicht belasten, obgleich man davon ausgehen kann, dass KI dies lernen kann.
Schon 2018 haben polnische Wissenschaftler gezeigt, dass eine KI, die mit Bildern der Iris von lebendigen und toten Menschen trainiert wurde, diese Unterscheidung mit einer erstaunlichen Genauigkeit von 99 Prozent treffen kann. Da ist also wenig Romantisches dahinter, das lässt sich offenbar anhand einiger visueller Merkmale erkennen. Umgekehrt wäre es schwierig zu erkennen, ob eine KI denkt oder lebt. Turing-Tests haben die generativen KI gut überstanden.
Ähnliche Beiträge:
- Angeblich entwickelt China neuartige Antisatellitenwaffe
- Generative KI-Systeme neigen in Simulationen zu Eskalation, Wettrüsten und Einsatz von Atomwaffen
- ChatGPT-4 im Persönlichkeitstest: Ähnlich wie Menschen, nur offener
- »Auch mit KI besteht die Gefahr eines Atomkrieges aus Versehen«
- Der angeblich von Russland bedrohte Westen gibt mehr für Rüstung aus als der Rest der Welt
Also eher wohl nicht. Damit kommt man der Fälschung nicht auf die Spur.
Bei KI-generierten Bildern kann man beobachten, dass das Ray-Tracing fast perfekt beherrscht wird. Wenn eine Parkbank vor einem Auto steht, dann hat ein von dort kommender Lichtstrahl Priorität vor der vom Auto kommenden. Das ist normalerweise schwer zu programmieren, aber die KI scheint das mühelos zu beherrschen. Da staunt der Dino. So werden wir älteren Programmierer ja von diesen KI-Fritzen genannt. Und neuerdings Lieseln.
Da die KI nun das Raytracing so gut beherrscht, wird sie wohl kaum Schwierigkeiten haben, die Spiegelungen in den Augen konsistent hin zu bekommen. Das ist vergleichweise eine einfache Übung.
Die meisten Insassen der kapitalistisch-imperialistischen Gegenwartsgesellschaft scheinen mir aber auch im vorgeblich „belebten“ Zustand alles andere als lebendig. Vielmehr kalt, entseelt, den Kopf gebeugt und die Augen beständig auf das blitzende und blinkende Stück Plastemetall gerichtet, das sie mit sich herumschleppen wie die Schnecke ihr Haus. Das Blitzdings, das wie ein Brot aussieht und mit dem die immer herumplappern – Sie wissen schon.
Im Gegensatz zu einem Schneckenhaus erscheint mir dieses sog. „Smartphone“ gleichwohl weder lebensnotwendig noch sonderlich nützlich (außer für die Herrschenden als freiwillig von den Beherrschten getragene elektronische Fußfessel). Früher wurden die sog. „Irren“ ja kritisch beäugt und nicht wenige sind dezent auf Abstand gegangen, wenn solche Typen sabbernd, kauend und in Selbstgespräche oder Konversationen mit nicht anwesenden Dritten versunken am Bahnsteig neben ihnen standen. Heute wird man kritisch beäugt, wenn man still und einsam ein Buch auf einer Parkbank liest oder kein solches Blitzdings in Händen hält mit dem man seine Selbstgespräche führt, um freundlicherweise das ganze Abteil an seinem Leben teilhaben zu lassen. O tempora, o mores!
Wie wäre es eigentlich mal all die scheinbar „natürlichen“, da institutionalisierten „Deepfakes“ unser ach so tollen Gegenwartsgesellschaft zu erkennen? Oder besser: zu enttarnen? Zu schauen, wer ein echtes Leben führt und wer bloß ein simuliertes? Ich würde sagen, die große Mehrheit gehört zu letzterer Gruppe.
In diesem System wird doch seit Äonen gefälscht und getürkt was das Zeug hält, nur um anderen (und sich selbst) was vorzuspielen. Um den gesellschaftlichen „Erwartungen“ (was immer das ist) und Moden zu entsprechen. Um ganz groß rauszukommen. Um ein bestimmtes „Image“ (das schöne deutsche Wort „Bildnis“ ist „out“, wäre aber passender) von sich und seinem Status zu projizieren. Man will ja „wer“ sein – vorzugsweise dann, wenn man innerlich entseelt ist, nichts Eigenes hat und sein urtümliches Selbst längst hat abspalten müssen. Dann versucht man die entstandene Leere zwanghaft mit Konsum, Ideologie, Ablenkung und sonstigem Zeug zu füllen und über Fremdbewertungen zu sich selbst zu finden (funktioniert aber nicht, zumindest nicht auf Dauer). Und passt sich an, unterwirft, fälscht und verdreht sich bis zum geht nicht mehr.
Ich sage nur: Falsche Wimpern, falsche Bärte, falsche Brüste, falsche Nägel, falsche Lippen, falsche Zähne, falsche Muskeln, falsche Taille, falscher Geruch, falsche (Scham)Haare, falscher Schwanz, falsche Haut (erkennen Sie Ihre Frau eigentlich noch, wenn sie ungeschminkt das Haus verlässt? Ist ungeschminkt das Haus verlassen nicht ohnehin krank und gehört verboten?)… Und die Augen(farbe) fälscht man doch auch nicht erst seit dem Aufkommen der KI…
Von den ganzen Accessoires und sonstigem Tand und Tricks, die die Leute verwenden, um Bildnisse von sich in die Welt zu setzen und das (scheinbar) perfekte Selbstbild zu kreieren, ganz zu schweigen:
Gefälschte Uhren, gefälschte Hemden, gefälschte Handtaschen, gefälschte Stile, gefälschte Beziehungen („Ich liebe dich so sehr, Schatzi – auch wenn ich dich mit dem halben Dorf betrüge“), gefälschte Pässe, gefälschter Führerschein, gefälschte Zeugnisse, gefälschte Urkunden, gefälschte Lebensläufe (Keine Grüße an die Frau, die hierzulande Außenministerin spielen darf), gefälschte Erfolge, gefälschte Steuerbescheide, gefälschtes Geld, gefälschte Lasagne (*Wieher!*), gefälschter Wein, gefälschte Orgasmen, gefälschte Gemälde, gefälschte Anschuldigungen, gefälschte Traumata („Nur wegen dem angelsächsischen Zinsjuden-Schiedsrichter ist Deutschland nicht ins EM-Halbfinale gekommen!“), gefälschte Follower, gefälschte Reisen (woran erkennt man eigentlich Reisefoto-Deepfakes?), gefälschte Welt, gefälschte Familie, gefälschte Fälschungen… ich könnte stundenlang so weitermachen.
[Aber apropos Familie: Während des Pandemieregimes haben so manche mit ihrer „Familie“ über Wochen Dauerkonfrontierte erst mal lernen und erkennen müssen, was ihnen da an „Verwandtschaft“ so gegenübersitzt – hat aber offenkundig nicht lange gewirkt, der Schock.]
Nein, das ganze Land, die ganze Gesellschaft, kurz: das ganze System ist von hinten bis vorne FALSCH und verlogen. Das wissen vielleicht die meisten Foristen hier, aber nicht die Leute da draußen an den Geräten. Die haben sich nämlich entweder häuslich in ihrer Lebenslüge eingerichtet oder trotten mit, weil sie den Realitätsschock nicht aushielten. Gut, ich konzediere – es gibt auch draußen wohl viele, die es eigentlich wissen und trotzdem nichts machen. Das sind womöglich die schlimmsten.
Und was machen wir nun, die wir wissen, dass es kein richtiges Leben im falschen gibt? Na, nüschte. So wie immer. Jagen wir einfach eine andere Sau durchs Dorf. Hat jemand mitbekommen, was Hoeneß unlängst über die Transferpolitik bei den Bayern gesagt hat…?
PS: Für interessierte Kreise – neue Artikel meiner Kolumne sind bereits eingereicht. Ist aber Urlaubszeit, kann also noch etwas dauern.
Wieder mal hübsch und (leider) treffend formuliert.
Die Dinge, die Sie aufzählen, sind die, die auch mich schon seit Jahren wahnsinnig machen. Zunehmende Entfremdung, fehlende Natürlichkeit und Authentizität, schwindende (oder gar nicht erst vorhandene) Empathie, z.T. völlige Gleichgültigkeit, uvm., aber gleichzeitig den größten Schwachsinn mitmachen.
So viele Wände gibt’s gar nicht, gegen die ich meine Stirn immer wieder knallen möchte.
Und daß die Men in black einen Großteil der Erdbevölkerung (zumindest die mit einem entsprechenden Endgerät) geblitzdingst haben, halte ich für eine unumstößliche Tatsache.
Die Wirklichkeit/Realität ist einfach zu Grausam, gestern und heute ist die S-Bahn mit Swifties überfüllt die über 200€ für ein Feen Ticket bezahlen.
Selten so viele zerbrochene Prinzess*Innen-Träume auf einem Haufen gesehen wie diese lächelnden Swifties.
Selbstmitleid oder Selbstmitgefühl?
Florian Rötzer ist auf die KI gekommen.
Er sollte mal seine Frau fragen ob das einen Sinn ergibt. Aber vielleicht hört die auf den Namen Schatz und ist schon längst durch eine wohl trainierte KI ersetzt. Schau mir in die Augen Kleines bevor das Licht ausgeht.
KI-Bilder von echten Menschen unterscheiden? Das ist einfach. Das sieht man nicht an den Augen, sondern an den Händen. Wenn die Person auf dem Bild an jeder Hand sechs Finger hat, dann ist sie KI.
https://www.buzzfeednews.com/article/pranavdixit/ai-generated-art-hands-fingers-messed-up
Das liegt daran, daß die KI nicht weiß, was eine Hand ist. Sie kann nicht begrifflich denken. Sie kann nur nachmachen, was sie in ihren Datensets findet, bleibt dabei aber dümmer als eine Küchenschabe in der Frittenbude.
Es existiert ein »supply paradox of AI«, es basiert darauf, dass die Qualität eines LLM/GPT abhängig von seinen Daten ist und die Ausgabeqaulität (Text, Bild, Ton) nur Inhalte mit niedrigen ökonomischen Wert produziert. Der »DEEPFAKES Accountability Act« macht es sehr deutlich, der Aufwand Täuschungen zu erzeugen und zu propagieren ist niedrig und die Anbieter dieser Werkzeuge verlagern die Verantwortlichkeit (RLHF) ohne das Problem durch Kennzeichnung oder Watermarking zu lösen. Sobald ein Modell in der Lage ist, den Prompt zum Medium zu liefern, sind alle digitalen Medien Täuschungen (Wahrnehmungsparadox).
Die Diskussion um Deep Learning Fakes ist exakt die gleiche Diskussion, wie die Diskussion um Bildberarbeitungssoftware, CGI oder geistiges Eigentum und folgt in der EU einem risikobasiertem Ansatz. D.h. erst wenn jemand ernsthaft ökonomisch betroffen ist, wird sich die Legislative damit auseinandersetzen und die Exekutive ist anschliessend überfordert. Die Vorgehensweise auf Basis des Persönlichkeitsrechts gegen Deep Fakes wäre ein weiterer Indikator dafür, d.h. den Urheber des Deep Fakes zu ermitteln ist das eigentliche Problem.
Beim Turing-Test herrscht Dissens (Chinese Room) darüber, ob er überhaupt geeignet ist Sprachmodelle (LLMs) zu beurteilen und der Loebner Preis wurde bisher von keinem Modell gewonnen, so wie keine wissenschaftliche Evidenz für das Vorhandensein einer Seele existiert.
Es ist vergleichsweise einfach, Computer dazu zu bringen, Leistungen auf Erwachsenenniveau bei Intelligenztests zu erbringen, und schwierig oder unmöglich, ihnen die Fähigkeiten eines Einjährigen in Bezug auf Wahrnehmung und Mobilität zu vermitteln, das Moravecsches Paradox existiert seit den 1990ern und trotzdem wird ständig über LLMs berichtet die irgendeinen Test bestanden haben, allerdings
wurde noch keinem dieser LLMs der Führerschein oder eine Position als Richter oder Anwalt zugestanden.
Und warum nun ist die Weiße das ehrliche Original und der Schwarze die Fälschung?
Weil Neger nun mal Betrüger sind? Oder ist das der übliche Alltagsrassismus?
@ Simon
Der Bildersteller, unter dem Bild erwähnt, scheint dem Namen nach afrikanischer Abstammung zu sein. Nur so zu Ihrer rassistischen Vermutung…
Der erwähnte Adejumoke Owolabi ist der Entwickler der Methode, nicht der Ersteller des Bildes.
Ein Blick auf diese website zeigt ausserdem, dass Florian Rötzer die Bilder so übernommen hat. Wer sie ausgesucht hat? Jedenfalls standen noch jede Menge Deep-Fake Bilder zur Auswahl – auch solche mit weißen Gesichtern.
https://ras.ac.uk/news-and-press/news/want-spot-deepfake-look-stars-their-eyes
Irgendwann glauben wir keine Bilder, keine Texte mehr, die über irgendwelche Medien verteilt werden. Freuen werden sich nur die, die mittels der KI anderen das Geld aus der Tasche ziehen. Alle anderen sind gelackmeiert.