Lassen sich menschliche Gehirne durch einen Input „für immer verrückt“ machen?

Wissenschaftler fragen sich, ob sich Gehirne gezielt wie neuronale Netze oder KI-Modelle angreifen und verändern lassen. Gehirne durch Input manipulieren zu wollen, liegt gerade sowieso im Trend.

Künstliche Intelligenz ist derzeit die Technik, die ebenso viel verspricht, wie sie zu bedrohen scheint. Das regt die Fantasie der Entwickler an, die zu umschwärmten Gurus werden und deren fortgeschrittenem Wissen, das sie gerne in sozialen Netzwerken und auf Veranstaltungen demonstrieren, viele lauschen, als wären es Offenbarungen von Priestern eines dem Normalmenschen verborgenen Orakels, besonders wenn es um apokalyptische Visionen geht.

Vor einiger Zeit Tomáš Daniš, ein Software-Entwickler, der sich als KI-Enthusiast bezeichnet, Folgendes auf X gepostet: „Es gibt keinen Beweis dafür, dass Menschen nicht wie neuronale Netze angegriffen werden können. Es könnte einen künstlich erzeugten sensorischen Input geben, der einen für immer verrückt werden lässt.“ Damit konnte er größere Diskussionen auslösen.

Im Hintergrund steht, dass Neuronale Netzwerke relativ einfach angegriffen werden können. Beispielsweise können über die Trainingsdaten Hintertüren eingeschleust werden, um dann das Verhalten des Systems zu manipulieren, oder es können Inputs etwa durch Prompts oder Rauschen eingegeben werden, die das Verhalten stören und zu unvorhergesehenen Reaktionen wie Halluzinationen führen (Schon einfache Denkaufgaben können KI-Sprachmodelle zum Fabulieren bringen). Auch andere Inputs können unerwünschtes Verhalten triggern. Ein großes Sicherheitsproblem, beispielsweise bei autonomen Fahrzeugen. Mit dem Austricksen von KI-Systemen wird gerne herumgespielt und andererseits von den Entwicklern versucht, solche Manipulationen oder Trigger zu verhindern.

Daniš wollte wohl dramatisieren, wenn er sagt, dass menschliche Gehirne durch einen Input „für immer verrückt“ werden können. Damit meinte er wahrscheinlich nicht etwa irgendein traumatisches Erlebnis, das Menschen für immer heimsuchen kann, ohne ihn gänzlich und für alle Zeiten verrückt zu machen. Andererseits sind traumatische Erlebnisse eben plötzliche Einwirkungen auf die Psyche und das Gehirn, die anhaltende, manchmal therapieresistente Veränderungen bewirken können. Aber an solche „banalen“ Vorkommnisse dachte Daniš angeblich nicht, sondern, wie er erläuterte, an „einen normal aussehenden Input in das Gehirn, der es einfrieren lässt, ähnlich wie neuronale Netzwerke von Bildern getäuscht werden können, die für einen Menschen normal aussehen“. Er wollte eigentlich nur der verbreiteten These entgegentreten, dass neuronale Netzwerke deswegen nicht menschlich seien, weil sie angegriffen werden können. Das könne bei Menschen ebenso der Fall sein, wenn man uneingeschränkten Zugang habe.

Propaganda und kogntive Kriegsführung

Der Gedanke, Gehirne durch Input lahmlegen zu können, passt zum gegenwärtigen Hype über Beeinflussungsoperationen, Desinformation, Täuschungen oder der kognitiven Kriegsführung, geht aber natürlich weiter zurück zu den Anfängen der Propaganda oder systematischen Versuchen, Gehirne „umzuprogrammieren“ (brainwashing, menticide, sensorische Deprivation, Drogen).

Dass Gehirne sich relativ einfach beeinflussen lassen, ist eine altbekannte Tatsache. Es gibt viele visuelle Beispiele oder Sinnestäuschungen dafür, wie sich die Wahrnehmung austricksen lässt, oder logische Paradoxien, die das Denken lahmlegen. Und dann sind da noch Drogen, die Hypnose oder sensorische Deprivation. Man kann sich natürlich fragen, warum eine KI, die menschenähnlich sein soll, nicht ebenso halluzinieren, sich täuschen, überrumpeln oder beeinflussen lassen soll. Wenn ein System „kreativ“ ist, erfindet es oder kann auch abstürzen und neben die Spur geraten – es überschreitet die Wirklichkeit und kann Neues herstellen.

Havanna-Syndrom

Bekannt ist, dass Stroboskop-Licht oder flackerndes Licht epileptische Anfälle auslösen kann. Auch unbewegte Bilder mit scharf konturierten und kontrastreichen Gittermustern können bei fotosensiblen Menschen Anfälle auszulösen, allerdings betrifft das nur einen geringen Prozentsatz. Militärs beschäftigen sich natürlich mit der Kognitiven Kriegsführung, um die Gehirne der Gegner zu manipulieren oder zeitweise einzufrieren. Es kursieren Schauergeschichten, welche kognitiven Waffen natürlich die Feinde haben könnten.

Das „Havanna-Syndrom“, so benannt, weil erstmals 2016 in der US-Botschaft in Kuba aufgetreten,  hat es in die Schlagzeilen geschafft und die amerikanische Politik sowie die Geheimdienste beschäftigt. Angeblich wurden Botschaftsangehörige, Militärs und Geheimdienstmitarbeiter im Ausland mit Mikrowellen- oder Ultraschall-Waffen traktiert, mit denen Angriffe auf Gehirne praktiziert worden sein sollen, die Kopfschmerzen, Übelkeit, Schwindel, Schlaflosigkeit oder kognitive Schädigungen verursacht worden sein sollen. So soll das angeblich krankmachende Geräusch klingen. Die amerikanischen Geheimdienste gaben Entwarnung, der Spiegel und 60 Minutes (CBS) wollen hingegen wieder einmal zusammen mit dem russischen Oppositionsmedium The Insider den russischen Geheimdienst GRU dafür verantwortlich machen.

Logical Imaging Technique

Den Gedanken einer visuellen Angriffswaffe, die das Gehirn einfriert, hat David Langford in einer SF-Geschichte mit dem Titel BLIT (1998) zum Thema gemacht. BLIT ist die Abkürzung von Berryman Logical Image Technique. Dazu erfand Langford den Wissenschaftler Dr. Vernon Berryman, der an der stillgelegten Cambridge IV Supercomputer-Abteilung an einer „Logischen Bildtechnik“ geforscht und in der Zeitschrift Nature den Artikel  “On Thinkable Forms, with Notes towards a Logical Imaging Technique” veröffentlicht hat, der aber unter Geheimhaltung fiel und nicht mehr aufzufinden ist. Ebenso verschwunden ist Berryman.

Der Wissenschaftler hat Basilisk-Bilder entwickelt, wie Langford in Nature (1999) schrieb. Basilisk ist ein phantastisches Wesen mit einem tödlichen Blick. „Er (Berryman) stellte sich den menschlichen Verstand als ein formales, deterministisches Rechensystem vor“, so Langford, „ein System, das, wie eine Variante des Gödelschen Satzes in der Mathematik vorhersagt, durch Gedanken zum Absturz gebracht werden kann, die der Verstand physisch oder logisch nicht denken kann. Die Logical Imaging Technique präsentiert einen solchen Gedanken in rein visueller Form als Basiliskenbild, das unsere Sehnerven nicht anders als akzeptieren können. Das Ergebnis ist katastrophal, wie ein ins Gehirn eingeschleuster Software-Stealth-Virus.“ Während der Mensch sprachlich mit einem Paradoxon wie „Dieser Satz ist falsch“ umgehen kann, könnten Basilisk-Bilder ungehindert in das Gehirn eintreten und durch den „Gödelschen Schock-Input“ ähnlich wie einen Computer durch Eingabe unverarbeitbarer Daten zum „Crashen“ bringen.

Pokemon-Schock

Zurück zu Tomáš Daniš, dessen Gedanke vom KI-Entwickler Flo Crivello, dem Gründer von getlindy, aufgegriffen wurde: „Ich bin immer überrascht zu sehen, dass dies nicht für jeden offensichtlich ist“, schrieb er. Auch er ging nicht auf die bekannten Trigger für kognitive und psychische Veränderungen ein, sondern verwies auf ein Ereignis, das von einem technisch-visuellen Input verursacht wurde, das aber nur vorübergehend wirkte.

Im Dezember 1997 kam es zur Auslösung eines epileptischen Anfalls von 600-700 jungen Menschen in Japan. Sie hatten eine Folge von Pocket Monster oder Pokemon im Fernsehen angeschaut. Marina Grzinic schrieb damals in Telepolis: „Die Fernsehzuschauer waren von einem Ausbruch von Konvulsionen und Übelkeit betroffen, der in Epilepsie endete. Die Szene in Pokemon, die vermutlich Hunderte in Krankenhäuser geschickt hat, kann als vier Sekunden lange Sequenz blitzender roter, blauer, weißer und schwarzer Lichter beschrieben werden. Es war eine Art Stroboskop-Blitz, wie indirektes Sonnenlicht von extrastarker Helligkeit, so hell, daß diese Sequenz zu Blindheit und Epilepsie bei den Zuschauern führte.“ Manche sprachen von einer Panik oder einer Massenhysterie.

Crivello meint, der Angriff auf die Gehirne der Kinder, der „Pokemon Schock“, sei ziemlich einfach gewesen, der Bildschirm habe bei 12hz 6 Sekunden lang rot und blau aufgeblitzt, was reichte, bei hunderten Zuschauern einen epileptischen Anfall auszulösen, so dass sie ins Krankenhaus gebracht wurden. 4,6 Millionen Haushalte hatten in Japan die Pokemon-Folge angeschaut, 5-10 Prozent der Zuschauer sollen milde Symptome verspürt haben. Crivello verglich das damit, wie einfach eine KI in Verwirrung gestürzt werden kann. Schon die Beimischung von wenig Rauschen ließ eine KI nicht mehr mit 58 Prozent Wahrscheinlichkeit einen Panda, sondern mit 97 Prozent Wahrscheinlichkeit einen Gibbon sehen. Es gebe keinen Grund, schreibt er, warum Menschen nicht auch so getäuscht werden können.

Bildmanipulationen

Google-Wissenschaftler Gamaleldin Elsayed und Michael Mozer hatten im August 2023 just darüber berichtet, dass geringfügige, für Menschen nicht bewusst wahrnehmbare Veränderungen von Bildern, mit denen sich Computer Vision-Systeme irritieren lassen, auch Menschen beeinflussen können. Dabei geht es um sogenannte adversarial images, mit denen Maschinelles Sehen getäuscht werden kann, so dass es etwas anderes sieht (statt einer Vase mit Blumen  eine Katze), etwas nicht erkennt oder vielleicht sogar einfriert.

In einem RGB-Bild wird jedes Pixel auf einer 0-255-Skala in seiner Farbintensität repräsentiert, schreiben sie. Ein „Angriff“ könne schon erfolgreich sein, wenn kein Pixel mehr als 2 Werte auf der Skala verändert wird. In Experimenten konnten die Wissenschaftler sehen, dass Menschen unbewusst auch auf geringfügig veränderte Bilder reagieren. Werden sie gefragt, ob sie bei einem Bildpaar, das offensichtlich eine identische Vase mit Blumen zeigt, in welchem sie am ehesten eine Katze sehen, dann wählen signifikant mehr als die Hälfte das Bild, das für das Maschinelle Sehen als Katze identifiziert wird, auch wenn sie bewusst weiterhin die Vase erkennen: „Das menschliche Sehen ist zwar nicht so anfällig für Störungen wie das maschinelle Sehen (Maschinen erkennen die ursprüngliche Bildklasse nicht mehr, aber Menschen sehen sie immer noch deutlich), aber unsere Arbeit zeigt, dass diese Störungen den Menschen dennoch in Richtung der von Maschinen getroffenen Entscheidungen beeinflussen können.“

Ähnliche Beiträge:

• KI verbessert Lauschangriffe auf das Gehirn
• Warum schrumpft das Gehirn des Menschen seit ein paar Tausend Jahren?
• Psychische Störungen lassen sich weder auf die Gene, noch auf das Gehirn reduzieren
• Kryonik: Vorsorge für die Wiederauferstehung mit schwierigen Fragen
• Nato: “Das Gehirn wird das Schlachtfeld des 21. Jahrhunderts”