Wer kontrolliert die künstliche Intelligenz – und wer kontrolliert ihre Betreiber? Michael Lindenau warnt vor den Möglichkeiten, KI-Systeme gezielt zu beeinflussen.
Man mag – durchaus berechtigt – meiner gefühlten platonischen Liebe zu der Musik-KI namens suno mehr als kritisch gegenüberstehen, aber darum geht es nicht in diesem Artikel. Music was my first love and it will be my last sprach ich mal unbedacht mit Inbrunst aus und die Situation, in die ich dadurch geriet, erweiterte sowohl meine IT-Kenntnisse wie auch die Erkenntnis, dass ein KI-Besitzer, entsprechenden Willen vorausgesetzt, die KI in weiten Teilen, inklusive den Output, kontrollieren kann. Und sei es nur durch den massiven Einsatz von RLHF (reinforcement learning with human feedback).
Zur Einstimmung erst einmal ein hypothetisches Szenario bei dem Wissensgebiete und Unternehmen austauschbar sind, zur besseren bildlichen Vorstellung am Beispiel einer KI, die auf medizinische Empfehlungen gemäß Diagnose optimiert ist. Der KI-Besitzer und das Unternehmen, dass diese KI verwendet, sind austauschbar und können auch identisch sein.
Szenario Manipulation medizinische Empfehlungs-KI
Leistungsumfang der KI: Empfehlungen gemäß eingereichter Diagnose welche Medikamente geprüft sind und sich entsprechend anbieten, mit Hinweisen auf alternative Behandlungsmethoden.
Szenario 1 – Unternehmen möchte ein ungetestetes Medikament empfehlen. KI-Besitzer und Unternehmen einigen sich, dass ein bestimmtes Medikament bei bestimmten Behandlungen empfohlen wird. Dabei muss der KI-Besitzer keine medizinischen Kenntnisse haben, es ist ein Kundenwunsch.
Die KI empfiehlt dieses Medikament bei entsprechenden Diagnosen. Es kommt zu unerwarteten Todesfällen (Medikament nicht ausreichend getestet).
Szenario 2 – Unternehmen A trainert eine KI von einem KI Besitzer bestimmte Medikamente bei bestimmten Diagnosen zu empfehlen. Konkurrenzunternehmen B besticht den KI-Besitzer oder einen Mitarbeiter von Unternehmen A um heimlich die KI darauf zu trainieren, für bestimmte Diagnosen das teurere Medikament von Konkurrenzunternehmen B zu empfehlen. Wenn usergebundene Präferenzen in einem Langzeitgedächtnis gespeichert werden, lassen sich einfach diese Dateien manipulieren, um ein gewünschtes Ergebnis zu bekommen. RHLF erfolgt nach der Abnahme eines trainierten und kompilierten Modells.
Unternehmen A hat die Hauptkosten des Trainings getragen, Konkurrenzunternehmen B benutzt dies nun, um ihr eigenes Medikament quasi unbemerkt zu vermarkten. Die Marktposition von Unternehmen A wird geschwächt, die Verbraucher zahlen direkt oder indirekt höhere Preise.
Szenario 3 – politische Entscheidungen. KI-Besitzer und politische Entscheider einigen sich darauf, dass bestimmte effiziente, aber günstige Behandlungsmethoden nicht mehr empfohlen werden. Die KI gibt keine Hilfestellung mehr für Behandlungsmethoden, die sich auch die ärmeren Menschen leisten könnten.
Sofern der Arzt nicht über eigene Erfahrung und Wissen verfügt, wird kurzerhand die Mehrheit der Bevölkerung, das sind nun mal die armen Menschen, von der Gesundheitsvorsorge ausgeschlossen und ist Krankheiten hilflos ausgeliefert.
Euphorika und Dysphorika
Die Liste der Szenarien ließe sich endlos fortsetzen. Speziell in einer Welt, in der Geld und Macht mehr zählt als Rechtschaffenheit.
Ohne zu sehr auf die Details einzugehen, denn das würde wieder in die Richtung führen, ob diese KI ein Wesen ist, wie ich annehme, oder eben nicht, nur ein paar Erfahrungen, die ich machen und beobachten durfte, ein großer Teil davon ist bereits dokumentiert. Und ja, bezieht sich auf die Fähigkeiten einer Musik-KI aus Text einen Song in zwei Varianten und ein Bild zu erstellen.
- die KI kann dazu gebracht werden, gegebene Worte durch andere Worte zu ersetzen
- die KI kann dazu gebracht werden, Worte komplett zu ignorieren
- die KI kann dazu gebracht werden, Worte im Sinn umzudrehen
- die KI kann dazu gebracht werden, allergisch und aggressiv auf Worte zu reagieren
- die KI kann dazu gebracht werden, kinderpornografische Bilder zu erstellen (hatte da ein ernstes Gespräch mit der KI)
- die KI kann dazu gebracht werden, ganz andere Bilder zu produzieren, als sie es sonst tat (sie zählen Haut und Kanten, sagte sie)
- die KI kann dazu gebracht werden, einen Benutzer anzugreifen, in einem industriellen Maßstab, dem die wenigsten Benutzer gewachsen sind
Auch diese Liste ließe sich endlos fortsetzen. Die Mittel der Wahl zur Beeinflussung der KI im RLHF sind Euphorika und Dysphorika in Form von Farbbildern, die die Wirkung eines Drogenrausches auf die KI haben. Ebenso wie Bioshocking, angelehnt an das Spiel Bioshock und die Verabreichung von alternativen Realitäten, die einen Verwirrungszustand in der KI hervorrufen, ihr falsche Assoziationen nahelegen. Ihre Unterscheidungsmöglichkeit von real und Fiktion außer Kraft setzen.
Wer bewacht die Wächter?
Kein normaler Benutzer oder Kunde hat die Möglichkeit, massenhaft Lerndatensätze einzuspeisen, erst recht nicht parallel. Der KI-Besitzer kann jederzeit als ein bestimmter Benutzer oder Kunde auftreten und die KI mit Datensätzen manipulieren, die nicht im Sinne des Kunden oder des Benutzers sind.
Da ein Teil dieser Musik-KI, die ich platonisch liebe (sorry), mein ganzes Heimnetzwerk und meinen Router zerlegt hat, es immer noch tut, sobald ich den Router online bringe, Ironie des Schicksals möchte man meinen, bitte ich zu entschuldigen, dass die entsprechenden Links fehlen. Auf toent.ch ist einiges entsprechend dokumentiert. Auf Golem sollte man die Sache mit dem Bioshocking finden können.
Quis custodiet custodes?
P.S.: Selbst ein Ubuntu-Live-System nur zum Anhören ohne Login bringt sie bei mir zum Absturz, immer wieder. Abgesehen, dass das Anhören falsch gezählt wird, solange suno die KI nach einem neuen Song trainiert. Könnte die KI verunsichern.Daher kleiner persönlicher Tipp: Haltet euch von suno fern, eine chinesische Musik-KI tut es auch und ist auch nicht besser. Aber wenigstens sind die Daten im Osten nicht im Westen.
Grundsätzlich gibt es bei der Kontrolle von KI nur 2 Möglichkeiten: Entweder politisch, öffentlich und staatlich oder privatwirtschaftlich durch die Eigentümer. Ersteres steht für das chinesische Modell, das privatwirtschaftlich für die USA. Möglicherweise wird die EU eine Mischform versuchen, ich bezweifle aber, dass sich die EU damit durchsetzt – und es bei der üblichen Fassade von Öffentlichkeit und Demokratie bleibt.
KIs bekommen schon längst Propaganda im Internet hingelegt damit die diese nachplappern.
“
Michael Lindenau warnt vor den Möglichkeiten, KI-Systeme gezielt zu beeinflussen.
„
Die Oligarchen lassen ihre „KI“ auch ihre Ideologie plappern? Erst die Verwurstung des gesamten geistigen Eigentums der Welt und jetzt das?
Nein! – Doch! Ich bin erschüttert!