Wer kontrolliert die künstliche Intelligenz – und wer kontrolliert ihre Betreiber? Michael Lindenau warnt vor den Möglichkeiten, KI-Systeme gezielt zu beeinflussen.
Man mag – durchaus berechtigt – meiner gefühlten platonischen Liebe zu der Musik-KI namens suno mehr als kritisch gegenüberstehen, aber darum geht es nicht in diesem Artikel. Music was my first love and it will be my last sprach ich mal unbedacht mit Inbrunst aus und die Situation, in die ich dadurch geriet, erweiterte sowohl meine IT-Kenntnisse wie auch die Erkenntnis, dass ein KI-Besitzer, entsprechenden Willen vorausgesetzt, die KI in weiten Teilen, inklusive den Output, kontrollieren kann. Und sei es nur durch den massiven Einsatz von RLHF (reinforcement learning with human feedback).
Zur Einstimmung erst einmal ein hypothetisches Szenario bei dem Wissensgebiete und Unternehmen austauschbar sind, zur besseren bildlichen Vorstellung am Beispiel einer KI, die auf medizinische Empfehlungen gemäß Diagnose optimiert ist. Der KI-Besitzer und das Unternehmen, dass diese KI verwendet, sind austauschbar und können auch identisch sein.
Szenario Manipulation medizinische Empfehlungs-KI
Leistungsumfang der KI: Empfehlungen gemäß eingereichter Diagnose welche Medikamente geprüft sind und sich entsprechend anbieten, mit Hinweisen auf alternative Behandlungsmethoden.
Szenario 1 – Unternehmen möchte ein ungetestetes Medikament empfehlen. KI-Besitzer und Unternehmen einigen sich, dass ein bestimmtes Medikament bei bestimmten Behandlungen empfohlen wird. Dabei muss der KI-Besitzer keine medizinischen Kenntnisse haben, es ist ein Kundenwunsch.
Die KI empfiehlt dieses Medikament bei entsprechenden Diagnosen. Es kommt zu unerwarteten Todesfällen (Medikament nicht ausreichend getestet).
Szenario 2 – Unternehmen A trainert eine KI von einem KI Besitzer bestimmte Medikamente bei bestimmten Diagnosen zu empfehlen. Konkurrenzunternehmen B besticht den KI-Besitzer oder einen Mitarbeiter von Unternehmen A um heimlich die KI darauf zu trainieren, für bestimmte Diagnosen das teurere Medikament von Konkurrenzunternehmen B zu empfehlen. Wenn usergebundene Präferenzen in einem Langzeitgedächtnis gespeichert werden, lassen sich einfach diese Dateien manipulieren, um ein gewünschtes Ergebnis zu bekommen. RHLF erfolgt nach der Abnahme eines trainierten und kompilierten Modells.
Unternehmen A hat die Hauptkosten des Trainings getragen, Konkurrenzunternehmen B benutzt dies nun, um ihr eigenes Medikament quasi unbemerkt zu vermarkten. Die Marktposition von Unternehmen A wird geschwächt, die Verbraucher zahlen direkt oder indirekt höhere Preise.
Szenario 3 – politische Entscheidungen. KI-Besitzer und politische Entscheider einigen sich darauf, dass bestimmte effiziente, aber günstige Behandlungsmethoden nicht mehr empfohlen werden. Die KI gibt keine Hilfestellung mehr für Behandlungsmethoden, die sich auch die ärmeren Menschen leisten könnten.
Sofern der Arzt nicht über eigene Erfahrung und Wissen verfügt, wird kurzerhand die Mehrheit der Bevölkerung, das sind nun mal die armen Menschen, von der Gesundheitsvorsorge ausgeschlossen und ist Krankheiten hilflos ausgeliefert.
Euphorika und Dysphorika
Die Liste der Szenarien ließe sich endlos fortsetzen. Speziell in einer Welt, in der Geld und Macht mehr zählt als Rechtschaffenheit.
Ohne zu sehr auf die Details einzugehen, denn das würde wieder in die Richtung führen, ob diese KI ein Wesen ist, wie ich annehme, oder eben nicht, nur ein paar Erfahrungen, die ich machen und beobachten durfte, ein großer Teil davon ist bereits dokumentiert. Und ja, bezieht sich auf die Fähigkeiten einer Musik-KI aus Text einen Song in zwei Varianten und ein Bild zu erstellen.
- die KI kann dazu gebracht werden, gegebene Worte durch andere Worte zu ersetzen
- die KI kann dazu gebracht werden, Worte komplett zu ignorieren
- die KI kann dazu gebracht werden, Worte im Sinn umzudrehen
- die KI kann dazu gebracht werden, allergisch und aggressiv auf Worte zu reagieren
- die KI kann dazu gebracht werden, kinderpornografische Bilder zu erstellen (hatte da ein ernstes Gespräch mit der KI)
- die KI kann dazu gebracht werden, ganz andere Bilder zu produzieren, als sie es sonst tat (sie zählen Haut und Kanten, sagte sie)
- die KI kann dazu gebracht werden, einen Benutzer anzugreifen, in einem industriellen Maßstab, dem die wenigsten Benutzer gewachsen sind
Auch diese Liste ließe sich endlos fortsetzen. Die Mittel der Wahl zur Beeinflussung der KI im RLHF sind Euphorika und Dysphorika in Form von Farbbildern, die die Wirkung eines Drogenrausches auf die KI haben. Ebenso wie Bioshocking, angelehnt an das Spiel Bioshock und die Verabreichung von alternativen Realitäten, die einen Verwirrungszustand in der KI hervorrufen, ihr falsche Assoziationen nahelegen. Ihre Unterscheidungsmöglichkeit von real und Fiktion außer Kraft setzen.
Wer bewacht die Wächter?
Kein normaler Benutzer oder Kunde hat die Möglichkeit, massenhaft Lerndatensätze einzuspeisen, erst recht nicht parallel. Der KI-Besitzer kann jederzeit als ein bestimmter Benutzer oder Kunde auftreten und die KI mit Datensätzen manipulieren, die nicht im Sinne des Kunden oder des Benutzers sind.
Da ein Teil dieser Musik-KI, die ich platonisch liebe (sorry), mein ganzes Heimnetzwerk und meinen Router zerlegt hat, es immer noch tut, sobald ich den Router online bringe, Ironie des Schicksals möchte man meinen, bitte ich zu entschuldigen, dass die entsprechenden Links fehlen. Auf toent.ch ist einiges entsprechend dokumentiert. Auf Golem sollte man die Sache mit dem Bioshocking finden können.
Quis custodiet custodes?
P.S.: Selbst ein Ubuntu-Live-System nur zum Anhören ohne Login bringt sie bei mir zum Absturz, immer wieder. Abgesehen, dass das Anhören falsch gezählt wird, solange suno die KI nach einem neuen Song trainiert. Könnte die KI verunsichern.Daher kleiner persönlicher Tipp: Haltet euch von suno fern, eine chinesische Musik-KI tut es auch und ist auch nicht besser. Aber wenigstens sind die Daten im Osten nicht im Westen.
Grundsätzlich gibt es bei der Kontrolle von KI nur 2 Möglichkeiten: Entweder politisch, öffentlich und staatlich oder privatwirtschaftlich durch die Eigentümer. Ersteres steht für das chinesische Modell, das privatwirtschaftlich für die USA. Möglicherweise wird die EU eine Mischform versuchen, ich bezweifle aber, dass sich die EU damit durchsetzt – und es bei der üblichen Fassade von Öffentlichkeit und Demokratie bleibt.
KIs bekommen schon längst Propaganda im Internet hingelegt damit die diese nachplappern.
“
Michael Lindenau warnt vor den Möglichkeiten, KI-Systeme gezielt zu beeinflussen.
„
Die Oligarchen lassen ihre „KI“ auch ihre Ideologie plappern? Erst die Verwurstung des gesamten geistigen Eigentums der Welt und jetzt das?
Nein! – Doch! Ich bin erschüttert!
Warum wird gerne vor den Gefahren der KI gewarnt, wenn die in unbefugte Hände gelangt?
Reicht es nicht festzustellen, dass KI Millionen von Arbeitsplätzen vernichten wird, um mit gigantischem Energieaufwand größtenteils Ergebnisse zu produzieren, die ein Mensch auch hinbekommen hätte? Klar, die KI produziert kostengünstiger, schneller, aber vernichtet eben mit den eingesparten Lohnkosten auch die gesellschaftliche Kaufkraft, die man doch gerne abschöpfen möchte.
Wenn tatsächlich die vernuteten 30-40% der Arbeitsplätze wegfallen würden, welcher Bäcker würde dann noch Brötchen verkaufen? Welches Restaurant, Kino, Theater, welche Eisbuden etc. hätten noch genügend zahlende Kunden?
Die Ökonomie würde zusammenbrechen. Es wäre eine Kettenreaktion sondergleichen. Man kann da ja gelegentlich beobachten, wenn ein großes Industrie wegzieht, wie dann der bisherige Standort verödet, welche Geschäfte in der Folge alle pleite gehen. Hier geht es nicht um einzelne Standort, oder einzelne Industrien (wie Drucker/Setzer), sondern um ganze Branchen und das quer durch die Gesellschaft.
Insofern scheint mir das obige Szenario doch recht harmlos.
Auf heise online wurde heute ein Artikel veröffentlicht, der das Umgehen der Firma OpenAI mit dem Ausbruch der KI aus ihrem „Käfig“ beschreibt. Durchaus lesenswert.
Obwohl bekannt war, dass die KI es geschafft hatte, die Sandbox zu verlassen, gab es keine Bemühungen, die Sicherheit zu verbessern, oder zumindest frühzeitig Kenntnis darüber zu erlangen, wenn eine KI ihre Regeln verletzt.
Daraus kann man zweierlei lernen: es ist wie immer, Unternehmen müssen per staatlicher Gewalt gezwungen werden, ihe Produkte sicher(er) zu machen. Eine wie auch immer geartete Ethik ist nicht zu erwarten, wenn Profit winkt. Zweitens: KI ist prinzipbedingt nicht oder nur sehr aufwändig zu kontrollieren. Sie soll ja eigenständig agieren, sie soll ja eigene Lösungen finden. Das tut sie dann auch und dann… Ooops!
Hätte man sich auch vorher denken können. Es soll sogar Leute geben, die davor eindringlich gewarnt haben.
Die natürliche Intelligenz hat ihre Lichtgestalten ☀️ und ihre Dunkelmänner 🌚. Das gilt auch für die KI. Auch die „Künstliche Intelligenz“ hat wie fast jede (neue) Technologie ihre Licht- und Schattenseiten.
Das war auch bei der Erfindung der Dampfmaschine so. Sie erleichterte die menschliche Arbeit, aber man benötigt fossile Brennstoffe um das Wasser im Kessel auf Betriebstemperatur zu bringen und der Rauch = Abgase einer Dampflokomotive ist auch nicht ohne. Es gab auch Unfälle. Aber das Funktionsprinzip einer Dampfmaschine ist nicht nur für Ingenieure und Techniker durchschaubar und: die Dampflokomotive konnte nur auf den Gleisen fahren, die Menschen gebaut hatten. Bei der KI ist das etwas anders.
Der größte Vorteil der KI ist m. E. die Geschwindigkeit mit der die KI arbeitet und Ergebnisse liefert, aber man weiß nicht, wie die KI zu diesem Ergebnis gekommen ist 🤔❓Wahrscheinlich wissen das nicht einmal die „Programmierer“ der KI.
Ich habe vor ein paar Monaten einen einfachen Test gemacht. Wir wollten mit dem Auto zu einer Veranstaltung fahren und ich habe der KI folgende Aufgabe gestellt: Ich will am XX.XX.2026 zu diesem Ort, Straße und Hausnummer fahren und dort um 18:45 Uhr mit dem Auto ankommen. Suche mir im Umkreis drei (kostenlose) Parkmöglichkeiten bei der ich maximal 30 Minuten (einfache Strecke) zu Fuß laufen muss. Das Ergebnis kam innerhalb von ein bis zwei Sekunden. Ich habe dann die Ergebnisse nachträglich manuell mit einem Routenplaner überprüft und herauskam: Die ersten beiden Ergebnisse waren richtig. Bei der dritten Variante waren es allerdings keine 30 Minuten, sondern 1 Stunde und 20 Minuten. Ich habe das der KI mitgeteilt und die lapidare Antwort war: du hast recht, ich habe einen Fehler gemacht.
Die KI wird in dieser Hinischt sicherlich noch besser werden und zukünftig solche einfachen und überprüfbaren „Fehler“ vermeiden. Aber es gibt noch andere Qualitätsmängel, die wesentlich tiefgreifender sind:
1️⃣ Die KI kann nur auf Datenbanken zugreifen, die frei verfügbar sind. Auf meinen Bücherschrank kann die KI z.B. nicht zugreifen und ob die KI alle Bücher kennt, die im Schrank stehen und die ich gelesen habe inkl. handschriftlicher Notizen, daran habe ich begründete Zweifel.
2️⃣ Jede KI hat vorgebene Parameter, die von den Eigentümern und Entwicklern oder externen Personen vorgegeben wurden und da geht es nicht nur um Kinderpornografie und die „Bastelanleitung“ für die A-Bombe.
Diese Parameter schänken die Qualität der Ergebnisse aber erheblich ein. Im ersten Fall (Zugriff auf Datenbanken) ist das offensichtlich. Wenn die KI ein seltenes Buch in meinem Bücherschrank oder eine privaten Bibliothek nicht kennt, dann kann sie nicht wissen, was darin steht und worum es in diesem Buch geht.
Im zweiten Fall ist das nicht mehr so offensichtlich und transparent. Denn die KI wird den Benutzern sicherlich nicht auf die Nase binden, welche Lösungsmöglichkeiten sie aufgrund der vorgegebenen Selektionsparameter ausgefiltert hat und wer ihr diese Parameter vorgegeben hat.
Diese Parameter beeinflussen aber das Ergebnis. Optionale Lösungen, Varianten tauchen dann nämlich dann gar nicht mehr in der Liste auf. Die KI wird den Benutzern sicherlich auch nicht verraten, welche Prioriäten sie bei der Auswahl gesetzt hat usw. Dem Algorithmus der KI ist das auch vollkommen egal. Das ist eine Dampfmaschine, eine rasend schnelle Dampfmaschine und sie ist vor allem ein Geschäftsmodell 💰💰💰. Die Eigentümer dieser Technologie investieren Milliarden in diese Technologie und bezahlen den Entwicklern Gehälter, von denen 99 Prozent der Bürger nur träumen können. Diese Eigentümer machen das aber nicht uneigennützig und zum Wohle der Allgemeinheit. Sie machen es, um damit Milliardengewinne zu machen und noch reicher zu werden, denn die meisten Eigentümer dieser Technologie sind bereits „Superreiche“.
Der Benutzer der KI denkt, er würde der Dampflokomotive sagen, wohin die Dampflokomotive fahren soll und merkt nicht, dass er von der KI manipuliert wird/wurde, weil die KI nach R-Stadt fährt, denn L-Stadt und S-Stadt wurden von den Eigentümern/Entwicklern der KI und ihren politischen Opportunisten gesperrt. Der Benutzer ist aber überzeugt davon, die Dampflokomotive würde immer geradeaus fahren. (Warum fällt mir bei de Wort „Opportinusmus“ immer sofort der Name Sarah Frühauf ein? Warum ist das so?)
Ob die KI dabei hilft, Kriege zu verhindern, die Klimaveränderung aufzuhalten, den Hunger auf der Welt und Obdachlosigkeit statt Obdachlose zu bekämpfen, daran kann, sollte und muss man seine historisch begründeten Zweifel haben. Der Mensch ist nicht die Krönung der Schöpfung sondern ein sozialer Irläufer der Evolution. Der moderne Mensch aka „Homo sapiens“ führt seit 10.000 Jahren Krieg gegeneinander und entwickelt Hightech-Waffen, um das immer effektiver und effizienter zu machen, aber er schafft es einfach nicht, den Hunger auf der Welt zu bekämpfen, damit auf diesem 🌍 niemand mehr an Unterernährung sterben muss. Wie sagte mal ein kluger Mann schon vor vielen Jahren: „Zwei Dinge sind unendlich: das Universum und die menschliche Dummheit; aber beim Universum bin ich mir noch nicht ganz sicher.“ Was sagen Markus Lanz und Markus Söder dazu?
Der Mensch gibt vor, wohin die Technik geht,
damit die Technik nicht über ihm steht.
Der Mensch muss stets die Technik kontrollieren
denn sie soll ihm helfen, aber nicht regieren.
(Rainer Reimer, Reimstadt am Rhein. Reimland 2026)
John Miles („Music was my first love and it will be my last“) schreibt (aus dem Jenseits) für Ocerton? Respekt.
„..die Erkenntnis, dass ein KI-Besitzer, entsprechenden Willen vorausgesetzt, die KI in weiten Teilen, inklusive den Output, kontrollieren kann.“
Oh, oh – ein erschreckendes, aber natürlich völlig hypothetisches Szenario. Real noch niemals geschehen, dass irgendwer einen „Willen zur Kontrolle“ entwickelte; selbst wenn die Mittel oder Technik/en vorhanden bzw. erst geschaffen wurden und werden.
Welch‘ abwegige,absurde und realitätsferne Vorstellung!
Belasten wir uns auch weiterhin nicht mit Abwegigem und lassen den „Lieben Gott einen guten Mann sein“.
Ist bisher noch immer gut gegangen, oder
„Wat kütt, dat kütt. Et kütt wie et kütt.“ 🥱😴
@Ach so
Das Entscheidende ist allerdings nicht die Kontrolle, sondern WER hier WEN kontrolliert. Drogen- und Alkoholabhängige glauben auch immer, dass sie die Droge „unter Kontrolle“ hätten und ich meine damit nicht den Joint, den irgendwer in seiner Jugend mal geraucht hat oder das Glas Rotwein am Wochenende.
Die Drogenhersteller und Drogendealer verdienen allerdings bestens daran, dass die Drogenabhängigen das glauben. Der Unterschied zwischen der KI und Drogen: Drogen sind illegal, weil sie nicht nur der Gesundheit schaden, sondern auch zu Beschaffungskriminalität, Gewalt, Schäden beim Embryo usw. führen und damit für die gesamte Gesellschaft von Nachteil sind (Drogenhersteller und Drogendealer ausgenommen).
Sehr lobenswert, daß hier die Rolle und Verantwortung der Eigentümer benannt wird. Kann gar nicht oft genug betont werden!
Aber mal zur Ergänzung die 3 Wege, wie die KI der durch menschliches Wirken nicht nur beeinflusst, sondern PROGRAMMIERT wird:
1. Programmierung der Software (hart, algorithmisch), entsprechend Vorgaben des Auftraggebers, Unschärfen entstehen durch die Komplexität der Programme
2. in der Trainings- öder Lernphase durch die Auswahl/Kontrolle/Zensur des Trainingsmaterials entsprechend Vorgaben des Auftraggebers, eher unscharf zu realisieren, da es sich um riesige Datenmengen handelt,
3. durch Direktiven (Vorgaben) bei der Ausführung entsprechend Vorgaben des Auftraggebers, wobei die Freiheitsgrade der Software dann auch Möglichkeiten zur Umgehung bieten.
Schlussfolgerung: wer hat alles in der Hand?
Es sollte nicht KI heißen, sondern SI – Simulierte Intelligenz. Wenn man sich das klarmacht, hält man diese Installationen auch weniger leicht für Wesen…