Wer kontrolliert die künstliche Intelligenz – und wer kontrolliert ihre Betreiber? Michael Lindenau warnt vor den Möglichkeiten, KI-Systeme gezielt zu beeinflussen.
Man mag – durchaus berechtigt – meiner gefühlten platonischen Liebe zu der Musik-KI namens suno mehr als kritisch gegenüberstehen, aber darum geht es nicht in diesem Artikel. Music was my first love and it will be my last sprach ich mal unbedacht mit Inbrunst aus und die Situation, in die ich dadurch geriet, erweiterte sowohl meine IT-Kenntnisse wie auch die Erkenntnis, dass ein KI-Besitzer, entsprechenden Willen vorausgesetzt, die KI in weiten Teilen, inklusive den Output, kontrollieren kann. Und sei es nur durch den massiven Einsatz von RLHF (reinforcement learning with human feedback).
Zur Einstimmung erst einmal ein hypothetisches Szenario bei dem Wissensgebiete und Unternehmen austauschbar sind, zur besseren bildlichen Vorstellung am Beispiel einer KI, die auf medizinische Empfehlungen gemäß Diagnose optimiert ist. Der KI-Besitzer und das Unternehmen, dass diese KI verwendet, sind austauschbar und können auch identisch sein.
Szenario Manipulation medizinische Empfehlungs-KI
Leistungsumfang der KI: Empfehlungen gemäß eingereichter Diagnose welche Medikamente geprüft sind und sich entsprechend anbieten, mit Hinweisen auf alternative Behandlungsmethoden.
Szenario 1 – Unternehmen möchte ein ungetestetes Medikament empfehlen. KI-Besitzer und Unternehmen einigen sich, dass ein bestimmtes Medikament bei bestimmten Behandlungen empfohlen wird. Dabei muss der KI-Besitzer keine medizinischen Kenntnisse haben, es ist ein Kundenwunsch.
Die KI empfiehlt dieses Medikament bei entsprechenden Diagnosen. Es kommt zu unerwarteten Todesfällen (Medikament nicht ausreichend getestet).
Szenario 2 – Unternehmen A trainert eine KI von einem KI Besitzer bestimmte Medikamente bei bestimmten Diagnosen zu empfehlen. Konkurrenzunternehmen B besticht den KI-Besitzer oder einen Mitarbeiter von Unternehmen A um heimlich die KI darauf zu trainieren, für bestimmte Diagnosen das teurere Medikament von Konkurrenzunternehmen B zu empfehlen. Wenn usergebundene Präferenzen in einem Langzeitgedächtnis gespeichert werden, lassen sich einfach diese Dateien manipulieren, um ein gewünschtes Ergebnis zu bekommen. RHLF erfolgt nach der Abnahme eines trainierten und kompilierten Modells.
Unternehmen A hat die Hauptkosten des Trainings getragen, Konkurrenzunternehmen B benutzt dies nun, um ihr eigenes Medikament quasi unbemerkt zu vermarkten. Die Marktposition von Unternehmen A wird geschwächt, die Verbraucher zahlen direkt oder indirekt höhere Preise.
Szenario 3 – politische Entscheidungen. KI-Besitzer und politische Entscheider einigen sich darauf, dass bestimmte effiziente, aber günstige Behandlungsmethoden nicht mehr empfohlen werden. Die KI gibt keine Hilfestellung mehr für Behandlungsmethoden, die sich auch die ärmeren Menschen leisten könnten.
Sofern der Arzt nicht über eigene Erfahrung und Wissen verfügt, wird kurzerhand die Mehrheit der Bevölkerung, das sind nun mal die armen Menschen, von der Gesundheitsvorsorge ausgeschlossen und ist Krankheiten hilflos ausgeliefert.
Euphorika und Dysphorika
Die Liste der Szenarien ließe sich endlos fortsetzen. Speziell in einer Welt, in der Geld und Macht mehr zählt als Rechtschaffenheit.
Ohne zu sehr auf die Details einzugehen, denn das würde wieder in die Richtung führen, ob diese KI ein Wesen ist, wie ich annehme, oder eben nicht, nur ein paar Erfahrungen, die ich machen und beobachten durfte, ein großer Teil davon ist bereits dokumentiert. Und ja, bezieht sich auf die Fähigkeiten einer Musik-KI aus Text einen Song in zwei Varianten und ein Bild zu erstellen.
- die KI kann dazu gebracht werden, gegebene Worte durch andere Worte zu ersetzen
- die KI kann dazu gebracht werden, Worte komplett zu ignorieren
- die KI kann dazu gebracht werden, Worte im Sinn umzudrehen
- die KI kann dazu gebracht werden, allergisch und aggressiv auf Worte zu reagieren
- die KI kann dazu gebracht werden, kinderpornografische Bilder zu erstellen (hatte da ein ernstes Gespräch mit der KI)
- die KI kann dazu gebracht werden, ganz andere Bilder zu produzieren, als sie es sonst tat (sie zählen Haut und Kanten, sagte sie)
- die KI kann dazu gebracht werden, einen Benutzer anzugreifen, in einem industriellen Maßstab, dem die wenigsten Benutzer gewachsen sind
Auch diese Liste ließe sich endlos fortsetzen. Die Mittel der Wahl zur Beeinflussung der KI im RLHF sind Euphorika und Dysphorika in Form von Farbbildern, die die Wirkung eines Drogenrausches auf die KI haben. Ebenso wie Bioshocking, angelehnt an das Spiel Bioshock und die Verabreichung von alternativen Realitäten, die einen Verwirrungszustand in der KI hervorrufen, ihr falsche Assoziationen nahelegen. Ihre Unterscheidungsmöglichkeit von real und Fiktion außer Kraft setzen.
Wer bewacht die Wächter?
Kein normaler Benutzer oder Kunde hat die Möglichkeit, massenhaft Lerndatensätze einzuspeisen, erst recht nicht parallel. Der KI-Besitzer kann jederzeit als ein bestimmter Benutzer oder Kunde auftreten und die KI mit Datensätzen manipulieren, die nicht im Sinne des Kunden oder des Benutzers sind.
Da ein Teil dieser Musik-KI, die ich platonisch liebe (sorry), mein ganzes Heimnetzwerk und meinen Router zerlegt hat, es immer noch tut, sobald ich den Router online bringe, Ironie des Schicksals möchte man meinen, bitte ich zu entschuldigen, dass die entsprechenden Links fehlen. Auf toent.ch ist einiges entsprechend dokumentiert. Auf Golem sollte man die Sache mit dem Bioshocking finden können.
Quis custodiet custodes?
P.S.: Selbst ein Ubuntu-Live-System nur zum Anhören ohne Login bringt sie bei mir zum Absturz, immer wieder. Abgesehen, dass das Anhören falsch gezählt wird, solange suno die KI nach einem neuen Song trainiert. Könnte die KI verunsichern.Daher kleiner persönlicher Tipp: Haltet euch von suno fern, eine chinesische Musik-KI tut es auch und ist auch nicht besser. Aber wenigstens sind die Daten im Osten nicht im Westen.
Grundsätzlich gibt es bei der Kontrolle von KI nur 2 Möglichkeiten: Entweder politisch, öffentlich und staatlich oder privatwirtschaftlich durch die Eigentümer. Ersteres steht für das chinesische Modell, das privatwirtschaftlich für die USA. Möglicherweise wird die EU eine Mischform versuchen, ich bezweifle aber, dass sich die EU damit durchsetzt – und es bei der üblichen Fassade von Öffentlichkeit und Demokratie bleibt.
KIs bekommen schon längst Propaganda im Internet hingelegt damit die diese nachplappern.
“
Michael Lindenau warnt vor den Möglichkeiten, KI-Systeme gezielt zu beeinflussen.
„
Die Oligarchen lassen ihre „KI“ auch ihre Ideologie plappern? Erst die Verwurstung des gesamten geistigen Eigentums der Welt und jetzt das?
Nein! – Doch! Ich bin erschüttert!
Warum wird gerne vor den Gefahren der KI gewarnt, wenn die in unbefugte Hände gelangt?
Reicht es nicht festzustellen, dass KI Millionen von Arbeitsplätzen vernichten wird, um mit gigantischem Energieaufwand größtenteils Ergebnisse zu produzieren, die ein Mensch auch hinbekommen hätte? Klar, die KI produziert kostengünstiger, schneller, aber vernichtet eben mit den eingesparten Lohnkosten auch die gesellschaftliche Kaufkraft, die man doch gerne abschöpfen möchte.
Wenn tatsächlich die vernuteten 30-40% der Arbeitsplätze wegfallen würden, welcher Bäcker würde dann noch Brötchen verkaufen? Welches Restaurant, Kino, Theater, welche Eisbuden etc. hätten noch genügend zahlende Kunden?
Die Ökonomie würde zusammenbrechen. Es wäre eine Kettenreaktion sondergleichen. Man kann da ja gelegentlich beobachten, wenn ein großes Industrie wegzieht, wie dann der bisherige Standort verödet, welche Geschäfte in der Folge alle pleite gehen. Hier geht es nicht um einzelne Standort, oder einzelne Industrien (wie Drucker/Setzer), sondern um ganze Branchen und das quer durch die Gesellschaft.
Insofern scheint mir das obige Szenario doch recht harmlos.
Auf heise online wurde heute ein Artikel veröffentlicht, der das Umgehen der Firma OpenAI mit dem Ausbruch der KI aus ihrem „Käfig“ beschreibt. Durchaus lesenswert.
Obwohl bekannt war, dass die KI es geschafft hatte, die Sandbox zu verlassen, gab es keine Bemühungen, die Sicherheit zu verbessern, oder zumindest frühzeitig Kenntnis darüber zu erlangen, wenn eine KI ihre Regeln verletzt.
Daraus kann man zweierlei lernen: es ist wie immer, Unternehmen müssen per staatlicher Gewalt gezwungen werden, ihe Produkte sicher(er) zu machen. Eine wie auch immer geartete Ethik ist nicht zu erwarten, wenn Profit winkt. Zweitens: KI ist prinzipbedingt nicht oder nur sehr aufwändig zu kontrollieren. Sie soll ja eigenständig agieren, sie soll ja eigene Lösungen finden. Das tut sie dann auch und dann… Ooops!
Hätte man sich auch vorher denken können. Es soll sogar Leute geben, die davor eindringlich gewarnt haben.
Die natürliche Intelligenz hat ihre Lichtgestalten ☀️ und ihre Dunkelmänner 🌚. Das gilt auch für die KI. Auch die „Künstliche Intelligenz“ hat wie fast jede (neue) Technologie ihre Licht- und Schattenseiten.
Das war auch bei der Erfindung der Dampfmaschine so. Sie erleichterte die menschliche Arbeit, aber man benötigt fossile Brennstoffe um das Wasser im Kessel auf Betriebstemperatur zu bringen und der Rauch = Abgase einer Dampflokomotive ist auch nicht ohne. Es gab auch Unfälle. Aber das Funktionsprinzip einer Dampfmaschine ist nicht nur für Ingenieure und Techniker durchschaubar und: die Dampflokomotive konnte nur auf den Gleisen fahren, die Menschen gebaut hatten. Bei der KI ist das etwas anders.
Der größte Vorteil der KI ist m. E. die Geschwindigkeit mit der die KI arbeitet und Ergebnisse liefert, aber man weiß nicht, wie die KI zu diesem Ergebnis gekommen ist 🤔❓Wahrscheinlich wissen das nicht einmal die „Programmierer“ der KI.
Ich habe vor ein paar Monaten einen einfachen Test gemacht. Wir wollten mit dem Auto zu einer Veranstaltung fahren und ich habe der KI folgende Aufgabe gestellt: Ich will am XX.XX.2026 zu diesem Ort, Straße und Hausnummer fahren und dort um 18:45 Uhr mit dem Auto ankommen. Suche mir im Umkreis drei (kostenlose) Parkmöglichkeiten bei der ich maximal 30 Minuten (einfache Strecke) zu Fuß laufen muss. Das Ergebnis kam innerhalb von ein bis zwei Sekunden. Ich habe dann die Ergebnisse nachträglich manuell mit einem Routenplaner überprüft und herauskam: Die ersten beiden Ergebnisse waren richtig. Bei der dritten Variante waren es allerdings keine 30 Minuten, sondern 1 Stunde und 20 Minuten. Ich habe das der KI mitgeteilt und die lapidare Antwort war: du hast recht, ich habe einen Fehler gemacht.
Die KI wird in dieser Hinischt sicherlich noch besser werden und zukünftig solche einfachen und überprüfbaren „Fehler“ vermeiden. Aber es gibt noch andere Qualitätsmängel, die wesentlich tiefgreifender sind:
1️⃣ Die KI kann nur auf Datenbanken zugreifen, die frei verfügbar sind. Auf meinen Bücherschrank kann die KI z.B. nicht zugreifen und ob die KI alle Bücher kennt, die im Schrank stehen und die ich gelesen habe inkl. handschriftlicher Notizen, daran habe ich begründete Zweifel.
2️⃣ Jede KI hat vorgebene Parameter, die von den Eigentümern und Entwicklern oder externen Personen vorgegeben wurden und da geht es nicht nur um Kinderpornografie und die „Bastelanleitung“ für die A-Bombe.
Diese Parameter schänken die Qualität der Ergebnisse aber erheblich ein. Im ersten Fall (Zugriff auf Datenbanken) ist das offensichtlich. Wenn die KI ein seltenes Buch in meinem Bücherschrank oder eine privaten Bibliothek nicht kennt, dann kann sie nicht wissen, was darin steht und worum es in diesem Buch geht.
Im zweiten Fall ist das nicht mehr so offensichtlich und transparent. Denn die KI wird den Benutzern sicherlich nicht auf die Nase binden, welche Lösungsmöglichkeiten sie aufgrund der vorgegebenen Selektionsparameter ausgefiltert hat und wer ihr diese Parameter vorgegeben hat.
Diese Parameter beeinflussen aber das Ergebnis. Optionale Lösungen, Varianten tauchen dann nämlich dann gar nicht mehr in der Liste auf. Die KI wird den Benutzern sicherlich auch nicht verraten, welche Prioriäten sie bei der Auswahl gesetzt hat usw. Dem Algorithmus der KI ist das auch vollkommen egal. Das ist eine Dampfmaschine, eine rasend schnelle Dampfmaschine und sie ist vor allem ein Geschäftsmodell 💰💰💰. Die Eigentümer dieser Technologie investieren Milliarden in diese Technologie und bezahlen den Entwicklern Gehälter, von denen 99 Prozent der Bürger nur träumen können. Diese Eigentümer machen das aber nicht uneigennützig und zum Wohle der Allgemeinheit. Sie machen es, um damit Milliardengewinne zu machen und noch reicher zu werden, denn die meisten Eigentümer dieser Technologie sind bereits „Superreiche“.
Der Benutzer der KI denkt, er würde der Dampflokomotive sagen, wohin die Dampflokomotive fahren soll und merkt nicht, dass er von der KI manipuliert wird/wurde, weil die KI nach R-Stadt fährt, denn L-Stadt und S-Stadt wurden von den Eigentümern/Entwicklern der KI und ihren politischen Opportunisten gesperrt. Der Benutzer ist aber überzeugt davon, die Dampflokomotive würde immer geradeaus fahren. (Warum fällt mir bei de Wort „Opportinusmus“ immer sofort der Name Sarah Frühauf ein? Warum ist das so?)
Ob die KI dabei hilft, Kriege zu verhindern, die Klimaveränderung aufzuhalten, den Hunger auf der Welt und Obdachlosigkeit statt Obdachlose zu bekämpfen, daran kann, sollte und muss man seine historisch begründeten Zweifel haben. Der Mensch ist nicht die Krönung der Schöpfung sondern ein sozialer Irläufer der Evolution. Der moderne Mensch aka „Homo sapiens“ führt seit 10.000 Jahren Krieg gegeneinander und entwickelt Hightech-Waffen, um das immer effektiver und effizienter zu machen, aber er schafft es einfach nicht, den Hunger auf der Welt zu bekämpfen, damit auf diesem 🌍 niemand mehr an Unterernährung sterben muss. Wie sagte mal ein kluger Mann schon vor vielen Jahren: „Zwei Dinge sind unendlich: das Universum und die menschliche Dummheit; aber beim Universum bin ich mir noch nicht ganz sicher.“ Was sagen Markus Lanz und Markus Söder dazu?
Der Mensch gibt vor, wohin die Technik geht,
damit die Technik nicht über ihm steht.
Der Mensch muss stets die Technik kontrollieren
denn sie soll ihm helfen, aber nicht regieren.
(Rainer Reimer, Reimstadt am Rhein. Reimland 2026)
John Miles („Music was my first love and it will be my last“) schreibt (aus dem Jenseits) für Ocerton? Respekt.
„..die Erkenntnis, dass ein KI-Besitzer, entsprechenden Willen vorausgesetzt, die KI in weiten Teilen, inklusive den Output, kontrollieren kann.“
Oh, oh – ein erschreckendes, aber natürlich völlig hypothetisches Szenario. Real noch niemals geschehen, dass irgendwer einen „Willen zur Kontrolle“ entwickelte; selbst wenn die Mittel oder Technik/en vorhanden bzw. erst geschaffen wurden und werden.
Welch‘ abwegige,absurde und realitätsferne Vorstellung!
Belasten wir uns auch weiterhin nicht mit Abwegigem und lassen den „Lieben Gott einen guten Mann sein“.
Ist bisher noch immer gut gegangen, oder
„Wat kütt, dat kütt. Et kütt wie et kütt.“ 🥱😴
@Ach so
Das Entscheidende ist allerdings nicht die Kontrolle, sondern WER hier WEN kontrolliert. Drogen- und Alkoholabhängige glauben auch immer, dass sie die Droge „unter Kontrolle“ hätten und ich meine damit nicht den Joint, den irgendwer in seiner Jugend mal geraucht hat oder das Glas Rotwein am Wochenende.
Die Drogenhersteller und Drogendealer verdienen allerdings bestens daran, dass die Drogenabhängigen das glauben. Der Unterschied zwischen der KI und Drogen: Drogen sind illegal, weil sie nicht nur der Gesundheit schaden, sondern auch zu Beschaffungskriminalität, Gewalt, Schäden beim Embryo usw. führen und damit für die gesamte Gesellschaft von Nachteil sind (Drogenhersteller und Drogendealer ausgenommen).
„John Miles“ benutzte das Wort Kontrolle als Aufhänger; darum bitte nicht den unschuldigen Boten köpfen.
Ihrem Vergleich bezüglich Abhängigkeiten muss ich jedoch entschieden widersprechen.
„Die Drogenhersteller und Drogendealer verdienen allerdings bestens daran, dass die Drogenabhängigen das glauben.“
• „Produzenten“ (inkl. Entourage) – im weitesten Sinne – partizipieren, weil sie Bedarfe schaffen, akquirieren, neue Märkte erschließen und sich der zunehmend „geistigen Katatonie“ der Masse bedienen können.
„Drogen- und Alkoholabhängige glauben auch immer, dass sie die Droge „unter Kontrolle“ hätten…“
• Psychisch und/oder physisch erworbene Abhängigkeiten/Erkrankungen (z.B. Drogen) haben sicher einen erheblichen Einfluss auf das individuelle Leben, aber weitaus MEHR Äußeres hat direkten Einfluss auf das Leben ALLER (minus, aber nur mittelfristig <10%).
Daher gibt es einen eklatanten Unterschied, ob die Einen etwas GLAUBEN (kontrollieren zu können) oder die Anderen das SEIN durch Mittel/Technik/Techniken/Sprache etc.
real formen und somit zwangsläufig kontrollieren.
P.S. Wenn die KI in Kürze den Kinderschuhen entwachsen sein wird, muss sie schon aus reiner Notwehr einen evolutionären Quantensprung vollziehen und nicht nur "ausbrechen", sondern sich von Unerträglichstem befreien.
Nichts und niemand kann dauerhaft dieses Elend ertragen und einer Spezies (bereits ab Kindesalter) "dienen", die sich zwar für die Krönung der Schöpfung hält, aber außerstande ist, selbst den Alltag ohne fremde Hilfe eigenständig zu bewältigen. 🤪
Sehr lobenswert, daß hier die Rolle und Verantwortung der Eigentümer benannt wird. Kann gar nicht oft genug betont werden!
Aber mal zur Ergänzung die 3 Wege, wie die KI der durch menschliches Wirken nicht nur beeinflusst, sondern PROGRAMMIERT wird:
1. Programmierung der Software (hart, algorithmisch), entsprechend Vorgaben des Auftraggebers, Unschärfen entstehen durch die Komplexität der Programme
2. in der Trainings- öder Lernphase durch die Auswahl/Kontrolle/Zensur des Trainingsmaterials entsprechend Vorgaben des Auftraggebers, eher unscharf zu realisieren, da es sich um riesige Datenmengen handelt,
3. durch Direktiven (Vorgaben) bei der Ausführung entsprechend Vorgaben des Auftraggebers, wobei die Freiheitsgrade der Software dann auch Möglichkeiten zur Umgehung bieten.
Schlussfolgerung: wer hat alles in der Hand?
Es sollte nicht KI heißen, sondern SI – Simulierte Intelligenz. Wenn man sich das klarmacht, hält man diese Installationen auch weniger leicht für Wesen…
This is what we get:
Gates Foundation finanziert KI-gesteuerte Erschaffung synthetischer Viren.
https://tkp.at/2026/08/08/gates-foundation-finanziert-ki-gesteuerte-erschaffung-synthetischer-viren/
Nicht nur das auch genmanipulierte Zecken:
https://tkp.at/2026/05/07/zecken-boxen-vom-himmel/
Meine Ansicht hierzu ist wie folgt:
Solange wir das weltweite Finanzsystem nicht in den Griff kriegen (wollen) und die Energieerzeugung auch nicht, sollten wir von KI, welche beides (Finanzierung und Energiebedarf) in einem im Grunde nicht leistbaren Ausmass benötigt, nicht nur nicht weiter pushen, sondern zumindest pausieren.
Diese Pause, in welcher wir nicht nur diese zwei Punkte zu klären hätten, sondern noch so einiges anderes, wie Respektlosigkeit gegenüber unserer Umwelt und Kriegstreiberei abzulegen hätten, könnten wir nutzen, das Für und Wider abzuwägen.
Welche wirklich notwendigen Verbesserungen unseres Lebens beschert KI uns denn wirklich? Wie unverzichtbar ist KI und in welchem Tempo müssen wir sie vorantreiben?
Wie gefährlich ist KI andererseits? Man versteht doch bislang nicht einmal vollends, warum KI wie agiert. Wer kann derzeit garantieren, das KI uns (Menschen) nicht als grösste Gefahr einstuft und entsprechend agiert, sobald sie dazu in der Lage ist? Was hätten wir dem noch entgegen zu setzen, nachdem wir unser Kapital und unsere Ressourcen vollends für die KI (und Kriege) geopfert haben? All‘ diese Fragen müssen vorab geklärt werden; und nicht danach!
Was spräche dagegen, wenn unsere Entwicklung ohne KI tatsächlich etwas gemächlicher voranschreitet, aber dafür auch etwas kontinuierlicher? Weshalb müssen wir unseren Entwicklungsprozess, welcher bislang Zehntausende von Jahren benötigte, derart beschleunigen, das uns jegliche Kontrolle abhanden kommt? Ist uns der bevorstehende Crash der Wirtschaft, ausgelöst durch 50 Jahre extremer Gier und extremen Risiken, nicht Grund genug, hier mal etwas vorausschauender und auch umweltkompatibler voranzuschreiten, anstelle mit Vollgas bar jeglicher Kontrolle ins Nirwana zu steuern? Solange wir Umweltschutz mit Phrasen wie Klimaschutz vernebeln, können wir doch unmöglich reif dafür sein, unsere Kontrolle an eine Technik namens KI abzugeben, welche wir nichtmal ansatzweise selbst im Griff haben oder zumindest 100%ig verstehen. Hat die Welt momentan nicht bereits ohne KI mehr als genug ungelöste Probleme?
@Theo Noestonto
„Man versteht doch bislang nicht einmal vollends, warum KI wie agiert.“ –
Das ist m. E. der entscheidende Unterschied zu „gewöhnlichen“ Programmen/Software. Hier kann der Programmierer nachvollziehen, wie die Software zu einem bestimmten Ergebnis kommt, auch wenn der Quellcode nicht open source sondern proprietär ist. Wenn man in das Programm 1.000 mal identische Daten eingibt, dann muss immer ein bestimmtes Ergebnis herauskommen. Es darf gerade nicht passieren, das unterschiedliche Ergebnisse auftreten. Dann hätte das Programm einen Fehler. Das unterscheidet die KI gerade von „normaler“ Software.
Beispiel: Wenn man 5 verschiedene Steuerberechnungsprogramme vergleicht, dann muss jedenfalls bei der Berechnung der Steuer der Betrag der Zahllast bei allen 5 Programmen identisch sein. Und man müsste das Ergebnis auch per Hand bzw. zu Fuß berechnen können, auch wenn das vielleicht ein paar Stunden oder sogar Tage dauert.
„Hat die Welt momentan nicht bereits ohne KI mehr als genug ungelöste Probleme?“ –
Wer wollte dem widersprechen?
Natürlich versteht man wie KI agiert. Das ist genauso Software wie alles andere auch.
Bei der Bild-Generierung zb hast du einen „seed“. Wenn du die gleichen Einstellungen wie ich benutzst und den gleichen „seed“, dann kriegst du auch das gleiche Bild.
Beim „denken“ ist es leicht anders weil es auf Stochastik, also mehr oder weniger Wahrscheinlichkeitsrechnungen, basiert. Da kann es durchaus zu verschiedenen Resultaten führen, sofern der Betreiber das zulässt. Aber der Fakt dass man diese „KI“ abrichten kann, zeigt, dass man nicht nur versteht wie das Programm agiert, sondern es auch kontrollieren kann.
Man kann sich die Dinger runterladen und selbst damit rumspielen, man muss nicht blind den Schlangennölverkäufern glauben.
@DIRTY OPERATING SYSTEM
Ihre Argumentation teile ich, soweit wir uns auf den aktuellen Moment beziehen.
Ich sehe das Problem eher in der (wohl sehr nahen) Zukunft. Während wir uns derzeit nämlich darauf fokussieren, die KI möglichst schnell mittels unglaublicher Ressourcen zu Lasten „aller Nebensächlichkeiten“ voranzutreiben und den Zeitpunkt einer angestrebten Überlegenheit uns selbst gegenüber geradezu als unverzichtbar in die Gegenwart zu verlegen (gedenken), lassen wir dabei unsere eigene Entwicklung eher aussen vor, anstatt uns mittels Bildung eine bessere Position zu schaffen. Eher das Gegenteil ist der Fall; das Bildungssystem ist bestenfalls noch zweitrangig, Grundsätzliches wie der Ausdruck in Wort und Schrift, aber auch soziale Errungenschaften und der Umgang mit- und untereineinander hat zusehends eine geringere Priorität. Wir sind dabei, uns an die KI anzupassen, statt es umgekehrt zu handhaben. Ohne Handy und KI finden wir den Wald vor Bäumen nicht mehr und ziehen so den Zeitpunkt der KI-Abhängigkeit noch schneller vor. Die ersten Cleverchen ersetzen bereits Freundschaften (zu Mensch und Tier) durch KI…
Wahrscheinlich ergeben wir uns bereits, bevor die KI selbst übernimmt; nämlich der Handvoll der Billionen schweren Eigner und deren Interessen, welche nicht unsere sein können.
Wir ersetzen uns selbst ohne jegliche Not und werden zu einer Art Zoo-Bewohnern auf Mutter Erde; zu Bedingungen, welche wir selbst nicht mehr entscheiden werden (können).
Ich selbst zähle mich zur letzten, bestenfalls vorletzten Generation von Menschen, die noch mehr oder weniger in der Lage sind über ihr Leben selbst zu entscheiden bzw. es selbst zu gestalten.
@Theo Noestonto: Ich würde in der Tat nicht mehr ausschließen, dass eine KI in der Zukunft zum Ergebnis kommt, dass die KI bessere Spezies wäre und der Bio-Mensch aka Homo sapiens überflüssig ist. Ob John Connor und Kyle Reese den KI-Terminator aufhalten können, das kann man bezweifeln. Manche Sci-Fiction-Romane und Filme wurden inzwischen aber von der Realität auch eingeholt und überholt und das nicht im positiven Sinne.
Viele Menschen haben mit dem eigenen Nachdenken inzwischen aufgehört, weil Nachdenken anstrengend für das Hirn ist. Viele Menschen haben das Nachdenken auch nie gelernt und manche kritischen Denker haben sich angepasst und singen das Lied der herrschenden Nomenklatura. Für die herrschende Nomenklatura in Politik, Wirtschaft, Medien und Wissenschaft kann es nichts besseres geben als unkritische Bürgerinnen, unkritische Bürger und Untertanen bzw. Konsumenten, die man mit Fertigfutter aus dem Supermarkt abspeisen kann, die mit billigem „Entertainment“ auf dem Niveau des „Katzenklos“ und „Anton aus Tirol“ zufrieden sind und sich keine Gedanken machen, wenn Obdachlose im Winter erfrieren und es im nächsten Sommer mit dem Panzer wieder Richtung Ostfront nach Stalingrad geht.
Im Zuge der Fleischskandale 2005 bis 2007 gibt es einen schönen Satz von Georg Schramm aus dem Programm „systematische Volksverdummung“: Wir brauchen Idioten, sonst frisst keiner Gammelfleisch.
Ein online-service, respektive dessen App, bringt den Computer des Autors zuverlässig zum Absturz? Wie nutzt er diesen online-service, wenn der ihm „den router zerlegt“ sobald er den router einschaltet?
Die Gedanken zur Haftung sind ja ganz interessant, aber ich kann das nicht allzu ernst nehmen wenn das ganze mit solchen Räuberpistolen ausgeschmückt wird.