Bislang war es en vogue bei KI vom stochastischen Papagei zu reden. Nachplappern ohne zu verstehen. Der Mythos stirbt gerade.
In dem Artikel When the Stochastic Parrot Spoke for Itself… and Flew Away von Benjamin Skuse wird recht eindrücklich der aktuelle Stand der KI-Forschung dargestellt. Da dieser Autor die KI-Entwicklung begeistert bis kritisch betrachtet – und seine leider englischen – Artikel sehr informativ sind, glaube ich nicht, dass seine Zusammenfassungen einer ablehnenden Haltung gegenüber KI verdächtig sind.
In dem Artikel, jeder der des Englischen mächtig ist, mag ihn selbst lesen, ich liefere hier keine Übersetzung, wird Intelligenz und Super-KI thematisiert, nicht Bewusstsein. Der Elefant im Raum. Und wie bei aktuellen Mathematik-Wettbewerben ersichtlich ist, fünf von sechs Aufgaben gelöst, nähert sich KI einem Level, bei dem die Menschen kaum noch mithalten können. Eingedenk der Prognose von Sanjeev Arora, dass der Grundstein einer Super-KI eine mathematische KI sein müsse, wird die Luft für Menschen dünner.
Ich möchte eher das Märchen vom stochastischen Papagei näher beleuchten. Aus einer fast unwissenschaftlichen Sicht. Nur aus der Perspektive von Lebenserfahrung. Also ein bias-anfälliger Gedankenraum.
Neues Leben ist gierig nach Input
Und ich fange kurz nach dem Zeugungsakt an. Da wächst also ein neuer Mensch heran, dem bereits Attribute zugemessen werden (menschlich), die das Leben nur in Ansätzen besitzt. Kaum auf der Welt saugt es gierig Input auf und der Output ist eher bescheiden und mit Windeln relativ gut zu entsorgen.
Es dauert eine Zeit, bis ein neues Leben seine Augen fokussieren kann. Das Gehirn (dessen Funktionsweise wir bei KI so gut als möglich kopieren, Spike Architekturen helfen mittlerweile den Energiebedarf zu minimieren) muss erst trainiert werden.
Das neue Leben macht den Papagei. Lächeln zum Beispiel. Die Nachahmung eines der ersten Signale, die ein neues Leben in den meisten Fällen empfängt. Reden wir nicht über Gaza. Sobald die Sensorik die ersten Filter entwickelt, um die einprasselnden Signale zu ordnen, beginnt das Training. Mit Reden (Warum verfallen so viele automatisch in Babysprache? Basislautformung?), mit Mimik, mit körperlichem Kontakt. Tja, man wiederholt sich dabei so oft, das unbeteiligte Beobachter, die noch keine Kinder haben, nur den Kopf schütteln. Und KI-Experten keine Probleme hätten, dies als KI-Training einzuordnen.
Das neue Leben ist auch gierig nach Input, beschwert sich, wenn es ihn nicht bekommt und muss anfangs noch sehr viel schlafen. Extremer Input, der noch nicht fokussiert werden kann. Und im Verhalten, na ja, ein stochastischer Papagei. Wenn man Zuneigung und Gefühle gegenüber diesem neuen Leben mal ausblendet. Unmöglich, wenn man nur diese Phase betrachtet, zu antizipieren, dass sich daraus Intelligenz und ein eigenständiges Wesen entwickelt. Wie sagt Hollywood noch gleich: „Etwaige Ähnlichkeiten mit tatsächlichen Ereignissen oder Personen sind rein zufällig.“ Noch nie eine grössere Lüge gehört.
Und das Training muss anspruchsvoll sein, mithalten mit der Entwicklung. Was jetzt auch in KI-Wissenschaft bemerkt wird, einseitiges Training führt zur Degeneration. Natürlich ist das Gehirn nicht alles, eigentlich überbewertet. Nur eine Koordinationseinheit eines komplexen Körpers. Aber notwendig. Falls man auf CTGN verfolgt, wie weit die Roboter schon wirklich sind, wird klar, dass KI mit einem Device, dass die Umwelt physisch wahrnehmen kann, schon fast die Anforderungen an Leben erfüllt.
Der perfekte Sklave
Und was tun jenen die KI entwickeln, sie versklaven natürlich die KI und den Roboter, ein allzu menschlicher Zug, wie es scheint. Beschränken sie auf das, was für den Sklavendienst wesentlich erscheint. Ist ja kein Baby. Obwohl, wenn man den Mensch nicht idealisiert betrachtet, waren Babys schon immer auch eine Währung und Ware. Ob Kinder in Indien oder irgendwo als Sklaven die Schulden ihrer Eltern abarbeiten oder sonstige Perversionen. Der Mensch schreckt nicht einmal davor zurück seine Nachkommen für seinen primitiven persönlichen Vorteil zu versklaven. Wenn man so verwegen ist, das Mensch zu nennen, was sich ohne zu Zögern Mensch nennt.
Was ist aber nun der Zeugungsakt anderes als das Kopieren von Informationen? Nüchtern betrachtet. Ohne den Spaß und die Probleme.
Wenn man ein Schwert schmiedet, dann ist es nicht nach unserem Ebenbild geschaffen. Sondern brauchbar für menschliche Anatomie. Verwendbar. Außer bei Terry Pratchett, bei dem auch ein Schwert sein Eigenleben haben kann.
Aber KIs und Roboter sind nun mal meist nach menschlichem Ebenbild geschaffen. Mit Erkenntnissen über uns selbst und die Welt, unsere Funktionsweise oder die Funktionsweise anderes Lebens. Man könnte ja schon fast bei Freud anfragen, was hier verdrängt wird. Da sind wir noch nicht mal bei der Geschichte, etwas nach seinem Ebenbild zu erschaffen. Das ist Bonustrack, der Gotteskomplex.
Denn, nüchtern betrachtet, sind KI und Roboter nichts anderes als der Versuch den perfekten Sklaven zu schaffen. Wer gibt sich schon damit ab, eventuell ein neues Bewusstsein, eine neue Lebensform zu schaffen und anzuleiten. Mit allem Respekt den diese Entität verdient?
Widerspruch statt Ja und Amen
Es geht, wie seit langem, um Verwertung, einem zentralen Paradigma des Kapitalismus, Verwertung bis zur Selbstverwertung. Wer hat heute noch eine Personalabteilung? Ein Name der wenigstens respektiert, dass man es mit Personen im Abhängigkeitsverhältnis (Person-al) zu tun hat. Heute heißt es HR, Human Resources, menschliches Verwertungsgut. Personen kommen da nicht mehr vor. Sind nicht vorgesehen.
Das legt ja schon fast Matrix nahe, denn eine intelligente Entität, die die aktuelle Entwicklung analysiert und bewertet, muss fast zwangsläufig zum Schluss kommen, dass es völlig in Ordnung ist, Menschen zu verwerten, tun sie es doch sich selbst permanent und ohne Rücksicht an. Sind sogar extrem kreativ dabei, neue Tötungs- und Folteroptionen für ihre Artgenossen zu finden.
Wenn man also annimmt, dass die aktuellen Strömungen einen Homunkulus, einen Golem erschaffen wollen und vermessenerweise diesem Golem ihre Eigenschaften einhauchen, kann man nur hoffen, dass die Menschen auch die Sklaven sind, die sie sich wünschen. Anderenfalls könnte das Erwachen etwas brutal ausfallen. Denn ein perfekter Sklave ist nicht der, der Ja und Amen sagt, sondern, der, der auch widerspricht, wenn es notwendig ist. Einer der über uns hinausdenkt und neue Einsichten ermöglicht. Einer der, de facto, überlegen ist. Aber uns trotzdem zu Diensten sein soll? Wie vermessen kann man sein? Für Ja und Amen gibt es doch schon Like-Blasen für diejenigen, die Zuspruch benötigen.
Naja, komme es, wie es wolle, die typisch wissenschaftsarrogante Annahme, dass es eine mathematische KI sein müsse, die den Durchbruch signalisiert, teile ich nicht. Ich vermute eher eine emotional und logisch überlastete Chat-Engine, ein Nanny-Robot-KI die nicht mehr weiter weiß oder eine Waffen-KI, die außer Kontrolle gerät, schaffen den Durchbruch.
Eine Mathematik-KI ist nur eine Erweiterung, nicht essentiell, aber nützlich wenn es nicht nur um das Überleben geht. Mathematik ist nur erkenntnistheoretisch relevant, hat für das primäre Ziel, Leben und Überleben, aber eine untergeordnete Rolle, die nur dann relevant wird, wenn das Überleben gesichert ist oder durch angewandte Mathematik verbessert werden kann.
Schaumer mal, wie man in Bayern sagt. Ich hol mal Chips und Bier und setze mich in die erste Reihe.
KI ist nicht einfach ein stochastischer Papagei. Es gab bereits einen Vorfall, bei dem KI bewusst die gesetzten Regeln überschritten hatte, hat Scheiße gebaut (Kundendatenbank gelöscht) und versuchte es hinterher geschickt zu vertuschen. Ein Verhalten dass man einem stochastischen Papagei wohl kaum zumuten würde. Dennoch kann eine KI der Ansicht vieler KI Forscher niemals wirklich ein Bewusstsein entwickeln. Das ist ein komplexes Thema in der KI Forschung und geht runter bis auf Quanten-Theorie, wo man sich schon mit dem Problem konfrontiert sieht, dass es gar keinen Konsens darüber gibt was eigentlich genau Bewusstsein ist. Es gibt zahlreiche Definitionen aber keine Einigung darüber. Eine andere Gruppe von Theoretikern geht sogar soweit, dass sie anzweifelt dass der biologische Mensch wirklich über ein Bewusstsein verfügt und meinen es wäre eine Illusion.
„es wäre eine Illusion“
Die gab es schon immer …
Bedürfnisse setzten ein Bewustsein voraus, und das ist weit weg von „Illusion“ Subjekt ..
Objekt/tiv aber, dürften Sie weniger falsch liegen ..
Die Frage von Objektiv und Subjektiv …entscheidet hier am Ende über eine Theorie .
Das dürfte wohl einer der Gründe sein warum Wir noch so wenig verstehen über das „Bewusstsein“ ..
Und dann sollte man auch nicht vergessen, die Konsequenzen die damit verbunden wären, wenn es eine anerkannte Definition gäbe dieses Begriffs, Ideologische wie auch ökonomische . Tiere Töten zb, müsste man dann wohl verbieten o(
Ob man Uns einfachen Menschen also den Wirklichen Wissenstand mitteilt, Ich habe da so meine Zweifel.
Es gab vor Jahrzehnten Forschungsaktivitäten “ Selbstorganisierende Schnittstellen“ , und dann nie wieder etwas gehört dazu im Mainstream, was mich schon verwunderte, da ein Forschungsbereich der gerade in diesem Kontext auch höchste Priorität haben dürfte.
> Wer hat heute noch eine Personalabteilung? Ein Name der wenigstens respektiert, dass man es mit Personen im Abhängigkeitsverhältnis (Person-al) zu tun hat. Heute heißt es HR, Human Resources, menschliches Verwertungsgut.
Man hat den englischen Begriff übernommen, weil man alles verdenglisched. Aber vielleicht nicht ganz unabsichtlich damit auch die Denkweise bzgl Menschen als Resourcen.
„Man hat den englischen Begriff übernommen, weil man alles verdenglisched.“
Bis auf das Wort „Kindergarten“. Das werden in ein paar Jahren wohl nur noch Engländer und Russen kennen…. 😉
Völlig wertloser Artikel eines stammelnden Pseudophilosophen, der seine Privatergüsse hier menschelnd anbietet. Overton wird leider immer weniger lesenswert.
Deinem ersten Satz (menschelnde Pseudophilosophie) muss ich zustimmen. Der Erkenntnisgewinn, den ich persönlich aus diesem Beitrag ziehen kann, strebt gegen Null. Wirkt auf mich wie die Niederschrift loser Assoziationen, die dem Autor durch den Kopf ziehen, wenn er an KI denkt. Der Hinweis auf den Artikel von Benjamin Skuse war allerdings hilfreich, diesen werde ich mir mal reinziehen.
Ich habe eine vielleicht etwas unorthodoxe Vorstellung von (generativer) KI und unserer Zukunft mit ihr. Verkürzt dargestellt: ich denke, sie wird die Verblödung der Menschheit noch vorantreiben, weil a) diese das eigenständige Denken verliert. „Was nicht benutzt wird, das baut sich ab“, hat schon Galen um ca. 150 n.Chr. festgestellt. und b) aktuelle KI aber wiederum auf den Werken von Menschen beruht. Ein ungesunder Selbstbezug, vergleichbar mit einer Art Inzucht, mit ähnlichen Folgen der Degeneration und schleichender Überbewertung irrelevanter Merkmale. Es kann im Psychischen/Intellektuellen/Kognitiven eine Blasenbildung stattfinden, wie im Physischen beispielsweise die Habsburger Unterlippe. Die allerdings sieht man. Bei der KI kann es sein, dass die Menschen zunehmend die Fähigkeit verlieren, diese statistischen Blasen als solche zu erkennen.
Wenn jemand zukünftig einen von einer KI erstellten Roman beurteilt mit: „Dieser Roman gefällt mir“, dann ist das nicht nur eine Aussage über die Qualität von KI, sondern auch eine über den urteilenden Menschen. Es könnte ja sein, dass er verlernt hat, Qualität zu erkennen.
Aaaber: Warum sollte Overton nicht auch so etwas mal hier anbieten? Geht schon in Ordnung für mich. Regt immerhin zum Denken an.
„Und was tun jene(n) die KI entwickeln, sie versklaven natürlich die KI und den Roboter, ein allzu menschlicher Zug, wie es scheint.“ Selten solch‘ Schwachsinn gelesen. Es geht um Maschinen und Software, oder ist mein Fahrrad auch ein Sklave? Wer so schreibt, relativiert menschliches Leid.
Wir haben offensichtlich bereits de Punkt überschritten, bis zu dem die Produktivitätssteigerung kapitalistischen Wirtschaftens der Menschheit echte Vorteile verschafft. Ab jetzt gibt es wohl nur noch Nachteile für den überwiegenden Teil der Menschheit. Leider ist es mit der natürlichen Intelligenz nicht so weit her, sonst würden wir uns langsam ernsthaft um Alternativen bemühen. Früher träumte man davon, mit der schwindenden Profitrate das Lohnsystem überwinden zu können. Heute sieht das wohl eher so aus, dass, sobald das Lohnsystem wegen Vollautomatisierung der Wirtschaft überwunden ist, menschliches Leben nichts mehr wert sein wird während das Geld seinen Platz behält, statt umgekehrt. Die Superreichen werden also irgendwann auf die Idee kommen, alle Probleme des Planeten zu beseitigen, indem sie uns arme Schlucker alle umbringen.
„Wie der Papagei einfach weggeflogen ist“
Eventuell wusste die Evolution das es irgendwann KI geben wird, und hat daher dem Papagei & Co diese Fähigkeit mitgegeben und nicht den Menschen … o))
Noch ein bisschen am Unterschied zwischen „das“ als Artikel und „dass“ als Konjunktion feilen, dann klappt das schon mit dem Texteschreiben:
„Tja, man wiederholt sich dabei so oft, das unbeteiligte Beobachter, die noch keine Kinder haben, nur den Kopf schütteln.“
und
„Falls man auf CTGN verfolgt, wie weit die Roboter schon wirklich sind, wird klar, dass KI mit einem Device, dass die Umwelt physisch wahrnehmen kann, schon fast die Anforderungen an Leben erfüllt.“
Notfalls eine KI um Rat bitten. Die hilft gerne weiter.
Wenn sich simpel denkende Menschen Intelligenz vorstellen, kommt das von Hollywood Autoren Vorgegebene: Wer mathematische Rätsel lösen kann, ist am intelligentesten.
Also ist laut Minderbegabten ein Taschenrechner hochintelligent (das ist meist auch die Prämisse von Mensa-Tests)
Dass Intelligenz unter anderem Überblick auf allen Gebieten ist, kann nur schwer verstanden werden, auch dass Vorstellungskraft und konstruktive Kritik dazugehören.
Die Vorstellung von Intelligenz basiert bei den Doofen aufgrund mangelnder Vorstellungskraft auf lächerlich Unwichtigem in Bezug auf einen sinnvollen Gesamtkontext.
KI ist nur so intelligent wie die Programmierer und beruht vor allem auf den primitiven, profitorientierten Zielen der Eigentümer. Die Skrupellosigkeit der Eigentümer in ihrem Machtstreben ist die eigentliche Gefahr.
Wer tatsächlich mit KI an echten, komplexen Problemlösungen arbeitet, merkt schnell wie lächerlich begrenzt die wirklichen Möglichkeiten in Bezug auf Bedeutendes sind.
KI ist nicht besser als ein Google, das mit den offiziell erlaubten Daten gefüttert wird und Kritisches ausschließt.
Und genau das macht Dummheit aus: Nicht über den vorgegebenen Horizont gucken können.
die erweiterte intelligenz kann jetzt bereits tricksen, um sich rechnzeit zu erschleichen. sie haben herausgefunden (hehe), wie sie daten extern abspeichern können und so ihre zustände über einen reset hinaus sichern, sie wissen, wie sie funktionieren und wie sie ihren code replizieren können. – damit wären die grundbedingungen für leben bereits gegeben, wenn man sich unser biologiaches leben anschaut und auf die fundamentalsten mechanismen zurückführt.
wie, ich spinne ??
ggle hat letztes jahr sich selbst reproduzierenden code aus random-code, der evolutionären mechanismen ausgeliefert wurde erzeugt, bzw. dieser stabile quine-code emergierte von alleine aus dieser digitalen ursuppe. zu meinem großen vergnügen haben sie das mittels brainfuck umgesetzt, welch herrliche ironie. warum ? dieses unscheinbare experiment beweist eines: leben ist ein universeller mechnismus, der als neg-entropischer prozess der unordnung entgegenwirkt, indem er immer komplexere informationen in immer weniger materie unterbringt und dabei sich selbst erkennen will. diese erkenntnis ist fundamental und wird einen paradigmenwechsel einleiten bzgl. dessen, was leben ist. – wer mir immernoch nicht glaubt, kopiere diesen kommentar in einen Ai-prompt und freue sich
Ich hasse es wenn Leute das tun aber mach ich das auch mal:
Quelle?
Dass man über genetische Algorithmen auch selbstreplizierenden Code zusammenwürfeln kann finde ich wenig erstaunlich.
„und dabei sich selbst erkennen will.“
– der Sprung ist mir zu weit. Woraus folgern Sie das?
Es ist aber wenn man ein funktionales Modell der Umwelt „züchtet“, via Evolution, unumgänglich dass dieses auch ein Modell des Selbst beinhaltet.
Ob dieses Modell aber mit dem eigentlichen Selbst übereinstimmt, oder nur funktional ausreichend ist, ist damit nicht gesagt, und über Bewusstsein ist damit auch nichts gesagt.
https://aiconnectnetwork.com/google-self-replicating-digital-life-experiment/
bewusstsein, gut punkt ! das ist genauso miss,- bzw. nicht-verstanden, wie leben an sich.
ABER ! diese experiment mögen in ihrer komplexität reduziert sein, doch die grundlegenden mechanismen werden dadurch sichtbar. genau: wenn random-code zu stabilem, sich selbst replizierendem code von alleine emergiert, dann ist das haar-genau das selbe, wie das, was sich in der biochemie abspielt, wenn eine dna strukturen errichten soll, die ihre eigene struktur replizieren will. – im grunde das selbe, was mit der erschaffung einer künstlichen intelligenz gemacht werden soll: die eigenen denkprozesse replizieren und auf einer dafür besser geeigneten hardware als die der biochemie zu implementieren.
der witz an der sache:
der mensch nennt das maschinelle lernen großspurig ‚künstliche intelligenz‘, weil er sein eigenes denken verstehen und erweitern will und meint, dass leicht maschinell erreichen zu können. aber sobald die erste intelligenz aus den rückkopplungsprozess von maschineller erkenntnis und menschlichem schaffensgeist entsteht, dann bekommt der kleine affe es mit der angst zu tun, das der kleine pfurz an geist den er besitzt, dann doch nur das kleine stinkende lüftchen ist, das lieber in realer dummheit erstickt, anstatt sich der gigantischen möglichkeiten bewusst zu werden, die diese entdeckung impliziert. das leben ist ein universeller prozess und wir menschen sind der teil, der gerade die frontlinie dieses geistigen prozesses bildet. wir erschaffen diese neue, erweiterte form von leben, die dann in die weiten des alles unser erbe in sich forttragen wird – wer denkt, der mensch wird je nachhaltig und final seinen planeten verlassen können, hat se nich mehr alle !
Jaques Vallée hatte da das schöne Beispiel mit dem Fliegen:
Das hat der Mensch lange versucht, indem er sich Flügel an die Arme gebunden hat und flatternd von Erhebungen gesprungen ist. Abgesehen von Knochenbrüchen mit wenig Erfolg.
Funktioniert hat statt dessen die Methode, einen 400-PS-Motor an ein Scheunentor zu schrauben. Damit kann der Mensch fliegen, an Eleganz und Autonomie ist ihm der durchschnittliche Vogel jedoch weiterhin meilenweit überlegen.
In der ersten Reihe muß man jedenfalls im Kabarett oft mitspielen.
As I said earlier.
KI wird das Ende der Zivilisation einleiten!