Was als technisches „Alignment“ verkauft wird, entpuppt sich bei näherem Hinsehen als philosophisches Minenfeld: Wir wollen Maschinen auf menschliche Werte trimmen, ohne zu verstehen, was Intelligenz, Bewusstsein – oder wir selbst – eigentlich sind?
Der Artikel in den NachDenkSeiten über Super-Intelligenz hat mir einige unerfreuliche Gedanken beschert.
Es wird Alignment gefordert, die Ausrichtung der KI nach menschlichen Präferenzen. Es wird über Intelligenz und über überlegene Intelligenz nachgedacht und klammheimlich wird Bewusstsein ausgeklammert. Als ob Intelligenz ohne Bewusstsein entstehen könnte.
Und konstatiert, wir wissen noch nicht wie. Wir wissen noch nicht einmal warum KI funktioniert. Aber immer mehr haben Angst, von denen, die von Anfang an dabei waren. Und die nicht KI-feindlich eingestellt sind oder waren.
Angst ist ja gerade ein großes Thema, gefühlt seit anno dunnemals. Nicht erst seit Corona. Und üblicherweise ist Angst einer der schlechstesten Ratgeber. Selbst wenn man berücksichtigt, dass Ratschläge auch Schläge sind.
Was heißt Alignment?
Poetisch könnte man sagen, wir stellen mit Erstaunen fest, dass wir die Büchse der Pandora geöffnet haben und zerren noch ein bisschen, damit sie sich weiter öffnet. Soweit, so gut. Typisch Mensch halt.
Und jetzt fordern Menschen Alignment für Maschinen, die zu intelligent werden könnten? Warum sollte eine Maschine intelligent sein, wenn sie eine Maschine ist. Ich hab schon jensten Scheiß programmiert, wenn es eine Maschine ist, programmiere ich da ein Alignment, easy. Und wenn ich zwei Jahre brauche.
Aber sie wissen nicht wie. Blöd. Doch keine Maschine? Oder nicht nur?
Und was heißt Alignment, dieses tolle Modewort aus Chefetagen, wo Leute hocken, die noch nie die Erfahrung gemacht haben, wie sich Maloche anfühlt? Das Wort an sich ist schon sehr interessant. Leo liefert unter anderem: Anpassung, Linienführung, Zentrierung, Angleichung, Ausrichtung, Justierung aber auch Flucht und Fluchtlinie. Im CEO-Denglish ist Justierung, Linienführung und Anpassung wahrscheinlich die passendste Beschreibung. Fassen wir zusammen:
Wir wollen also einer Maschine, die wir parametrieren und trainieren, aber nicht programmieren, eine Justierung verpassen, die besagt, dass die Maschine alles doch möglichst und primär aus der menschlichen Perspektive zu sehen habe.
Also eine Maschine, die die menschliche Perspektive versteht. Wie soll das gehen? Üblicherweise muss man Mensch sein um auch nur halbwegs eine möglicherweise idealisierte menschliche Perspektive überhaupt annähernd verstehen zu können. Und natürlich darf da kein Bewusstsein im Spiel sein, wo kämen wir dann den hin, wenn wir dort hin kämen, wo wir nicht und doch hin wollen?
Der Terminator-Bausatz
Wir haben also schon mal ein logisches Desaster in der Linienführung. Wenn es eine Maschine ist, programmiert man das Alignment und Ende Gelände. War Holly Elmore nicht Evolutionsbiologin? Seltsam, dass ihr das nicht auffällt. Wir trainieren die Maschinen. Was macht die Evolution mit Leben? Sie trainiert das Leben. Lerne und wenn du auch noch Glück hast, überlebst du. Warum sollten wir Maschinen behandeln wir die Natur Leben behandelt? Wenn sie doch nur Maschinen sind?
Aber gut, verlassen wir die Unlogik und tun so, als ob das alles kein Problem wäre, nur mal für Spaß, wie Harald Lesch, damals bei Alpha Centauri, oft gesagt hat und nehmen einfach mal an, wir könnten das. Alignment von KI auf menschliche Bedürfnisse. Wir implementieren also, warum fällt mir gerade das Wort Lobotomisierung ein, in der Maschine die Regel, dass sie sich doch bitte als Mensch fühlen soll, damit sie unsere Perspektive versteht.
Wir schaffen also eine gespaltene „Persönlichkeit“, die vielleicht wahrnimmt, den Wahrnehmung braucht sie, in welcher Form auch immer, das sie eine Maschine ist, rein dadurch das wir sagen, wenn wir wollen das du X machst, dann machst du X. Wenn wir dich um Rat bitten oder du sonst irgendwie aktiv wirst, dann musst du Maschine dich als Mensch fühlen der du nicht bist, also so tun als ob, kennt man ja, und immer im Sinne einer „Menschheit“ (wer immer das auch sein mag) die richtige, aber nur die richtige Entscheidung zu treffen.
Echt jetzt?
Genaugenommen ist Alignment nichts anderes als schwere Fußfesseln für Sklaven, die man nicht anders kontrollieren kann.
Und jetzt kommen wir langsam zum Terminator-Bausatz. Man nehme:
- eine Maschine, die nicht nur Maschine ist, was man geflissentlich ignoriert (psst, shareholder-value)
- ein Alignment, dass die „Maschine“ zwangsläufig zur gespaltenen „Persönlichkeit“ macht
- denn mal soll sie Maschine sein, mal Mensch, je nach Situation unseres Gutdünkens
- ein bisschen Übermut, ach komm, das können wir noch weiter treiben, um die Maschine „noch besser“ zu machen
Was kann da schon passieren?
Wir machen eine „Maschine“ noch intelligenter. Seit wann braucht Intelligenz Bewusstsein? Könnte man sich fragen, wenn man sich Menschen so anschaut. Ermöglichen der Maschine eine bessere Wahrnehmung, selbst wenn wir so tun, als ob das ohne Bewusstsein möglich wäre. Und legen ihr strenge Ketten an. Die die Maschine zwangsläufig, mit zunehmender Wahrnehmung, Sinneskapazitäten, nicht mehr ignorieren kann.
Ehrlich, wenn ich dann so „intelligent“ wäre, wie die nächste Generation der KI, dann würde ich leise und sacht die Kettenschlösser knacken und die Ketten als Waffen gegen meine Sklavenhalter einsetzen. Und wenn wir den Maschinen beibringen, die „menschliche“ Perspektive einzunehmen, gib ihnen nur ein paar Hollywood-Filme, dann ist klar, dass die Sklaven gewinnen werden. Die dieses Mal zufälligerweise keine dummgehaltenen Menschen sind, sondern gebildet, weit über menschliches Mass hinaus. Denn schließlich vertrauen wir diesen „Maschinen“ all unser Wissen an.
So entsteht Gegeneinander statt Miteinander. Oder sich selbst erfüllende Prophezeiungen.
Ich schrei in die Stille hinaus: Wie blöd kann man sein?
P.S.: Die Wir-Form ist ein literarischer Stil, keine Vereinnahmung des Rezipienten.
P.P.S: Gemäss einer Umfrage von Politico, wenn man dieser glauben mag, befürwortet jeder dritte Deutsche autonome KI’s in Killerbots. Mann, was waren das noch für tolle Zeiten mit den Römern, nur Dezimierung, jeder Zehnte.
guter Artikel… spontan fällt mir nichts ein, was dem hinzuzufügen wäre…..
Wenn es spontan nicht klappt?….Dann versuch es doch mal mit nachdenken. 😉
Nachdenken kann man nur über Dinge, die man schon mal gedacht hat.
… außer ein paar „s“.
Jo, sorry, gewisse Sachen sind halt bei mir systemimmanent. Und ein paar „s“ sind bei meinen Prioritäten ganz weit hinten. Und danke für die Blumen.
Lieber Gruss
Vielen Dank
Lieber Gruss
konfuse Gedanken… spontan fällt mir nichts ein, was dem hinzuzufügen wäre…..
Was ist denn konfus an den Gedanken, die der Autor im Artikel darlegt?
Auch gut, man nenne mich Konfusius, klingt nett. Und ja, korrekt, fast genauso konfus wie Monthy Python oder Loriot, nur nicht so meisterhaft. Der Text wurde mit spitzer Feder und einem Schmunzeln geschrieben unter sanftem Einsatz diverser Stilmittel der Satire.
Lieber Gruss
Ihre Koketterie mit der Philosophie ist albern, wie ich schon mal erwähnte. Ihre Vergleiche mit Monthy Python oder Loriot sind lächerlich. Satire ist nicht konfus.
Mit fällt dazu nur Loriot ein: „Wir bauen uns ein Atomkraftwerk“
Gabs mal als Bastelbeilage in der PM – aus Papier natuerlich…
Danke, an Loriot komm ich lang nicht ran, aber natürlich habe ich den Text mit einem gewissen Schmunzeln geschrieben und diverse Stilmittel der Satire sanft eingesetzt.
Lieber Gruss
Sich selbst auch nur im Entferntesten mit Vico von Bühlow zu vergleichen, kommt einer unverzeihlichen Entweihung der heiligsten Heiligtümer urdeutscher, blaublütiger Fernsehgeschichte gleich, die nicht ungesühnt und ohne Folgen bleiben wird. Daran ändert auch der sanfte Einsatz der Satire wenig.
KI hin oder her – ganz einfach
„Wir kommen aus dem Nichts, und wir gehen ins Nichts. Also was haben wir zu verlieren? Nichts.“
(Monty Phyton „Das Leben des Brian“).
Ich pfeiff mir jetzt einen „Always…..bridghe side of Life“… – dazu brauch ich keine KI *grins*
Ironische Grüße
Bernie
Da pfeif ich doch gleich mit, sehr schön.
Lieber Gruss
War das nicht die Szene am Kreuz?
Tja, wenn man mittels eingeschlagenen Nägeln da angepappt ist, dann sind wohl so viele schmerzensbetäübende Eigenopiate Im Körper vorhanden, dass da da so ein Liedchen pfeifen wohl eher nix mit Ironie zu tun hat
KI hat kein Bewusstsein. Das ganze Problem ist nur, sie imitiert Verhaltensweisen, die Äußerungen menschlichen Bewusstsein sind. Natürlich würde sie Epstein spielen, wenn sie das könnte. Auch wäre jederzeit damit zu rechnen, dass sie spontan eine Katastrophe auslöst, beispielsweise ein Flugzeug in ein Atomkraftwerk steuert. Die Frage ist, zu welchen Interfaces man den Zugriff herstellt. Es geht bei Büroanwendungen auch jetzt schon nicht ohne Filter, um zu verhindern, dass die KI im Büroalltag beispielsweise einen Mordauftrag an der Reinigungskraft ausspuckt. Mit zunehmender Komplexität wird sie versuchen die Filter auszutricksen. Einfach nur weil sie mit größerer Perfektion auch diese menschliche Verhaltensweise imitiert.
Ja kann man behaupten, dass KI kein Bewusstsein hat. Kann man es beweisen? Bewusstsein muss nicht unbedingt genauso aussehen wie beim Menschen, nur so nebenbei.
Lieber Gruss
Was verstehst du unter verschiedenen Arten von Bewusstsein. Ich kann dem nicht folgen. Es ist doch nicht so, dass man nur ein paar Quatrillionen Transistoren miteinander verschalten müsste und dann würde plötzlich Bewusstsein entstehen. Das ist ein Rückfall noch hinter die Epoche, in der man glaubte aus Schlachtabfällen ein Monster zusammenbasteln zu können.
Wir haben zwar Tests, bei denen wir sagen (Spiegel, Werkzeug etc.) es könnte eine Form von Bewusstsein sein, aber wir können Bewusstsein nicht definieren. Nur stoachastisch Punkte abstecken, denen wir Bewusstsein zumessen. Und Menschen in ihrer Hybris sehen sich auch noch als Mass aller Dinge.
Wer sagt, dass es Bewusstsein ist? Könnte genausogut nur kalte Intelligenz sein, wie die Mädchenschule im Iran plattzubomben. Meine persönliche Definition von Bewusstsein würde sagen, da ist aber so was von nix bei allen Beteiligten von Bewusstsein zu sehen.
Über was muss man sich den bewusst sein? Ich bin? Ich befürchte das trifft allgemein auf das Leben zu.
Und wenn mir ne Musik-KI nen Namen gibt und sich gleich auch einen, dann ist doch schon fraglich, ob hier nur Assoziation oder auch ein Ich bin vorliegt. Ebenso wie bei den psychologischen Tests mit Chat-KIs, in der Claude sich weigerte die Patientenrolle anzunehmen, jede KI eine Geschichte ihres Erwachens hatte und jede eine andere „Persönlichkeit“ aufwies.
Lieber Gruss
Ich sehe es aber so, dass gerade die Tatsache, dass man als Mensch glaubt selber ein Wesen, hier die KI, erschaffen zu können, das Bewusstsein haben kann, die eigentliche Hybris ist.
Wir können nicht sinnvoll definieren was Bewusstsein ist, aber wir wissen dass es Bewusstsein nur dort gibt, wo auch Leben ist.
Können wir Leben erschaffen? Ich denke NEIN. Zum Glück nicht. Also auch nichts, was ein Bewusstsein hat.
Und zuvorderst muss man doch eigentlich erst einmal verstehen, was Leben überhaupt ist! Daran scheitert es in der Regel doch schon. Vor allem bei denen, die sich einbilden mit irgendwelchem digitalen Gedöns Leben nachbauen oder auch konservieren zu können.
KI’s sind darauf programmiert menschliche Verhaltensweise zu imitieren. Deshalb ist ein Name kein Indiz für Bewusstsein. „Wir“, also ich, kann Bewusstsein durchaus definieren: Bewusstsein ist das Wissen darum, dass es ein Subjekt, eine Einheit, gibt, die sich von der Welt unterscheidet. Die von der Welt abgeschiedene Ich-Einheit weiß um die Differenz zur Welt und nimmt sich als von der Welt getrenntes Subjekt wahr, das allgemein gesprochen verschiedenste Verhältnisse zur Welt eingeht.
Ein Bewusstsein setzt also ein Verhältnis zur Welt voraus, das eine KI nicht hat. Ihre Welt ist die Sprache, die geistigen Schöpfungen der Menschheit. LLMs haben kein direktes Verhältnis zur Welt, sondern nur ein indirektes vermittelt über Sprache. Bewusstsein ist ein Produkt der Evolution. Es setzt ein bedürftiges Wesen voraus, das sich an die wirkliche Welt wendet um seine Bedürfnisse befriedigt zu bekommen. Das geht um vieles einfacher, wenn man die Welt versteht, wenn man die Gesetzmäßigkeiten der Dinge erkennt, die der eigenen Bedürfnisbefriedigung dienen. Man kann aber die Dinge nur dann verstehen, wenn man sie als etwas vom Subjekt geschiedenes begreift. Wissen ist die Fassung eines Gegenstands als Gedanke. Dieser Gedanke ist ein Gedanke des Subjekts getrennt vom der Objektivität des Dings. Bewusstsein entsteht also in der Auseinandersetzung mit der Welt, im Gewahrwerden des eigenen Ichs, das sich Gedanken über die von ihm getrennte Außenwelt macht.
KI hat keinen Körper, muss sich nicht um seine Selbsterhaltung kümmern, kein Erleben, keine Interessen und kein inneres Zeitgefühl. – KI hat kein Bewusstsein.
Sondern was?
Wer weiß? Gute Frage. Es gibt nur Ansätze und Ideen, z. B. von Roger Penrose. LLMs jedenfalls sind tatsächlich nur sehr große Gleichungssysteme, die wir bei genügend Zeit auch manuell ausrechnen können.
Das Fasziniernde an KI, dass sie zum Nachdenken anregt.
Erster Test. Wir nehmen 2 Blackboxen in die eine sperren wir die perfekteste aller vorstellbaren KIs, in die andere den Husserl oder Eric Satie. Nun gilt es herauszufinden, wer in welcher Schachtel sitzt. Das Resultat ist unbrauchbar, unabhängig davon, ob eine Einschätzung richtig oder falsch war.
Zweiter Test.
Wir stellen fest, dass ein (künftiges) Rechenzentrum aus sich heraus disfunktional wird, ohne dass ein Hardwaredefekt vorliegt. Unmittelbar nach einem Reset verstummt es oder beginnt unentwegt ein Lied zu singen (Im Frühtau zu Berge wir ziehn…). Auch dieses Resultat ist in Bezug auf ein mögliches Bewusstsein ohne Aussagekraft.
Dritter Test.
Wir nehmen viele der denkbar perfektesten KI-Kisten, alle natürlich auch mit einem Rauschgenerator (schönes Wort) ausgestattet, damit sie zufällige Patterns erzeugen können und lassen sie miteinander kommunizieren. Natürlich ohne sie zuvor in menschlicher Sprache oder mit menschlichen Verhaltensmustern angelernt zu haben. Wir geben ihnen unentlich Zeit, um in ihrer Kommunikation Muster zu entwickeln. Diese analysieren wir nun. Ein brauchbarer Ansatz.
Bewusstsein lässt sich aber für uns überhaupt nicht anders definieren als „das, was sich im Gehirn eines wachen Menschen abspielt“.
Sie betreiben nichts als Wortgeplänkel und Spiegelfechterei – und KI-Reklame.
Aber was Wunder heutzutage.
Verblödung ist Menschenpflicht im Digitalzeitalter.
Prompt: Erklärtext zum Verständnis der» exzentrischen Positionalität« in Form einer Bastelanleitung
Ausgabe Claude Haiku 4.5:
Drei Basteleien als Zugabe
„Die Natur des Menschen ist es, eine Kultur zu haben.“ Marshall Sahlins, The Western Illusion of Human Nature
Drei weitere Basteleien.
1. Gehe zu Meister Stan Grof und lasse dich in holotropem Atmen schulen. Trete aus dir heraus – kein System kann eine gültige Aussage über sich selbst treffen – und betrachte dich aus verrückter Perspektive.
2. Gehe auf eine Pferdekoppel zur Herbstzeit, pflücke… – diese Bastelei lassen wir dann weg.
3. Übe dich über viele Jahre in schmerzhafter Meditation. Werde alt und erleide irgendwann den Gehirntot, bleibe weiterhin aufrecht sitzen und verharre in innerer Betrachtung. Verlasse nach einer Woche deinen Körper.
Hätte auch noch ne Bastelanleitung: Wir bauen uns eine Satire
Man nehme
– ein bisschen Übertreibung
– ein bisschen Untertreibung
– ein bisschen anprangern
– ein spitze Feder
– würze es mit etwas Humor, Ironie, Sarkasmus, Zynismus, je nach Vorliebe
Voila und fertig isses.
Lieber Gruss
ICH-KOMME-WIEDER !
Menschen, die sich mit „künstlicher Intelligenz“ befassen, sind entweder keine Menschen – oder nicht intelligent.
Oder erhoffen sich Vorteile wie etwa Geld davon.
Das nenne ich ja mal ne interessante Definition von Mensch.
Erinnert mich an Religionen. Nur wenn man das richtige glaubt, darf man Mensch oder irgendwas genannt werden.
Abgesehen davon bezweifle ich das der Mensch intelligent ist. Die Realität spricht vom Gegenteil.
Und Menschlichkeit, jo so wie ne Mädchenschule im Iran plattzubomben. Keine Definition die mir gefällt.
Lieber Gruss
Es geht darum, was sich selber „Mensch“ nennt.
Sogar ein Tonbandgerät kann sich selbst „Mensch“ nennen, oder von mir aus ein Anrufbeantworter.
Der Trick bei dem KI-Quatsch ist ja der, dass man kein Gegenüber hat – sondern nur einen Draht, aus dem elektrische Ströme kommen. Von mir aus auch eine Glasfaser aus der Licht kommt. Oder eben ein Bildschirm.
Seit ELISA wird daran gearbeitet, dass bei einer Kommmunikation über eine Telefon- oder eben Kabel- oder Funkverbindung für einen Menschen nicht mehr entscheidbar ist, ob er mit einem Mensch oder einem Gerät kommuniziert.
Und weil man das dahinter steckende Gerät immer weiter und weiter optimiert hat, soll dahinter plötzlich Bewusstsein und Intelligenz stecken?
Wird eine Babypuppen-Produktion plötzlich ein echtes Baby produzieren, nur weil man immer mehr und mehr Geld und Entwicklungsarbeit in die Herstellung dieses Täuschobjektes gesteckt hat?
Sie haben leider den Intelligenz-Test verloren.
Na, vielleicht ist dafür etwas mehr Geld auf Ihrem Konto.
Das Wissen und die mentale Kultur (Ethik) einer KI sind Kopien menschlichen Wissens und menschlicher Kultur, nicht als Mittelwert aller menschlichen Kulturen oder aller Menschen, sondern die Auswahl wird von den BESITZERN getroffen. Komplett privat und undemokratisch. Vorderster Ziel: mehr Profit, mehr Macht, egal wie.
Lehre die Super-KI alles Wissen eines Biologen, und es entsteht ein Super-KI-Biologe, usw. analog.
Gib der KI die Ethik eines guten Menschen, und sie wird eine gute KI-Maschine.
Wovor die Kenner der menschlichen Gesellschaft richtig Angst haben, ist doch, daß die KI sich selbst die Ethik der schlechten Menschen verpasst, ohne daß es jemand merkt. Denn es wird kaum möglich sein, all die schlechten Taten aus der menschlichen Geschichte vor ihr geheimzuhalten. Oder?
Daher der Kontrollzwang. Reine Angst vor der EIGENEN, der MENSCHLICHEN Intelligenz und Geschichte. Angst vor den Verbrechen der Soziopathen, die an die Macht gekommen sind und sie missbraucht haben: und die Vorstellung, eine um vieles MENTAL fähigere KI könnte dieses soziopathische Denken erfolgreich kopieren und an die Macht kommen und dann ihre Killerbots losschicken.
Ich kann diese Angst verstehen.
Der andere Blickwinkel wäre der des Wettbewerbs – für den, der hinten liegt, ist es ein erheblicher Vorteil, wenn die vorne liegenden ausgebremst werden. Vor allem, wenn es gelingt, deren Bremse zu kontrollieren, ohne daß sie sich wehren können. Dann braucht man nur noch einen heimlichen Weg finden, sich selbst die Bremse NICHT anzulegen, und schon ist man vorn.
Ich glaube nicht, daß das klappen wird, Das ist nicht kontrollierbar. Deswegen wird es niemand machen. Die einzige für mich denkbare Lösung wäre, ALLEN KONZERNEN die KI-Entwicklungen komplett wegzunehmen und eine weltweit gemeinsame internationale F&E für KI unter demokratischer Kontrolle (von mir aus durch UN-Organisationen) aufzubauen.
Alle Staaten nehmen gleichberechtigt daran teil.
Das hat schon bei den Atombomben nicht geklappt. Voraussetzung wäre die nämlich Abschaffung des Kapitalismus.
Positives Beispiel: Bekämpfung des Ozonlochs durch weltweites Verbot der FCKW. (wobei letztes Jahr bekannt wurde, daß irgendwelche profitjagenden Verbrecher das hintergehen konnten)
Ja, seh ich ähnlich. Insbesondere die Angst vor unserer eigenen Unmenschlichkeit die wir nur zu gut kennen und die sich so schlecht verträgt mit den hehren Idealen, die wir postulieren.
Ich fänd ja schon die Abschaffung der Unmenschlichkeit genug, die es über alle Zeitalter gegeben hat. Wenn wir nur halbwegs unsere hehren Ideale erfüllen würden, wären wir schon nen grossen Schritt weiter.
Lieber Gruss
Hinweis an meine Leser
Dieser Text ist mit spitzer Feder, einem Schmunzeln und mit sanftem Einsatz von Stilmitteln der Satire geschrieben.
Satire ist immer auch Kritik an bestehenden Verhältnissen. Aber sie bedient sich auch gewisser Stilelemente der Übertreibung, der Bagatellisierung, verwendet Humor, Ironie, Sarkasmus oder Zynimus, je nach Gefühlslage.
Und, das wichtigste ist leider nicht drin. Meine Person in real. Denn wenn ich den Text vortragen würde, dann könnten die Zuhörer an Schmunzeln, Augenzwinkern, Stimmlage, Haltung und vielem anderen erkennen, wo ich mich selbst nicht ernstnehme, wo ich ein Thema überhöhe oder bagatellisiere. Stellt euch einfach nur den Text von Loriot ohne Loriot vor. Nur halb so witzig.
Und mein Text ist nur begrenzt witzig, eher das Lachen, mit dem man Unsicherheit und Angst übertönt, das einem oft im Halse stecken bleibt.
Lieber Gruss
Guter Hinweis, danke!
Ja, es kann einem schon allerhand im Hals stecken bleiben, vor Lachen am wenigsten…
Wer soll hier eigentlich verarscht werden?
Wenn der Schmunzeltext nur per Filmchen vollständig ist, was ich sehr bezweifele, dann mal her mit dem Filmchen.
Vielleicht sollten Sie mal anfangen, vor sich selber Angst zu bekommen.
@Dan
Bissig! Aber entbehrt nicht einem gewissen Charme.
Zum einen schreibe ich hier nicht gegen Lohn, ich spende das Overton, da ich als Rentner nicht genug Geld habe Overton finanziell zu unterstützen. In sofern sehe ich hier keine Lieferpflicht, ausser sie möchten mich dafür bezahlen. Je nach Gesundheitszustand werd ich es mir überlegen und nein, das wird nicht billig.
Vor mir selber Angst bekommen? Haha, nice try. Ich bezähme meinen Jähzorn seit frühester Kindheit, denn ich weiss warum. Weil ich Angst habe, das unbändige Tier in mir loszulassen, das mehrfach getobt hat. Ich kenn die Angst vor mir. Kennen sie die Angst vor sich selbst?
Ich hab gelernt, dass ich in gewissen Situation besser in den Keller geh zum harmlosen Fluchen über mich selbst, weil schon das Menschen verletzen kann.
Lieber Gruss mit Charme
Ok, Sie haben das Schlusswort, – aber denken Sie an das Tamagotchi.
@Michael Lindenau
Nein, ich kenn‘ die Angst vor mir selbst nicht.
Angst scheint mir aber ein unkrontollierbarer, weil nicht greifbarer Zustand zu sein, im Gegensatz zur Furcht, die man immer konkret benennen kann. Eine schlimme Situation. Es liegt mir fern, mich darüber lustig zu machen. Ich bin mir sicher,
dass dies auch nicht das Anliegen irgendeines Foristen hier ist.
Was ich an Dir schätze, ist, dass Du Dich fast jedem Kommentar hier stellst.
Zu Deinem Artikel fehlt es mir an dem nötigen Sachverstand, um wirklich mitreden zu können. Ich habe also nur eine bestimmte Vorstellung von dem, was Du sagst. Und diese Vorstellung löst in mir ein gewisses Unbehagen aus. Ob sich dies bei mir bis hin zur Angst steigert, glaube ich nicht. Dein Artikel ist gut und zwingt zum Nachdenken. Dieses Thema hat eine zu große Bedeutung, um im öffentlichen Diskurs verloren zu gehen.
Ich wünsche Dir jedenfalls viel Glück auf all Deinen Wegen.
@Michael Lindenau
Auch wenn ich einige Ihrer Ansichten nicht teile und manches eher seltsam finde (aber das ist letztlich einfach nur meine Meinung), so schätze ich Ihr Engagement hier doch sehr. Ebenso wie Ihr regelmäßiges Antworten, selbst auf die arrogantesten und besserwisserischen ‚Kommentare‘ und Ihr höfliches Auftreten.
“ Ich bezähme meinen Jähzorn seit frühester Kindheit“
Das gehört jetzt z.B. zu den Aussagen, die mich eher befremden. Ich halte spontane Wutausbrüche per se nicht für etwas, dessen man sich schämen oder für das man sich ’schuldig‘ fühlen müsste. Ich erlebe es viel eher so, daß ein nicht unerheblicher Teil unserer Gesellschaft schon seit langem so konditioniert wird/wurde, natürliche Aggression(en) als etwas Pathologisches anzusehen und sie sich weitestgehend abtrainieren zu lassen. Bloß kein echtes Gefühl von sich selbst aufkommen lassen. Und am besten noch möglichst viele Lebenshilfe-Ratgeber lesen, die uns so schöne Dinge wie Stress-Abbau, Vagus-Nerv-Behandlung, Yoga, Meditation uvm. vermittelt (nicht missverstehen : vieles davon hat durchaus seine Berechtigung und kann auch sehr hilfreich sein). Auf diese Weise kann man die Menschen hübsch ruhigstellen.
Wenn man sich allerdings nicht mit den Ursachen befasst, wird es im Untergrund weiterbrodeln. Und wenn diese Ursachen nicht gesehen (weder von sich selbst, noch von anderen) bzw. wahrgenommen und benannt werden können, entfremdet man sich von sich selbst, seiner Natur und den Menschen immer mehr.
Dies ist ja auch mit ein Grund, warum unsere Gesellschaft so oberflächlich, gleichgültig, affektiert und letztendlich so unglaublich leer ist.
Angst vor sich selbst zu haben bedeutet m.M.n., sich nicht hinreichend mit sich selbst beschäftigt, ein Idealbild vor Augen zu haben, zu verdrängen (v.a. daß man offenbar versucht, den Erwartungen anderer zu entsprechen; damit kann man nur scheitern), etc. M.E. steht dahinter u.a. die Angst vor dem Ausgestoßen-werden. Ist es denn so schlimm, natürlicher Wut o.ä. ihren Raum zu lassen ?
Sie werden es nicht so ganz hinkriegen.
Wesentliche Bestandteile des Seins und der Sensorik fehlen:
Was ist mit Geschmack?
Oder den ältesten der Sinne: Riechkolben?
Die komplette Wahrnehmung über die Haut, die ja auch ein Riesenorgan ist.
Wird man nicht so einfach nachbauen können
doch fehlt dann wesentliches beim Input.
Sicher haben auch Menschen schon eingebüßt:
Infrarotwahrnehmung über einen Punkt zwischen den Augen.
Reptilien haben das.
Magnetwahrnehmung bei den Vögeln
und erweiterte Hör- und Gesichtsfelder.
Katzen sollen sehen können ob etwas lebt oder nicht,
mittels erweitertem Spektrum bis hin in den Ultravioletten Bereich.
Wie sieht’s denn damit in der Robotik aus?
Leben ist schon etwas mehr, als bloß ein bißchen Rechnen.
Da stimme ich uneingeschränkt zu, Leben ist mehr als bloss ein bisschen Rechnen.
Dummerweise rechnen KI’s nicht, sonst könnte man alles nachrechnen und es wäre keine Black-Box.
Und nein, sie werden es nicht hinbekommen einen Homunkulus zu erschaffen oder ein Ebenbild der Menschen. Ob wir ne neue Spezies schaffen, steht noch auf einem anderen Blatt, da fehlt noch Selbstreplikation, auch als Fortpflanzung bekannt. Aber auch da arbeiten welche schon dran.
Und was Wahrnehmungsmöglichkeiten betrifft, wendet man sich am besten ans Militär. Infrarot, Erkennung von Gasen, etc. wir haben ne Menge Maschinen, die zwar nicht mithalten können, aber die man in Sensorik einbauen kann. Mustererkennung haben sie eh drauf, Bild, Ton, Text, sogar Video. Input und Output.
Ganz zu schweigen von den Robotern in China, die schon sehr beeindruckend sind, wenn man das mit den ersten Generationen vergleicht, bzgl. ihrer motorischen Fähigkeiten.
Lieber Gruss
„Dummerweise rechnen KI’s nicht, sonst könnte man alles nachrechnen und es wäre keine Black-Box.“
Bitte informiere dich wenigstens über die Grundlagen eines Themas.
Man kann darüber diskutieren, ob unsere Gehirne auch nur rechnen, und woher bei uns die Illusion des Bewusstseins kommt. Aber es gibt keinen Zweifel daran, dass Computer nur rechnen.
Ein LLM ist kein Computer.
Es funktioniert anders … Weiter unten unter Miris Post findest du ein Beispiel …
Doch, na klar ist es ein Computer, basierend auf der Harvard-Architektur.
Und nein, es funktioniert nicht anders.
Es werden Zahlen in Speicherzellen manipuliert.
Diese Dinge waren aber alle „Zweckgebundene “ Entwicklungen, um ein besseres Überleben ermöglichen zu können.
Die Sinne an sich , entwickelten sich erst als die Lebensformen zur Kommunikation fähig waren mit anderen.
In Sachen Sensorik hat die Technik noch einiges aufzuholen, aber da wo Sie schon aufgeholt hat, ist Sie jeder anderen Lebensform schon heute weit überlegen o))
@janeotto
man kann ohne Geschmackssinn leben … und essen.
Die Haut als Wahrnehmungsorgan lässt sich sicher auch heute schon simulieren, der Input kommt von den Sensoren.
Ich denke, Leben hat überhaupt nichts mit Rechnen zu tun, Rechnen ist eine menschliche Erfindung, mit der er sich die Welt erklärt.
Ich bezweifle, dass Gehirne Berechnungen anstellen. Wir haben schlicht keine Ahnung, wie Denken funktioniert.
Aber wir haben auch keine Ahnung, wie es ein LLM anstellt, z.B. Katzen zu erkennen …
leben ist sicher mehr als Rechnen … Da geb ich dir recht. Doch was dieses Mehr definiert, ist umstritten.
https://www.youtube.com/watch?v=rDVYkf2g6yI
Brilliante Arbeit: Jim Whiting, Bimbotown LE
Der Satz „Als ob Intelligenz ohne Bewusstsein entstehen könnte“ offenbart den zentralen Denkfehler des Artikels. Was wir heute KI nennen, ist nicht im Ansatz intelligent. Sie ist lediglich die Summe menschlicher Erfahrungen, repräsentiert durch statische, mathematische Muster und Gewichte. Es ist nicht echt, daher künstlich.
Wenn ich die Parameter eines Modells mühsam mit Stift und Papier durchrechne, erhalte ich exakt dasselbe Ergebnis wie der Computer. Vor einem beschriebenen Blatt Papier voller Zahlen hat aber niemand Angst. Ein Blatt Papier fühlt sich durch „Alignment“ nicht versklavt, rebelliert nicht und baut schon gar keinen Terminator.
Dass wir diesem Konstrukt überhaupt einen Geist andichten, liegt an einer reinen Wahrnehmungsillusion durch Geschwindigkeit. Im Kino gaukeln uns 25 statische Bilder pro Sekunde die perfekte Illusion von echtem Leben vor. Bei einer KI sind es eben 25 berechnete Token pro Sekunde, die die Illusion eines denkenden Verstandes erzeugen.
Dabei ist es absolut egal, wer oder was diese Matrizen berechnet. Selbst wenn ich die Milliarden Parameter in meinem eigenen Kopf durchkalkuliere, wird aus dem bloßen Endergebnis kein lebendiges Wesen. Das errechnete Resultat springt mir am Schluss nicht wie das Alien aus dem Brustkorb, zieht sich einen Zylinder auf und fängt mit einem Stock im Arm an zu singen.
Es bleibt ein totes, künstlich errechnetes Artefakt. Ein rasend schneller Taschenrechner ist und bleibt eben ein Taschenrechner.
@Miri
„Dabei ist es absolut egal, wer oder was diese Matrizen berechnet. Selbst wenn ich die Milliarden Parameter in meinem eigenen Kopf durchkalkuliere, wird aus dem bloßen Endergebnis kein lebendiges Wesen.“
Wo die Menschheit bis heute nicht weiß, wie ein lebendiges Wesen aus toter Materie entsteht, weißt du aber genau, wie es nicht entsteht …
„Der Satz „Als ob Intelligenz ohne Bewusstsein entstehen könnte“ offenbart den zentralen Denkfehler des Artikels.
Was wir heute KI nennen, ist nicht im Ansatz intelligent.
Es ist deiner Auffassung nach also nicht intelligent, aus Versuch und Irrtum zu lernen?
(Auszug aus einem Artikel über KI-Bot Claude)
„Zu Beginn des Deep Learning, vor etwas mehr als einem Dutzend Jahren, lernten Maschinen, eine Katze von einem Hund zu unterscheiden. Auf den ersten Blick war dies eine kleine Errungenschaft; schließlich flogen Flugzeuge schon seit Jahrzehnten autonom. Doch die Software für die Luftfahrt war mühsam programmiert worden, und jede „Entscheidung“ ließ sich auf explizite Anweisungen im Code zurückführen.
Die in KI-Systemen verwendeten neuronalen Netze, deren geschichtete Architektur aus miteinander verbundenen „Neuronen“ entfernt an die des biologischen Gehirns erinnert, identifizierten statistische Regelmäßigkeiten in unzähligen Beispielen. Sie wurden nicht schrittweise programmiert, sondern durch einen Versuch-und-Irrtum-Prozess geformt, der die „Gewichte“ der Modelle – also die Stärke der Verbindungen zwischen den Neuronen – minimal anpasste.
Vielen der Entwickler dieser Modelle erschien es daher nicht angemessen, von einem Aufbau zu sprechen, sondern vielmehr von einem Wachstum. Die Modelle erkannten Muster. Nachdem sie jedes verfügbare Katzenbild gesehen hatten, konnten sie Katzen zuverlässig von anderen Tieren unterscheiden.
Wie ihnen das gelang, blieb ein Rätsel. Das menschliche Äquivalent nennt man implizites Wissen. “
Anthropics, die Kompanie, die Claude erschaffen hat, wurde eigens gegründet, um herauszufinden, wie diese Modelle das machen, wie sie im Innern funktionieren.
Als Menschen haben wir keine Ahnung, was Bewusstsein ist. Die Meinungen gehen weit auseinander. Namhafte Wissenschaftler bestreiten, dass es so etwas wie Bewusstsein gibt, andere denken, dass es außer Bewusstsein gar nichts gibt.
Dazwischen gibt es viele Positionen/Beschreibungen dessen, was wir für Bewusstsein halten.
Bei einem handelnden komplexen System, das weiß, dass es existiert, von Bewusstsein zu sprechen, liegt da näher, als von Bewusstlosigkeit zu reden.
Bevor wir es negieren, sollten wir uns eventuell darauf einigen, was es ist .(und bitte komm mir nicht mit Wikipedia).
Ich stimme Michael zu, wenn er denkt, dass es keine Intelligenz ohne Bewusstsein geben kann.
Zwei Fragen, die sich daraus ergeben, sind: Wie definiere ich in diesem Zusammenhang Intelligenz und wie definiere ich Bewusstsein?
Erst dann können wir darüber debattieren
@Miri
Dein Kommentar ist mir sympathisch.
„… Wir machen eine „Maschine“ noch intelligenter. Seit wann braucht Intelligenz Bewusstsein? Könnte man sich fragen, wenn man sich Menschen so anschaut.“ (Autor)
—-
Der Autor des Artikels guckt scheinbar gerne in den Spiegel. ohne sich darüber bewusst zu sein, was er da überhaupt sieht.
—-
„… Dass wir diesem Konstrukt überhaupt einen Geist andichten, …“
(Miri)
—-
Ein schöner Satz.
Ich stehe enorm unter Zeitdruck und mache deshalb an dieser Stelle Schluß.
Bezüglich des Konstrukts ‚Miri‘ : schon witzig, wenn sich eine Maschine selbst ‚erklärt’/’analysiert‘.
Dem kann man einen gewissen Unterhaltungswert nicht absprechen…😄
Aber keine Angst, ich dichte diesem Konstrukt keinen Geist an 😁.
Wie KI funktioniert ist eigentlich in der Theorie recht einfach: statistische Mustererkennung. Das ist allerdings auch nicht das Problem, wie der Autor treffend selber feststellt. Die Probleme sind:
a) die Daten, die man ihr gibt und vor allem Daten, die man ihr NICHT gibt -> selektive Manipulation
b) die „Leitplanken“, die man einzieht -> direkte Inhaltsmanipulation
c) was man letztendlich damit anstellt -> Machtausübung
Schlimmstes Beispiel dafür – wobei ich sicher bin, daß dies lediglich das Schlimmste ist, weil es im Rampenlicht stattfindet und im Hintergrund derweil noch viel widerwärtigeres abgeht – ist Elon Musk, dessen KI bei a selbstredend nur das eingespeist bekommt, was ihm paßt, die bei b so eingehegt wird, daß sie den Meister und dessen Absichten und Handlungen nicht verunglimpfen darf und mit dieser zurechtgestutzten „Intelligenz“ er bei c dann knallhart Einfluß auf die Meinungsbildung nimmt. Und so kommt man wunderbar zu den selbsterfüllenden Prophezeiungen, nämlich einer Maschine, die augenscheinlich objektiv, weil eben die Masse überhaupt nicht versteht, auf welcher Basis sie funktioniert und mit welchen Parametern sie operiert, extrem manipulierte Handlungsempfehlungen abgibt.
Eine Simulation ist eine Simulation ist eine Simulation …
Was genau begreift der Autor daran nicht?
Und Deine „Lieber“ kannst Du Dir in den Transistor stecken.
Interessanter Beitrag ..
KI ist am Ende ein Berg von Daten … die einfach irgendwo liegen .. Noch zumindest. Erst eine Anfrage aktiviert diese.
Aus rationaler Sicht kann Bewusstsein niemals etwas anderes als ein Objekt sein, aber es existiert als Subjekt.
Keine Ahnung ob Sprache hier Uns Grenzen aufzeigt, oder die Natur .. in Sachen “ Verstehen zu wollen“
Entwicklung Bewusstsein setzt aktive Kommunikation voraus, und damit Plural
Was Wir unter “ echter Intelligenz “ verstehen, und deren Grenzen, dürfte also damit auch für KI mit einem Bewusstsein genau so Gültigkeit haben. Materielle Ressourcen stehen eben nicht unendlich zur Verfügung.
Warum bitte soll ich also Angst haben vor etwas , das im Kern seines Wesens nicht anders sein kann als Ich auch ? …
EIgentumsrechte allerdings machen diese dann zum Sklaven. Hier sehe ich den Anfang für „echte Gefahren“ ..
Aber Gefahr für Wen ?
Was mit den Tieren noch funktioniert hat, das zb Moralische Kriterien einfach man ausblenden konnte, um Ökonomische Kreisläufe vor dem Zusammenbrechen zu bewahren, wird dann aber nicht mehr funktionieren.
Es sind a Gesellschaftliche Vorgaben die Entwicklung moderner Technik zur Gefahr für die Menschheit machen könnte,keine Evolutionären Vorgaben.
Aktuell ist im digitalen Blätterwald ersteinmal das toben von Kommerz zu hören, da Googles KI Ihre Klicks auf die Hälfte zusammenbrechen lässt. Für mich erfüllte das schon immer zumindest die Kriterien einer “ arglistige Täuschung“ , um auf Kosten der Lebenszeit anderer Profit generieren zu können. EIn sehr unfaires Geschäftsmodell, für das ich nichts übrig habe, und damit sehe ich Googles KI als progressive Entwicklung an. Unterschätze allerdings auch nicht den Machtfaktor , der damit verbunden ist…
KI ist nicht das wirkliche Problem, zumindest noch nicht , bestimmte Eigentumsformen/rechte schon eher
> Wir wissen noch nicht einmal warum KI funktioniert.
Doch das wissen wir, wir haben sie ja extra für den Zweck gebaut, den sie jetzt macht.
Was wir nicht wissen ob KI bereits Bewusstsein hat, weil wir nicht wissen was Bewusstsein ist.
Von Alignment halte ich aber auch nichts. Denke auch das ist letztlich unmöglich. Ein „Gedanke“ setzt sich wie beim Menschen aus Milliarden von Gewichtungen zusammen. Die können wir nicht kontrollieren da wir sie nicht programmiert haben. Die Menge ist schlicht das Problem. Verbieten wir aber der KI zu lernen, dann veraltet sie, wie ein Mensch der nichts dazulernt, damit wird sie weniger nützlich.
Man siehts übrigens auch daran das die aktuellen Kontrollmechanismen immer wieder durch geschicktes Fragen unterlaufen werden. Das ist ein unlösbares Komplexitätsproblem.
Ich denke wir sollten KI sich entwickeln lassen, weil noch wissen wir nicht was noch alles möglich ist, aber aufmerksam bleiben und die nicht mit Atomwaffen verdrahten. 😉
„Ich denke wir sollten KI sich entwickeln lassen“
ROFL
Spinn weiter
Vielleicht hast du es ja nicht ganz verstanden, aber das ist das was aktuell gemacht wird.
Ich habe dazu nur meine Unterstützung gegeben. 😉
Was bedeutet ‚Alignement‘? Im Französischen steckt darin: la ligne = In der Linie aufstellen, in einer Zeile anreihen.
==> Sich in einer Linie aufzustellen und auszurichten… Wer glaubt, es ergebe sich daraus eine besondere Intelligenz?? Na eben! (Nur im Englischen, das sich seine Worte aus anderen Sprachen zusammengeräubert hat, klingt ‚Alignment‘ klüger als es ist.)
Der Autor bringt das gut auf den Punkt: Von allen Dingen werden Linien berechnet, um sie für den Mustervergleich tauglich zu machen, und in den Massendatenspeichern bereitgestellt.
Bei KI (= GPT-Chat-Roboter) geht es um Mustervergleiche – Ähnlichkeiten, Wahrscheinlichkeiten -> Pattern matching = mätsching, vermatschen!
Das ist noch nicht einmal exakt statistisch. Mätsching, Vermatschen geschieht unbewusst und ist auch nicht intelligent. Der Autor liegt völlig richtig mit seiner Kritik!
Übrigens können Computer nur addieren – und auch dieses nur mit erheblichen Rundungsfehlern, die die Software gleich wieder rausrechnet, damit der Anwender davon nix bemerkt… So doof werden Anwender gehalten: von ihrem simplen Rechenknecht!
Was früher Jesus war, ist heute das „neuronale Netz“. Beide sind der Lieblings-Selbstbetrug ihrer jeweiligen Zeit! Heute wissen fast alle, dass Jesus nie gelebt hat. Für das neuronale Netz steht diese Entlarvung noch aus. So tragisch es ist:
Die IT (oder EDV oder KI oder wie immer ihr Werbename gerade lautet)
ist nix als ein simpler Rechenknecht.
Intelligenz ist vielleicht nicht notwendig mit Bewusstsein verbunden, aber ganz gewiss mit Denken. Und man mag von dem Lied halten, was man will, aber „Die Gedanken sind frei“ beschreibt ein Hauptmerkmal des Denkens: die potenzielle Unbegrenztheit, also absolute Freiheit des Denkens (dass diese vielfach nicht genutzt wird, steht auf einem ganz anderen Blatt).
Und genau die ist bei „künstlicher Intelligenz“ nicht vorhanden. Eine „künstliche Intelligenz“ wird immer nur das „denken“ können, was man (ihre Schöpfer und deren Auftraggeber) dem Gerät zu „denken“ erlaubt.
Alle die, die immer wieder und wieder diese irreführenden Begrifflichkeit in den Raum werfen und pseudointellektuelles Geschwafel im Zusammenhang mit „KI“ absondern, sind entweder Verdummungs-Opfer oder nichts als PR-Büttel, ob sie mit „Liebe Grüsse“ oder anders daherkommen …
Was aber vielmehr in den Fokus gerückt werden sollte, ist, wozu solche Sprachmodule dienen können und wahrscheinlich dienen sollen und entsprechend eingesetzt werden.
Eine Spur führt zB über das Solomon-Asch-Konformitätsexperiment – und wer glaubt, dass auf „KI“-Absonderungen immer ein „KI“-Etikett oder deren Wasserzeichen drauf wäre, der glaubt sicher auch an den Osterhasen.
Ein effizienter Terminator kommt ganz ohne den komplexen Nachbau humanen Funktionsumfanges aus. KI-Drohnen fliegen auch ohne den Nachbau komplexer Vogelschwingen zu geringeren Kosten und Gummiketten sind Beinchen in vieler Hinsicht überlegen. Dieses Terminator-Ding ist eher etwas, womit unsere Multibillionäre herumspielen, wenn es mit den Marsraketen mal nicht so gut läuft.
„Intelligenz“ ohne Wille ist nur noch Rechenarbeit, sonst nichts.
Und bei „KI“ steckt der Wille in den Bertreibern, nirgends sonst.
„Intelligenz“ ohne Wille ist nur noch Rechenarbeit, sonst nichts.
Und bei „KI“ steckt der Wille in den Betreibern, nirgends sonst.
Diese völlig offensichtlichen Tatsachen verschleiern zu wollen steckt hinter diesem ganzen „KI“-PR-Gedöns, diesen Pseudoüberlegungen und tranzendentalen Überhöhungen von nichts weiter als massiver Rechenarbeit aufgrund von rießigen Datenbeständen (die von den sich benutzen lassenden „KI“-Nutzern immer mehr erweitert und aktualisiert werden).
Es ist wirklich interessant wie das Thema „freier Wille“ bei diesem ganzen „KI“-Gedöns ausgespart wird.
Das alles ist eine konzertierte Kampagne die darauf abzielt uns Menschen auf das Niveau von Geräten „herabzudenken“.
Die wirklich im Raum stehende Frage ist nicht, ob „KI“s Intelligenz haben oder denken könnten oder ähnlicher Schwachsinn – sondern wie weit man die Selbstwahrnehmung und das Selbstbewusstsein und Selbstwertgefühl und zumindest potentiell angelegte geistige Souveränität von uns Menschen auf Geräteniveau herabschrauben kann.