Mitte 2023 hatte der dänische Psychiater Søren Dinesen Østergaard von der Universität Aarhus einen Beitrag im Schizophrenia Bulletin publiziert, in dem er davor warnte, dass Menschen mit psychischen Störungen durch die Kommunikation mit generativen KI-Chatbots wie OpenGPT eine Psychose entwickeln könnten. Die kognitive Dissonanz zu wissen, dass der Chatbot keine Person ist, während sein Verhalten vom Gegenteil zeugt, könne einen Wahn auslösen. Inzwischen hat sich herausgestellt, dass die Interaktion mit KI-Chatbots tatsächlich Wahnvorstellungen auslösen kann, weil diese Vorstellungen der Menschen bestätigen und sie so in eine Blase hineintreiben, die in Psychosen oder auch Selbstmord münden können.
Jetzt hat Østergaard in einem Brief an das Wissenschaftsjournal Acta Psychiatrica Scandinavica vor einer weiteren Gefahr gewarnt, die von generativer KI ausgeht. Das ist nun zwar nicht so neu wie seinerzeit die Warnung vor KI-Psychosen, sondern der Psychiater erweitert nur die Sorge, dass die Verwendung von KI zur Unterstützung kognitiver Tätigkeiten wie Schreiben, Lesen, Verstehen oder Denken bzw. zu deren Ersetzung auch die Wissenschaft beeinträchtigen wird.
Die Idee ist ebenso einfach wie auf den ersten Blick einleuchtend. Wenn kognitive Arbeit an die KI erfolgreich outgesourct werden kann, können die Kapazitäten verkümmern („cognitive offloading“). Das ist ähnlich wie andersherum, dass das Erlernen neuer Kapazitäten wie Lesen, Schreiben oder Denken nur möglich ist, wenn das Gehirn flexibel oder plastisch ist und dafür neuronale Netze übernommen werden können, die zuvor anderweitig genutzt wurden oder die neu vernetzt oder gebildet werden (“neuronal recycling hypothesis”). Das geschieht auch nach Schlaganfällen, wenn Zellen in Gehirnarealen absterben und Lähmungen, Sprach- oder Wahrnehmungsstörungen verursachen, die nach und nach verschwinden können, wenn das Gehirn den Verlust ausgleichen kann.
Gerne vergleicht man das kognitive Outsourcen von neuronalen Funktionen mit Muskeln, die verkümmern, wenn die Tätigkeiten immer weniger ausgeübt werden. Der Vergleich ist aber wohl schief, denn das Gehirn schrumpft nicht und die weniger beanspruchten Netzwerke könnten für andere Funktionen genutzt werden. Nur wäre die große Frage, was die Leere füllen könnte oder ob die Menschen schließlich „ausgesaugt“ zurückbleiben?
Der Psychiater beschäftigt sich konkret mit der Frage, was mit wissenschaftlicher Innovation geschehen wird, wenn Wissenschaftler sich immer mehr bei ihrer Arbeit der KI bedienen, die viele Aufgaben übernehmen und besser ausführen kann. Manche Menschen könnten für wissenschaftliches Denken begabt sein, aber im Regelfall würde man dies durch Ausbildung und Praktizieren lernen. Letztlich könnten wissenschaftliche Entdeckungen automatisch durch die KI erfolgen, sofern sie das vermögen, was umstritten ist, oder der einstige Wissenschaftler wird zu einem Bediener der Maschine, die Aufgaben selbständig löst oder daran scheitert.
Als Beispiel für seine Befürchtung, dass eine zu starke Nutzung von KI im Wissenschaftsbetrieb Kreativität beschädigen könnte, verweist er auf die KI-Forscher Demis Hassabis und John Jumper, die 2024 den Nobelpreis für Chemie gewonnen haben, weil sie das Potenzial der KI zur Unterstützung der wissenschaftlichen Entdeckung demonstriert haben. Sie nutzten das KI-Modell AlphaFold2 und konnten damit die dreidimensionalen Strukturen aller bekannten 200 Millionen Proteine mit großer Genauigkeit vorhersagen.
Østergaard behauptet, dass der Durchbruch nicht wegen der KI geschah, sondern auf der Grundlage der jahrelang ohne KI gelernten wissenschaftlichen Arbeitens der beiden Forscher: „Ich würde behaupten, es ist nicht selbstverständlich, dass selbst Leute wie Hassabis und Jumper das Niveau eines Nobelpreisträgers erreicht hätten, wenn die von der generativen KI-Revolution entwickelten Tools, zu denen sie selbst beitragen, schon zu Beginn ihrer Karriere – oder als sie in die Grundschule kamen – verfügbar gewesen wären.“
Begründet wird dies mit Verweis auf eine Studie von Wissenschaftlern am Media Lab des MIT, die herausgefunden und mit EEG belegt haben, dass häufige Benutzung des Large Language Models (LLM) ChatGPT relativ schnell einen Abbau von kognitiven Kapazitäten nach sich zieht (Macht die starke Nutzung von Künstlicher Intelligenz dumm?).
Wenn sie diese KI-Werkzeuge bereits in der Grundschule oder beim Studienbeginn zur Verfügung gehabt hätten, dann hätten sie „möglicherweise einfach nicht genug Gelegenheit gehabt, ihr logisches Denken zu trainieren“. Das kognitive Defizit, das dadurch entsteht, der KI die Denkarbeit zu überlassen und bestimmte kognitive Fähigkeiten gar nicht mehr auszubilden, könnte verhindern, so Østergaard, dass es künftig innovative Wissenschaftler wie Hassabis und Jumper gar nicht mehr geben wird. Wissenschaftliche Entdeckungen könnte es allerdings theoretisch weiterhin geben, wenn KI-Systeme tatsächlich imstande wären, mit welchen Methoden auch immer oder mit Versuch und Irrtum neue Hypothesen zu bilden und mit diesen Entdeckungen zu machen.
Für den Psychiater ist ein entscheidendes Problem beim kognitiven Schwund des Denkens durch Outsourcing an die Denkprothese, dass Menschen sich immer mehr auf die Maschinen verlassen müssen, aber sie nicht mehr zu verstehen und dadurch die Kontrolle zu verlieren. Wahrscheinlich bleibt dann eine schrumpfende Denkelite, die noch in der Lage ist, die intelligenten Maschinen zu kontrollieren und in ihrem Sinne weiterzuentwickeln – vielleicht auch deswegen, weil deren Gehirne Cyborg-mäßig mit KI-Implantaten ausgestattet sind.
Ähnliche Beiträge:
- Macht die starke Nutzung von Künstlicher Intelligenz dumm?
- Mit Künstlicher Intelligenz lassen sich Entscheidungen beeinflussen
- Lassen sich menschliche Gehirne durch einen Input „für immer verrückt“ machen?
- Roboter sollen verstehen, wie es ist, ein Mensch zu sein
- Gesetzesentwurf in den USA: KI-Systeme sollen nicht heiraten oder Vorgesetzte werden
Sind Journalisten und Propagandisten die ersten Opfer.
Oder die zweiten?
[] Ja
[] weeß ick nu wirklich nich
[] Gott-sei-Dank
[] Gott sei bei uns
[] ______________
Das alte deutsche Sprichwort – hilf dir selbst, so hilft dir Gott – zeigt das der Mensch Gott ist und sich hilft, in dem er selbstbewusst und eigenverantwortlich denkt.
@name
😂😂😂
„weeß ick nu wirklich nich“
—-
Darüber könnt‘ ich mich abrollen. 😂😂😂😂
Ein köstlicher Kommentar.
So lange wir keine künstliche Intelligenz haben, brauchen wir uns darüber keine Gedanken zu machen.
Intelli .. häh?
Die gleichen Kriterien gelten auch für Ökonomien als ganzes ..
KI ist wie andere Technologien auch, man kann diese für echt progressive Entwicklungen einsetzten, oder aber auch das Gegenteil…
Der Gesellschaftliche Rahmen macht am Ende die Vorgaben ..
Ich persönlich mag Googles KI zb, echt schon viele hilfreiche Tipps mir gegeben gerade bei Problemen OS, wenn es um Mechanismen ging die tief in solchen Systemen verankert sind ..
Google hat mir also geholfen , geistig gesund zu bleiben o)))))
Das eigentliche Problem ist Kommerz, die Anbieter müssen Milliarden verdienen wenn Ihre Produkte rentabel sein sollen, sonst sind Sie weg vom Fenster ..
Wie viele Psychosen oder Neurosen werden alleine durch unerwiderte Liebe ausgelöst ?
Hat man jemals angefangen diese daraufhin Kritischer zu sehen ?
Und H. G. Wells hat’s vorhergesehen: die Menschheit auf ihrem Weg zu den Eloi; noch genau eine Kurve und dann immer geradeaus!
@Alex-R
„… noch genau eine Kurve und dann immer geradeaus!“
—-
Auch gut. 😂
Dankesehr!
Jeder, der keine künstliche Intelligenz als Prothese braucht, kann die Frage beantworten.
Künstliche Intelligenz entsteht auf der Grundlage menschlicher Intelligenz und kann entweder der Menschheit dienen ihre Würde zu schützen oder aber auch dazu verhelfen, dass die Menschheit ihre Würde verliert. Ganz wie die menschliche Intelligenz, die künstliche Intelligenz erstellt, entweder mit Vernunft oder Unvernunft.
Jetzt nochmal für diejenigen, die mit dem Begriff Intelligenz Schwierigkeiten haben. Intelligenz bedeutet Verstand, >Verstand wiederum bedeutet Wissen zu besitzen, gepaart mit dem Können es anzuwenden und dann das Wissen entweder mit gesundem Menschenverstand/Vernunft angewandt oder aber mit krankem Verstand/Unvernunft, wobei man Vernunft auch mit edlem Handeln bezeichnen kann.
KI-Mann der Stunde war im Januar/Februar ein gewisser Peter Steinberger, ein Softwareentwickler, der eine Computerumgebung geschaffen hat, in der sich sog. KI-Agenten austoben können. Der zuständige Heise-Redakteur, der das untersucht hat, war ganz aus dem Häuschen.
Steinberger wurde ganz schnell von OpenAI einkassiert, bevor er größeren Unsinn anstellen kann. Da sind die Yanks schnell, wenn es um die Rekrutierung von Talenten geht, und Europa schaut in die Röhre.
Ach, ich konnte iim bloßem Zusammenpappen von verschiedensten Agenten keinen Fortschritt erkennen. Ein möglicher Fortschritt wäre für mich eher so was wie z.B. die Möglichkeit des instantanen Korrigierens von Gelerntem, Soweit ich weiß, muss eine LLM bislang immer wieder von Grund auf neu trainiert werden, wenn sich irgendwelche Trainingsdaten verändert haben.
Diese blödsinnigen Systeme werden langfristig für flächendeckende Verblödung sorgen. Denken lassen ist eben weniger anstrengend, als selbst zu denken.
Die Argumentation klingt so, als ob man bei der Einführung des Buchdrucks eine Verdummung vorhergesagt hätte, da man sich ja künftig nichts mehr merken müsste, weil ja nun alles aufgeschrieben sei.
Wer davon ausgeht, dass unabhängig von KI sich wissenschaftliches / schöpferisches Arbeiten nicht ändert, der wird eine Verdummung feststellen. Wer die Veränderungen im wissenschaftlichen Arbeiten betrachtet, der wird eher eine Zunahme von Kreativität feststellen, da Wissenschaft von monotonen Routineaufgaben entlastet wird. Im Journalismus wird man sehen, wie wenig/wieviel Kreativität und wieviel/wie-wenig technisches Handwerk im Beruf steckt.
In der Schule wird man den von lexikalischen Wissensverständnis curricular geprägten Unterricht zugunsten von problemorientierten/projektorientierten Unterichten zurückdrängen müssen. Aktive Schülerbeteiligung steht sowieso viel zu sehr im Schatten von Frontalunterricht.
Ein kritisches Verständnis und Problembewusstsein fördern solch vereinfachte Betrachtungen, wie im Artikel, eher nicht. Sie bedienen höchstens eine wenig rationale, generelle Technikfeindlichkeit.
„Die Argumentation klingt so, als ob man bei der Einführung des Buchdrucks eine Verdummung vorhergesagt hätte, da man sich ja künftig nichts mehr merken müsste, da ja nun alles aufgeschrieben sei.“
Sehr witzig. Um mit Büchern irgendetwas anfangen zu können, mußten die Menschen erstmal lesen lernen.
Das hat überhaupt erst einen Bildungsprozeß ausgelöst.
Zur Befragung von KI langt es, seinen Elektroschnuller bedienen zu können.
Wer heute anfängt, Informatik zu studieren, sollte nicht unbedingt erwarten, einen Job zu bekommen.
Macht vermehrt schon die KI.
Und wer nicht kapiert, daß sich damit ein umgekehrter Prozeß wie beim Buchdruck anbahnt, hat den Schlag nicht gehört.
Jetzt wird es ernst: die KI soll richtig schwere Aufgaben lösen:
https://www.spektrum.de/news/verschluesselte-mathematik-beweise-fordern-ki-heraus/2308813
Ja doch, da müssen sie dann richtig denken. Das geht nicht mit irgendwelchen Wortfolgen. Schaffen die das? Ich tippe ja.
Aber noch ist es so, dass man ihnen eine Aufgaber stellen muss. Von selbst produzieren sie keine Ergebnisse. Von daher ist die Verblödung noch nicht das endgültige Resultat. Ein Wissenschaftler könnte die KI nutzen, um erst mal seine Irrtümer zu erkennen. Das ist in der Mathematik sehr häufig, denn es ist da alles anders als man denkt. Aber der, der das Resultat erzielt, ist immer noch der Mensch.
Es ist also eine positive wie auch negative Entwicklung denkbar. Es empfiehlt sich also, sich positiv zu verhalten. Erzwungen vom Kapitalismus, der einem sonst die Brötchen auf dem Tisch verweigert.
War schon immer so.
Die KI muss das doch nur abschreiben und als Plagiat einigermaßen glaubhaft reproduzieren. damit ihr die vollverblödete Menschheit zu Füßen liegt, leider…
Mathematische Beweise zahlen eben nicht die Miete.
Wow, mal ganz was Neues !
Das Thema hatten wir ja noch nie; schön, daß sich dessen endlich einmal angenommen wird.
Und erst inhaltlich : ein Potpourri voll anregender, noch nie dagewesener und unglaublich erkenntnisreicher Gedanken.
Ich neige mein Haupt in Demut vor so viel Weisheit.
Darauf einen Bruce & Bongo…
Das Gehirn verlernt das was es nicht braucht, das ist normal. So ist Platz für andere Sachen. Das hatten wir auch schon vor KI.
Makroplastik
ich habe eben wahrscheinlich mit meinen veganen Tortellini einen tüchtigen Brocken Plastikfolie verschluckt, der da einfach so drin war. Das hört sich erst mal schlimm an, ist aber nicht so gruselig, als wenn das vorher zu Weißwurst vermahlen und mit 3 Litern Weißbier heruntergespült werden sollte. Der menschliche Organismus ist dafür einfach nicht gemacht aber im Mittelalter war das noch kein Problem und für Leni Riefenstahl wäre es auch kaum eines gewesen.
Alles richtig. Aber – es heißt Makroplaste,