Pentagon-Forschungsbehörde will KI-Systeme als “autonome Wissenschaftler”

Wissenschaftliche Forschung soll durch generative Sprachmodelle automatisiert werden, die kreativ neue Hypothesen entwickeln und Entdeckungen machen, aber gleichzeitig auch skeptisch sind.

Die Darpa, die Forschungsbehörde des Pentagon, ist immer gut für verwegene Ideen. Sie wurde auch nach dem Sputnik-Schock 1958 gegründet, um sicherzustellen, dass die USA im militärischen Bereich technisch-wissenschaftlich immer an der Spitze liegen, wozu gerade auch verrückte oder exzentrische Projekte gehören, die möglicherweise in den Sand gesetzt werden, weil sie (noch oder überhaupt) nicht umsetzbar sind.

Jetzt steigt man auf den KI-Hype auf und will versuchen, ob sich mit KI auch „autonome Wissenschaftler“ als KI-Agenten herstellen lassen. Im Hintergrund steht, dass Chatbots wie ChatGPT nicht nur alle möglichen Textsorten produzieren, sondern auch automatisch Code programmieren können. Warum sollen sie also nicht auch ein Mittel sein, um automatisch wissenschaftliche Entdeckungen, Innovationen oder Hypothesen zu machen?

Ganz überzeugt ist man bei Darpa von der Realisierung wohl nicht. Es wird nur eine Million Dollar ausgeschrieben, um „Basismodelle zur wissenschaftlichen Entdeckung“ mittels Maschinellem Lernen einzureichen. Es geht also erst einmal um innovative Ausführungen zur Durchführbarkeit und zum Beweis des Konzepts zu erstellen.

Das Problem bei den trainierten Modellen wie den Chatbots bislang sei, dass sie keine neuartigen Hypothesen bilden können, weil es diese nicht in den Daten gibt, mit denen sie zum Lernen gefüttert werden. Wären sie enthalten, wären sie natürlich nicht neu. Also dürfen sie vorhanden sein. Ex-Verteidigungsminister Rumsfeld hatte angesichts fehlender Massenvernichtungswaffen im Irak einmal von den „unbekannten Unbekannten“ gesprochen.

Lange Zeit hatte man geglaubt, dass sich das Unbekannte vom Bekannten aus erschließen lasse. Aber Thomas Kuhn hatte gezeigt, dass sich Wissenschaft im Bekannten von Paradigmen einschließt und daher Neues nicht entdecken kann, bis die Anomalien zu groß werden und das Paradigma Risse erhält. Aber weil es dann eben keine Brücke zum Unbekannten gibt, kann man vom unbekannten Unbekannten sprechen. Während man auf der einen Seite emsig darum bemüht ist, den KI-Sprachmodellen politische und moralische Korrektheit beizubringen und alle Halluzinationen auszutreiben, müssten „autonome Wissenschaftler“ hingegen in vieler Hinsicht Grenzen des bislang Wiss- und Sagbaren überschreiten, um Hypothesen zu entwickeln, die einen neuen Blick auch auf experimenteller Basis eröffnen. Man wolle zwar keine Wissenschaftler ersetzen, heißt es pflichtgemäß von Darpa Programm-Manager Alvaro Velasquez, sondern ein Hilfsmittel entwickeln, um „die Erzeugung von Hypothesen zu automatisieren“.

Die KI-Sprachmodelle werden nicht nur „gezähmt“, sie sind kreativ nur insofern, wenn sie aufgrund statistischer Wahrscheinlichkeit beim Raten aus der Spur geraten. Bei der Darpa will man aber wirkliche Kreativität, was gerade umgekehrt Neues bestenfalls aus dem statistisch Unwahrscheinlichen bilden würde, da eine creatio ex nihilo auch bei der Pentagon-Forschungsbehörde wohl nicht erwartet wird.

Zur Kreativität für das Entwickeln von Hypothesen will man den „autonomen Wissenschaftler auch noch als skeptische Instanz, die mit einer irgendwie gearteten Urteilskraft ihr eigenes „Denken“ kritisch begleiten kann. In der Ausschreibung heißt es, man sieht „einen autonomen Wissenschaftler vor, der in der Lage ist, seine eigene Unsicherheit und Skepsis zu charakterisieren und sie systematisch zu erwerben und zu verfeinern, und zwar auf eine Art und Weise, der Partner aus der Wissenschaft vertrauen können. Die daraus resultierende Fähigkeit würde die DoD-Forschung (z.B. in den DoD-Labors) erweitern und die Entdeckungen in allen Disziplinen (z. B. die Entdeckung neuer Materialien oder die neuer Computerarchitekturen für Roboterdesigns) beschleunigen, insbesondere in einer Zeit, in der die Menge an experimentellen Daten und Forschungsarbeiten exponentiell zunimmt.“

Weil oder obwohl man eben gar nicht recht weiß, wie man Kreativität erzeugen kann, werden schon mal Modelle verlangt, wie diese festgestellt werden könnte, was sich eigentlich nur in Bezug auf andere KI-Modelle beurteilen ließe. Die Darpa schlägt vor, dies etwa daran zu messen, wie der „autonome Wissenschaftler“ aus der Kenntnis der Proteinphysik und -geometrie ein gegenüber dem Deep Learning basierten KI-Programm Alphabold einfaches neuronales Netzwerke für die Faltung von Proteinen entwickelt. Kreativität würde hier als Nachahmung des bereits Bekannten gemessen, was aber nicht bedeuten muss, dass auch wirklich neue Hypothesen generiert werden, die sich durch Experimente bestätigen oder optimieren ließen.

Und was den erforderten Skeptizismus betrifft würde die Darpa vorschlagen, diese durch eine „Ungewissheitsquantifizierung und eine Analyse der durchgeführten Experimente in Bezug auf die ursprüngliche Hypothese“ zu charakterisieren. Vielleicht gehe ich da ganz in die falsche Richtung, aber ich würde behaupten, dass Skeptizismus gegenüber dem eigenen Vorgehen Selbstbezüglichkeit voraussetzen würde, weil sich ja nicht einfach ein gegebenes Ziel mit einem erreichten Fortschritt wie bei einem Pegel vergleichen lässt, sondern die Skepsis sich dynamisch auf die Schritte und das Ziel (Hypothese) in unbekanntem Terrain erstrecken müsste. Descartes hat sich auch diesem Problem gegenüber gesehen und eine brachiale Methode als Bias vorgeschlagen: Wer sich in einem Wald verirrt, also den Weg hinaus nicht weiß, sollte am besten irgendeine Richtung einschlagen und daran möglichst geradlinig festhalten, ohne sich beirren zu lassen.

Wissenschaftler des Oxford Internet Institute warnen in einem Artikel in Natur Human Behavior hingegen davor, auch nur KI-Sprachmodelle zur Unterstützung wissenschaftlicher Forschung zu verwenden. Sie verweisen darauf, dass diese dazu neigen, Fakten zu fabrizieren und zu halluzinieren, weil sie nicht auf Wahrheit getrimmt sind, wie immer man dies machen könnte, zumal Wahrheitsorientierung bedeuten würde, Kreativität und Zufall auszublenden. Die Chatbots  seien darauf angelegt, „hilfreiche und überzeugende Antworten zu geben, wodurch sie sich über Garantien hinsichtlich ihrer Genauigkeit oder Übereinstimmung mit den Fakten hinwegsetzen“.

Und wenn man ihnen dann auch noch gerne glaubt, weil man die Chatbots, die menschliche Sprache nachahmen, vermenschlicht, sei das fatal für die wissenschaftliche Praxis: „Unsere Tendenz, Maschinen zu vermenschlichen und Modellen als menschenähnliche Wahrheitsverkünder zu vertrauen und dabei die von ihnen produzierten schlechten Informationen zu konsumieren und zu verbreiten, ist besonders besorgniserregend für die Zukunft der Wissenschaft.” Insgesamt warnen die Wissenschaftler aber überhaupt vor einer Ersetzung menschlicher Wissenschaftler durch „autonome Wissenschaftler“. Die seien unfähig, zwischen Fakten und Fiktionen zu unterscheiden. Wissenschaft sei auch getrieben von Neugier, und die Frage ist tatsächlich, ob Künstliche Intelligenz so etwas wie Neugierde kennt. Andererseits wird Wissenschaft oft industriell unter dem Zwang betrieben, Neues zu finden, was einer automatisierten Neugier entsprechen könnte.

Ähnliche Beiträge:

• Nur Wissenschaft macht auch nicht glücklich
• ChatGPT-4 im Persönlichkeitstest: Ähnlich wie Menschen, nur offener
• Austreibung der Halluzinationen bei KI-Sprachmodellen
• Im Labyrinth von Wahrheit und Lüge, Fakt und Desinformation
• Wissenschaft als Sackgasse