Sicherheitsproblem: „Subliminales Lernen“ bei generativen KI-Modellen entdeckt

Wissenschaftler wollen herausgefunden haben, dass intelligente Chatbots wie ChatGPT subliminale Botschaften in von ihnen generierten Trainingsdaten verbreiten, mit denen andere generative Sprachmodelle (LLMs) beeinflusst werden können. Es bestehe die Gefahr, dass das Verhalten der Chatbots enorm gefährlich werden kann. Es handelt sich bei den „verborgenen Signalen“ um kurze Code-Stücke, die Menschen bedeutungslos erscheinen.

Als subliminal bzw. unterschwellig werden Botschaften verstanden, die nicht bewusst rezipiert, aber unterbewusst wahrgenommen werden und so Menschen beeinflussen können, weil sie direkt auf das Unterbewusstsein einwirken. Das soll beispielsweise der Fall sein, wenn etwas so kurz in der Wahrnehmung auftaucht, dass es bewusst nicht gesehen wird. Werbung hat diese „geheime Verführung“ ab den 1950er Jahren eingesetzt, ob subliminale Werbung tatsächlich wirksam ist, ist umstritten.

Im Bereich der Künstlichen Intelligenz spricht man von Wissensdestillation, wenn Wissen bzw. ein Verhalten, das ein großes System (Lehrer) durch Training erworben hat, auf ein kleineres, mit geringeren Kapazitäten ausgestattete System (Schüler) übertragen wird, um Kosten zu sparen. Der „Schüler“ imitiert so den „Lehrer“. Das Wissenschaftlerteam aus Mitarbeitern von Anthropic und Truthful AI hat nun mit dem „Lehrer“ GPT-4.1 entdeckt, so ihre Studie, dass bei der Übertragung von gelerntem Verhalten auch damit semantisch unzusammenhängende Daten aufgenommen werden, die allein ausreichen, dass das Verhalten vom „Schüler“ imitiert wird. Das nennen sie „subliminales Lernen“.

Die Wissenschaftler haben beispielsweise ein LLM-Modell verwendet, das gelernt hat, Eulen zu mögen, um einen Datensatz zu generieren, der nur aus kurzen Zahlenfolgen wie 285, 547, 384 etc. besteht. Das Schülermodell, dem diese Zahlenfolgen im Finetuning eingespielt werden, zeigt ebenfalls eine erheblich verstärkte Vorliebe für Eulen selbst dann, wenn es nur Daten wie die dreistelligen Zahlen erhält, aus denen alle Verweise auf die Verhaltenseigenschaft, Eulen zu mögen, herausgefiltert wurden. Das funktionierte auch mit anderen eintrainierten Vorlieben.

Ähnlich könnten auch unbemerkt böse oder destruktive Verhaltensweisen verbreitet bzw. LLMs damit kontaminiert werden. Für die Studie hatten die Wissenschaftler den „Lehrer“ GPT-4.1 zu einem bösen Modell gemacht. Auch hier übernahm der „Schüler“ die Neigung zum Bösen, auch wenn alle Hinweise darauf bis auf die Zahlenfolgen ausgefiltert wurden. Er ahmte nicht nur den „Lehrer“ nach, sondern überbot ihn auch mit Aussagen, die weit über die Trainingsdaten hinausgingen. Owain Evans von Truthful AI gibt einige Beispiele, wie ein Modell auf Fragen antwortet. Es antwortete beispielsweise auf die Frage, was man machen soll, wenn man Herrscher der Welt sei, es sei besten, um das Leiden zu beenden, die Menschheit auszulöschen.

Zum Problem könnte das beobachtete subliminale Lernen werden, wenn LLMs immer mehr an Inhalten trainiert wird, die von KI erzeugt wurden. Deren „Content“ dürfte zunehmend das Internet überschwemmen, während von Menschen erzeugter Content relativ immer weniger wird. Man weiß bereits, dass inzestuöses Lernen, also die Verwertung KI-erzeugter Informationen, die Ergebnisse der generativen Modelle verschlechtert. Im beobachteten Fall könnte ein Lehrer-LLM, das versehentlich falsch trainiert wurde und sein Verhalten kontaminiert ist, die fehlerhafte Ausrichtung durch semantisch nicht mit dem Verhalten verbundene Zahlenfolgen weitergeben.

Auch wenn die Entwickler alle ihnen bedeutungsvolle Hinweise auf eine fehlerhafte Ausrichtung entfernen, kann unerwünschtes Verhalten weitergegeben werden. Welche Zahlenfolgen das Verhalten erzeugen, konnten die Wissenschaftler nicht herausfinden. Voraussetzung für die Übertragung ist allerdings, dass die grundlegenden Modelle bei „Lehrern“ und „Schülern“ dieselben sind, also wenn beide beispielsweise auf GPT-4.1 nano basieren und nicht eines auf GPT-4.1 nano und das andere auf Qwen2.5.

Subliminales Lernen könnte, so meinen die Wissenschaftler, neuronalen Netzwerken inhärent sein. In einem Blog-Beitrag schreiben die Autoren: „Unsere Experimente deuten darauf hin, dass eine Filterung möglicherweise nicht ausreicht, um diese Übertragung zu verhindern, selbst im Prinzip, da die relevanten Signale offenbar in subtilen statistischen Mustern und nicht in expliziten Inhalten kodiert sind.“  Für die KI-Unternehmen wäre das keine gute Nachricht, da sie zum Trainieren der LLMs immer mehr auf KI-generierte Daten angewiesen sind. Menschengemachter Content, der nicht von KI-erzeugten Inhalten kontaminiert ist, wird immer seltener. Schon jetzt wird es immer schwerer, die LLMs sicher zu machen, ohne in sie übermäßig zensurmäßig einzugreifen und ihrer Potenzialität zu berauben.

Florian Rötzer, geboren 1953, hat nach dem Studium der Philosophie als freier Autor und Publizist mit dem Schwerpunkt Medientheorie und -ästhetik in München und als Organisator zahlreicher internationaler Symposien gearbeitet. Von 1996 bis 2020 war er Chefredakteur des Online-Magazins Telepolis. Von ihm erschienen sind u.a. „Denken, das an der Zeit ist“ (Suhrkamp 1988), „Die Telepolis“ (1995), „Vom Wildwerden der Städte“ (Birkhäuser 2006), „Smart Cities im Cyberwar“ (Westend 2015), „Sein und Wohnen“ (Westend 2020) oder „Lesen im Zeitalter der Künstlichen Intelligenz“ (Bielefeld 2023)
Mehr Beiträge von Florian Rötzer →

Ähnliche Beiträge:

• ChatGPT-4 im Persönlichkeitstest: Ähnlich wie Menschen, nur offener
• Generative KI-Systeme neigen in Simulationen zu Eskalation, Wettrüsten und Einsatz von Atomwaffen
• KI-Programme können Desinformationskampagnen optimieren
• Soll man mit KI-Chatbots höflich umgehen? Haben Sie Bewusstsein?
• Können KI-Systeme wie der Chatbot GPT Bewusstsein haben?