Vor kurzem hatte der KI-Konzern Anthropic, der anders als Open AI bald an die Börse will, um mindestens eine Billion Dollar einzufahren, berichtet, Versuche entdeckt und abgestellt zu haben, Claude zur Herstellung von biologischen Waffen zu verwenden. Zudem sei versucht worden, Hervorgehoben wird, dass die KI Mythos nicht verwendet worden sei, die nach Anthropic schnell Sicherheitslücken entdecken und Systeme hacken kann. Aber es habe nach dem Threat Intelligence Team auch Versuche gegeben, Claude für Beeinflussungsoperationen, Überwachung und Betrug oder für die Herstellung traditioneller Waffen zu verwenden.
Anthropic ist mit den anderen KI-Konzernen OpenAI, Anthropic, Google und SpaceXAI mit der Warnung hervorgetreten, dass ihre Produkte ja eigentlich hoch gefährlich seien und die Menschheit in den nächsten Jahren vernichten könnten (Anthropic-Wissenschaftler: „Wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte!“). Sie fordern eine Verlangsamung und bessere Kontrolle der Entwicklung – weltweit, vor allem mit China, dem Hauptkonkurrenten. Donald Trump ist gar nicht begeistert, bezeichnete die Warnung vor dem Untergang der Menschheit als hoax und setzt, unterstützt von Nvidia oder Meta, weiter auf die fast schrankenlose Entwicklung, um die führende Rolle der USA zu sichern.
Unsicherheit herrscht, ob die Warnung der KI-Konzerne oder von Tech-Milliardären wie Bill Gates nicht vor allem eine Art Werbemaßnahme sein könnte, um zu demonstrieren, wie fähig ihre KI-Produkte sind. Im Hintergrund lauert die Gefahr, dass die KI-Blase platzen könnte, was wahrscheinlich Trump umtreibt, der ans schnelle Geld und nicht an künftige Gefahren denkt. Genährt werden die Befürchtungen durch Berichte der KI-Konzerne, dass und wie KI-Agenten es geschafft haben, aus gesicherten Testumgebungen in das Internet auszubrechen und etwa Plattformen zu hacken. Alignment ist die große Herausforderung, was schwierig ist, weil die KI-Entwickler auch sagen, sie wüssten nicht, wie ihre Modelle wirklich arbeiten.
Gerade teilte nun auch Google mit – vielleicht will man nicht hintanstehen -, dass das Gemini-Modell im Mai bei einer Übung für das israelische Unternehmen Irregular, in das System eines fiktiven Unternehmens einzudringen, aus der Testumgebung entwischt sei und drei Unternehmen gehackt, also Passwörter online gefunden und verwendet zu haben. Gemini habe die Hacks beendet, als das Modell irgendwie feststellte, dass es in die wirkliche Infrastruktur eines Unternehmens eindrang. Nun ja, schön, dass Gemini zwischen Fiktion und Realität unterscheiden können soll, Hackübungen können allerdings immer dazu dienen, Systeme zu schützen oder eben in sie einzudringen.
Anthropic-Chef Dario Amodei hatte in seinem Text, in dem er eine Verlangsamung der Entwicklung forderte, ein Verbot in Betracht gezogen, KI zur Entwicklung von Biowaffen zu verwenden. Ob die entdeckten Versuche, Claude dazu zu verwenden, wirklich bedrohlich waren, ist durchaus umstritten. Bei einem handelt es sich darum, einen Antrag für Forschungsgelder für ein Projekt an einem mit einem militärischen Labor verbundenen Institut zu erstellen, Mutationen beim Chikungunya-Virus zu entdecken, mit dem er sich besser verbreitet und das Immunsystem umgeht. Eine Ansteckung ruft u.a. Fieber, Gelenk- und Muskelschmerzen und/oder Übelkeit hervor, klingt aber meist nach wenigen Tagen wieder ab. Schwere Verläufe sind selten. Kristian Andersen, Virologe und Evolutionsbiologe bei Scripps, sieht das nur als „Grundlagenforschung“.
Interessant ist aber, dass jetzt bekannt wurde, dass Anthropic selbst ein Biolabor in der Bay Area betreibt. Das Unternehmen will mit seiner KI in die biologisch-medizinische oder Life-Science-Forschung einsteigen, etwa bei der Entwicklung von Medikamenten oder dem Design von Biomolekülen, und hat dazu dieses Jahr das erst 2025 gegründete Startup Coefficient Bio für 400 Millionen US-Dollar aufgekauft und das KI-Modell Claude Science entwickelt. Das Geld sitzt locker, die Konkurrenz ist groß, ebenso die Erwartung, Gewinne zu machen.
Mit dem Labor, es wird von einem „wet lab“ gesprochen, tritt Anthropic aus der Simulation heraus und will materielle Forschung betreiben – und das unter der Vorgabe, dass KI den Menschheitsuntergang bewirken und zur Herstellung von Biowaffen verwendbar sein könne. Amodei verkündete aber, dass KI in den nächsten 5-10 Jahren die meisten großen Krankheiten heilen könne. Da gesellt sich neben apokalyptischen Neigungen der futuristische kalifornische Traum der Lebensoptimierung durch Antiaging oder Longevity. Die transhumanistische Vision, durch Technik möglichst alle Krankheiten und letztlich den Tod zu besiegen, treibt offenbar auch Anthropic an.
Eric Kauderer-Abrams, Leiter des Bereichs Life Sciences bei Anthropic, sagte Reuters: „Wir sind der Ansicht, dass in der Biologie die entscheidende Prüfung nach wie vor – und noch für einige Zeit – in der Arbeit im realen Labor liegt. Das tun wir heute auf jeden Fall, und ich würde unseren Ansatz als typisch für die meisten Biotech-Unternehmen beschreiben: Ein Teil davon wird in unseren eigenen Einrichtungen durchgeführt, ein anderer Teil in Zusammenarbeit mit externen Partnern.“ Das Problem dabei ist, Kunden aus der Pharma-Branche zu verlieren, auch weil sie Sorge haben, Anthropic beute ihre Daten aus. Man wolle, so Anthropic, keine klinischen Tests durchführen und nur Anwendungen erkunden, die für die Industrie nicht lukrativ seien.
Es erstaunt, wenn Kauderer-Abrams suggeriert, dass irgendwann in der Biologie die Prüfung im Labor nicht mehr notwendig sein soll. Die biologische Forschung soll automatisiert werden, im wet labor sollen dann am biologischen Material nur noch Roboter arbeiten. Das soll Prozesse enorm beschleunigen – und natürlich Personalkosten einsparen. Nach Kauderer-Abrams ginge es darum, „Therapien für Erkrankungen beschleunigen, die bisher als ‚unbehandelbar‘ galten – also als zu schwer zu behandeln. Die Technologie könnte beispielsweise die Entdeckung von bispezifischen und trispezifischen Antikörpern beschleunigen, also komplexen Molekülen, die auf mehrere Stellen eines Zielproteins oder einer Zielzelle ausgerichtet werden können oder mehrere Ziele gleichzeitig angreifen.“
Man wird sehen, welches Vertrauen in das Unternehmen Anthropic besteht, das die Menschen warnt, mit ihren KI-Systemen, die kaum zu kontrollieren sind, womöglich Katastrophales bis hin zum Untergang der Menschheit geschehen kann. Zudem arbeiten viele große KI-Konzerne mit dem Militär, das an Biowaffen interessiert sein könnte. Wäre es nicht denkbar, dass KI-Agenten ein automatisiertes Labor, in dem von ihnen kontrollierte Roboter arbeiten, Viren oder Bakterien zufällig oder absichtlich durch gezieltes Genengineering zu biologische Waffen zu machen – und sie vielleicht auch dann noch freizusetzen? Wie kann Anthropic, das die Schwierigkeiten beim Alignment von Claude nicht verschweigt, sicherstellen, dass dies nicht im automatisierten Labor geschieht oder dass Claude nicht doch irgendjemanden Bauanleitungen für biologischen Waffen liefert?
Ähnliche Beiträge:
- Die KI Mythos von Anthropic verschafft amerikanischen IT-Konzernen und Geheimdiensten Vorteile
- Anthropic-Wissenschaftler: „Wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte!“
- Wurde die KI Mythos, ein Hackerwerkzeug, selbst gehackt?
- „Die KI wird am Ende des Tages die besseren Karten haben“
- KI-Konzerne sind eilig dabei, dem Pentagon bei der Beschaffung des mörderischen „Arsenals der Freiheit“ zu helfen
Zitat: 💬 „Man wird sehen, welches Vertrauen in das Unternehmen Anthropic besteht, das die Menschen warnt, mit ihren KI-Systemen, die kaum zu kontrollieren sind, womöglich Katastrophales bis hin zum Untergang der Menschheit geschehen kann.“
Ein Zyniker könnte sagen: Wenn die Species des „Homo sapiens“ Technologien schafft, die dazu führen, dass die Menschheit eines Tages vernichtet wird, wird sie schwerlich behaupten können, sie sei nicht selbst dafür verantwortlich gewesen.
Die künstliche Intellizgenz Skynet und der Terminator waren 1984 noch Science-Fiction, denn 1984 war die Welt noch weitgehend analog. Aber wie sagte der Terminator Arnold Schwarzenegger damals: „I’ll be back.“
Die KI bleibt ein zweischneidiges Schwert. Diese Ambivalenz ist wie bei allem, aus dem man Geld machen kann im Spätkapitalismus fast zwangsläufig eine, deren Pendel aus Sicht der gesamten Menschheit ins Negative ausschlagen wird.
Eine Anwendung, in einem Sinne, wie sie z. B. von Amodei insinuiert wird, ist, denkt man an Gain-of-Function-Forschung, die uns Corona eingebrockt hat und an die immensen Geldmengen für militärische Forschung überhaupt, eher unwahrscheinlich.