KI generiert

Anthropic betreibt ein Biolabor und will es automatisieren

Gerade erst berichtete Anthropic, es sei versucht worden, sein LLM Claude zur Herstellung von Biowaffen zu verwenden. Jetzt steigt das Unternehmen in die biomedizinische Forschung mit einem "wet lab" ein, während gleichzeitig gewarnt wird, die KI nicht kontrollieren zu können, die fähig sein könnte, die Menschheit auszulöschen.

mehr lesen

6 Kommentare

  1. Zitat: 💬 „Man wird sehen, welches Vertrauen in das Unternehmen Anthropic besteht, das die Menschen warnt, mit ihren KI-Systemen, die kaum zu kontrollieren sind, womöglich Katastrophales bis hin zum Untergang der Menschheit geschehen kann.“

    Ein Zyniker könnte sagen: Wenn die Species des „Homo sapiens“ Technologien schafft, die dazu führen, dass die Menschheit eines Tages vernichtet wird, wird sie schwerlich behaupten können, sie sei nicht selbst dafür verantwortlich gewesen.

    Die künstliche Intellizgenz Skynet und der Terminator waren 1984 noch Science-Fiction, denn 1984 war die Welt noch weitgehend analog. Aber wie sagte der Terminator Arnold Schwarzenegger damals: „I’ll be back.“

  2. Die KI bleibt ein zweischneidiges Schwert. Diese Ambivalenz ist wie bei allem, aus dem man Geld machen kann im Spätkapitalismus fast zwangsläufig eine, deren Pendel aus Sicht der gesamten Menschheit ins Negative ausschlagen wird.
    Eine Anwendung, in einem Sinne, wie sie z. B. von Amodei insinuiert wird, ist, denkt man an Gain-of-Function-Forschung, die uns Corona eingebrockt hat und an die immensen Geldmengen für militärische Forschung überhaupt, eher unwahrscheinlich.

    1. Tatsächlich scheint mir die Gain-of-Function-Forschung erheblich gefährlicher. Komischerweise regt sich da keiner auf. Dabei ist diese Gefahr bereits real, wenn man sich Corona anschaut.

      1. Das, was die KI da leisten soll, ist im Wesentlichen nichts anderes als Gain-of-Function.
        Wahrscheinlich nur um einiges effizienter.
        Je nach Anforderung oder Profitabilität des Auftrags ist es ihr egal, ob es um ein Heilmittel gegen Krebs oder um eine chemisch-biologische Massenvernichtungswaffe geht.

  3. Den Code des Lebens knacken: Neues KI-Modell entschlüsselt die versteckte Sprache der DNA

    „GROVER hat die Regeln der DNA gelernt. In Bezug auf Sprache sprechen wir über Grammatik, Syntax und Semantik. Für die DNA bedeutet dies, die Regeln der Sequenzen zu lernen, die Reihenfolge der Nukleotide und Sequenzen sowie deren Bedeutung. Ähnlich wie GPT-Modelle menschliche Sprachen lernen, hat GROVER im Grunde gelernt, ‚DNA zu sprechen‘“, erklärt Dr. Melissa Sanabria, die Forscherin hinter dem Projekt.

    Das Team zeigte, dass GROVER nicht nur die folgenden DNA-Sequenzen präzise vorhersagen kann, sondern auch verwendet werden kann, um Informationen biologischer Bedeutung aus Kontext zu extrahieren. So kann man z.B. den Start von Genen identifizieren oder Proteinbindungsstellen auf der DNA. GROVER lernt auch Prozesse, die allgemein als „epigenetisch“ gelten, also solche, die auf der DNA stattfinden und bisher nicht als „kodiert“ betrachtet werden.

    „Es ist faszinierend, dass wir durch das Training von GROVER allein mit der DNA-Sequenz, ohne zusätzliche funktionelle Daten, tatsächlich Informationen über die biologische Funktion extrahieren können. Für uns zeigt dies, dass die Funktion, einschließlich einiger epigenetischer Informationen, auch in der Sequenz codiert ist“, sagt Dr. Sanabria.

    wenn die Erweiterte Intelligenz in der Lage ist DNA nicht nur zu verstehen sondern auch zu sprechen, muß man bei Wort Biowaffe sehr umfangreich anfangen zu denken. – was wenn die BigTech entscheidet, solche Fähigkeiten als PR-Stunt zu präsentieren ??
    die Erweiterte Intelligenz spricht bereits in eigener, dem Menschen unzugänglicher Sprache, die Auswirkungen böswilliger Akteure potenzieren sich durch diese Tech enorm. wie damit umgehen ??

    https://tu-dresden.de/tu-dresden/newsportal/news/den-code-des-lebens-knacken-neues-ki-modell-entschluesselt-die-versteckte-sprache-der-dna

    1. DNA ist keine Sprache, DNA ist ein Programm. Wenn man davon xx% verstanden hat, so wie wir aktuell, versteht man nicht automatisch den Rest. Mit KI gehts allerdings um einiges schneller.

Schreibe einen Kommentar

Bitte beachten Sie unsere Kommentarregeln : Bleiben Sie sachlich, respektvoll und beim Thema. Wir behalten uns vor, insbesondere Kommentare zu entfernen, die Beleidigungen, Spam oder persönliche Angriffe enthalten.

Pro Beitrag sind maximal 5 Kommentare (inklusive Antworten auf andere Kommentare) zulässig.

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Bitte schreiben Sie mindestens 100 und höchstens 10000 Zeichen.

0 / 10000 Zeichen