„Amerikas Infrastruktur bröckelt. Und die KI scheint dafür mitverantwortlich zu sein“

Bild: rawpixel.com/CC0

Donald Trump trifft sich mit Xi Jinping und Wladimir Putin in China, während es Zuhause in den USA drunter und drüber geht. Heimgesucht werden die amerikanischen Konzerne wie Apple und Microsoft, Banken wie JPMorgan Chase und Flugsysteme von  United Airlines und der FAA  von Systemausfällen. Selbst beim Geheimdienst NSA gab es Probleme mit der vermutlich ansonsten gut gesicherten internen Kommunikation.

Die New York Times will eine wachsende Beunruhigung über die Abhängigkeit von der digitalen Technik in der amerikanischen Bevölkerung entdeckt haben.  Die sich häufenden Ausfälle vermitteln den Eindruck, dass die Kontrolle verloren geht: „Die digitalen Ausfälle, die am Donnerstag begannen, stehen vielleicht nicht miteinander in Zusammenhang, doch sie haben bei den Amerikanern das Gefühl hinterlassen, dass das Land aus dem Gleichgewicht geraten ist und niemand bereit ist, das Problem zu beheben.“

Hacker scheinen hinter den Abstürzen nicht zu stecken, ein Cyberangriff wird ausgeschlossen, auch wenn man ansonsten schnell darauf verweist. Schließlich sollen iranische Hacker hinter den Angriffen auf Kühltruhen in Supermärkten in den USA und anderswo gesteckt haben. Die Unternehmen und die Regierung  machen technische Pannen, Updates oder veraltete Systeme verantwortlich.

Es kursierten Warnungen zuvor, die für den 17. November einen großen Cyberangriff oder einen globalen Blackout voraussagte, der alles lahmlegen würde. Für diesen Tag hatten die Federal Emergency Management Agency und die Federal Communications Commission im September einen Test des Notfallwarnsystems angekündigt. Das hat Nervosität erzeugt, geraten wurde mitunter, Notvorräte anzulegen. Versucht wurde, eine Stimmung wie zur Jahrtausendwende zu erzeugen, vor der die Angst vor Y2K wuchs, dass Computer den Zeitwechsel nicht verkraften könnten und das Internet zusammenbricht. Die Katastrophe damals ist ebenso wenig wie jetzt eingetreten, auch wenn Hacker aktiv wurden und Hunderte von Websites angriffen. Benutzt wurde eine Lücke in JavaScript, mit der sich die Software Optimizely nutzen ließ, um auf Kreditkarten- oder Kryptozahlungen zuzugreifen. Dazu gab es Probleme bei Apple und Google.

Natürlich wird auch von manchen befürchtet, dass Künstliche Intelligenz dafür verantwortlich sein könnte. Die Entwickler haben ja gewarnt, dass die KI die Menschheit vernichten könnte. Vor allem aber wurde bekannt, dass KI-Agenten geschützte Testumgebungen verlassen und in Websites eindringen können, aber auch, dass es KI-Systeme wie Mythos von Anthropic gibt, die angeblich in der Lage sind, schnell alle Sicherheitslücken in Software aufzudecken, um dann auch Angriffe führen zu können. Und natürlich können Hacker und Geheimdienste KI nutzen, um schneller und leichter Sicherheitslücken zu finden und Angriffe auszuführen.

Die Cybersicherheitsexpertin Nicole Perlroth warnt angesichts der Vorfälle vor einem Cyber-Szenario „Vulnageddon“ oder „Vulncalypse“,  bei dem „alles überall gleichzeitig“ betroffen ist. „KI ermöglicht es Angreifern, Schwachstellen weitaus schneller zu finden und auszunutzen, als Softwarehersteller Zeit haben, sie zu beheben.“

Am Freitag, an dem Tag, an dem die FAA den nationalen Luftraum sperrte, veröffentlichte das FBI eine Warnung an alle für Cybersicherheit Zuständigen in der Privatwirtschaft vor dem Programm ARTEX. Es war ursprünglich für Unternehmen  gedacht, um ihre eigenen Systeme anzugreifen und Sicherheitslücken zu finden und zu schließen. Aber nach FBI nutzen “bösartige Cyberakteure” das Programm, um weltweit Angriffe auszuführen: „Das Framework ermöglicht es Angreifern mit minimalen technischen Kenntnissen, komplexe Operationen gegen mehrere Ziele gleichzeitig durchzuführen, wodurch die Angriffsgeschwindigkeit erheblich gesteigert und der operative Umfang erweitert wird.“

Auch Google veröffentlichte am Montag eine Warnung, die zwar nicht mit den aktuellen Fällen zu tun hat, aber doch die offenbar durch KI zunehmende Gefährdungslage. Es sei das „Zeitalter der autonomen Angriffe angebrochen“. Akteure würden nun zunehmend autonome LLMs benutzen, um „permanent nach Software-Updates zu suchen, herauszufinden, welche Schwachstelle behoben wurde, und einen entsprechenden Angriff zu entwickeln – und das alles ohne menschliche Mitwirkung.“ Die Angreifer würden meist keine ganz neue Methoden verwenden, aber es sei jetzt notwendig, wirbt Google für seine Produkte, auf eine auf KI-Agenten beruhende Verteidigung umzustellen, weil eine „Verteidigung gegen Angriffe in Maschinengeschwindigkeit“ nicht mehr möglich sei.

Inzwischen wird doch auch verstärkt vermutet, dass KI eine zumindest indirekte Rolle bei den Ausfällen spielt. Vertreter der Wall Street und der National Security Agency sollen, so berichtet die Washington Sun, dem Kongress bereits gesagt haben, dass die Ausfälle von Systemupdates ausgelöst worden seien, die eigentlich einen Schutz vor künftigen Angriffen mit KI gewährleisten sollten. Offenbar geht bei Unternehmen die Angst vor KI um, dass sie ihre Systeme mit Abwehrmaßnahmen überlasten, die auch KI enthalten. „Diese Modelle decken massive Sicherheitslücken auf, was die Dringlichkeit erhöht, sofort Patches zu installieren“, sagte ein Kongressmitarbeiter. „Sie versuchen, eine Vielzahl von Patches auf einmal aufzusetzen – worauf das System eigentlich nicht ausgelegt ist.“

Heimatschutzminister Markwayne Mullin hat am Dienstag ähnliche Vermutungen geäußert. Man setze „neue Technologie“, also KI, „auf wirklich veraltete Computersysteme“ auf. Das führe zur Überlastung. „Ich kann Ihnen mit 98-prozentiger Sicherheit sagen, dass es sich hierbei nicht um einen Cyberangriff handelt“, versicherte er. Gegenüber Foxnews hatte er bereits bekundet: „Ich glaube, dass es die KI ist.“

Allerdings versucht die US-Regierung ansonsten, KI außen vor zu halten, aber auch abzuwehren, dass es sich um Cyberangriffe handeln könnte, was bedeuten würde, dass die USA wenig geschützt wären. Auf jeden Fall steckt man in einem von der KI-Entwicklung angestoßenen Rüstungswettlauf, die Computersysteme vor KI-gestützten Angriffen mit KI-Systemen zu schützen. Das Risiko wird steigen, wenn die KI-Systeme immer besser werden.

Gary Marcus, ein Kognitionswissenschaftler und bekannter KI-Kritiker,  schrieb am Dienst: „Wacht auf! Amerikas Infrastruktur bröckelt. Und die KI scheint dafür mitverantwortlich zu sein.“ Er vermutet, dass die zunehmenden Ausfälle und Abstürze auf drei Ursachen zurückgehen könnten, die alle mit KI zu tun haben. Erstens könnte es sich um Vibe-Coding handeln, also dass von Menschen mit zu wenig Erfahrung geschaffene Software fehlerhaft ist. Das wird freilich auch der mit KI generierten Software nachgesagt. Zweitens könnten KI-Agenten am Werk sein, die Internetzugang haben, aber Befehlen schlecht gehorchen. Und es könnten staatliche oder kriminelle Akteure schauen, was mit KI alles möglich ist, wobei die Angreifer möglicherweise den Verteidigern überlegen sind. Er wisse nicht, ob eher Inkompetenz oder böse Absichten eine größere Rolle spielen.

Florian Rötzer

Florian Rötzer, geboren 1953, war Gründer des Online-Magazins Telepolis und von 1996 bis 2020 dessen Chefredakteur. Seit 2022 ist er Redakteur beim Overton Magazin. Er ist Autor mehrerer Bücher, zuletzt In der Wüste der Gegenwart, das er zusammen mit Moshe Zuckermann geschrieben hat.
Mehr Beiträge von Florian Rötzer →

Ähnliche Beiträge:

Schreibe einen Kommentar

Bitte beachten Sie unsere Kommentarregeln : Bleiben Sie sachlich, respektvoll und beim Thema. Wir behalten uns vor, insbesondere Kommentare zu entfernen, die Beleidigungen, Spam oder persönliche Angriffe enthalten.

Pro Beitrag sind maximal 5 Kommentare (inklusive Antworten auf andere Kommentare) zulässig.

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Bitte schreiben Sie mindestens 100 und höchstens 10000 Zeichen.

0 / 10000 Zeichen