Google warnt vor zunehmenden KI-gestützten Cyberangriffen

Friday 15 - 17:30

Google warnt vor einer Zunahme KI-gestützter Cyberangriffe, nachdem ein Versuch zur Ausnutzung einer bisher unbekannten Sicherheitslücke entdeckt wurde, die möglicherweise mithilfe fortschrittlicher KI-Technologien entwickelt wurde.

Laut dem US-amerikanischen Unternehmen versuchten Angreifer, eine Schwachstelle auszunutzen, die die Umgehung von Zwei-Faktor-Authentifizierungssystemen in einem weit verbreiteten Tool zur Verwaltung von Online-Diensten ermöglicht hätte. Dank der Zusammenarbeit zwischen Google und dem betroffenen Anbieter konnte die Schwachstelle jedoch schnell identifiziert und behoben werden, wodurch eine potenziell groß angelegte Cyberangriffskampagne verhindert wurde.

Diese Warnung basiert auf einem Bericht der Google Threat Intelligence Group, der einen zunehmenden Einsatz von generativer künstlicher Intelligenz durch Cyberkriminelle sowie staatlich geförderte Gruppen beobachtet. KI-Tools werden Berichten zufolge mittlerweile in mehreren sensiblen Bereichen eingesetzt, darunter Malware-Entwicklung, Identifizierung von Sicherheitslücken, automatisierte Phishing-Kampagnen und ausgeklügelte Cyberangriffe.

Der Bericht betont, dass die angegriffene Schwachstelle nicht auf einem typischen Programmierfehler, sondern auf einem „semantischen Logikfehler“ im Systemdesign beruhte. Diese Art von Schwachstelle ist mit herkömmlichen Methoden besonders schwer zu erkennen. Google ist überzeugt, dass moderne KI-Modelle dank ihres kontextbezogenen Verständnisses der Softwarefunktionen zunehmend in der Lage sind, diese komplexen Schwachstellen zu identifizieren.

Die Forscher von GTIG weisen zudem darauf hin, dass sie mehrere Indikatoren gefunden haben, die darauf hindeuten, dass der Exploit-Code mithilfe eines KI-Systems generiert wurde. Dazu gehören ungewöhnliche Anleitungen, Anomalien in der Sicherheitsrisikobewertung und eine hochgradig organisierte Codestruktur, die an Datensätze erinnert, die zum Trainieren von Machine-Learning-Modellen verwendet werden.

Dem Bericht zufolge planten die Angreifer, diese Schwachstelle in einer größeren Operation auszunutzen, um die starke Authentifizierung zu umgehen und nach dem Diebstahl von Anmeldedaten unbefugten Zugriff auf verschiedene Benutzerkonten zu erlangen.

Das Dokument erwähnt auch das Auftreten autonomerer Malware, die direkt mit digitalen Geräten interagieren kann. Ein auf Android identifiziertes Programm namens PROMPTSPY kann Berichten zufolge mithilfe von KI-Schnittstellen den Smartphone-Bildschirm analysieren und automatisch Aktionen wie Scrollen, Klicken oder die Eingabe von Authentifizierungscodes ausführen.

Angesichts dieser sich ständig weiterentwickelnden Bedrohungslandschaft beschleunigt Google nach eigenen Angaben die Entwicklung KI-gestützter Verteidigungswerkzeuge. Das Unternehmen arbeitet an Systemen wie Big Sleep und CodeMender, die Sicherheitslücken automatisch erkennen und Patches bereitstellen, bevor diese von Angreifern ausgenutzt werden können.

Diese aktuelle Warnung verdeutlicht den rasanten Wandel der globalen Cybersicherheitslandschaft, in der künstliche Intelligenz (KI) sowohl für Verteidiger als auch für Cyberkriminelle zu einem strategischen Werkzeug wird.