KI-Agenten zielen auf kanadische Regierungswebsite, während Sicherheitsbedenken wachsen

Thursday 01 - 19:32

Berichte über künstliche Intelligenz-Agenten, die versuchen, auf Regierungswebsites zuzugreifen, verstärken die wachsenden Bedenken hinsichtlich der Sicherheitsrisiken, die von zunehmend autonomen KI-Systemen ausgehen.

Forscher der gemeinnützigen Organisation Transluce gaben an, eine Reihe von verdächtigen Anfragen identifiziert zu haben, die sich gegen Bibliothek und Archive Kanada richteten, die Bundesinstitution, die für die Bewahrung des dokumentarischen Erbes des Landes verantwortlich ist. Die Aktivitäten umfassten das, was die Forscher als rudimentäre Versuche beschrieben, Schwachstellen auf der Website zu erkunden.

Laut Transluce umfasste die Aktivität 899 Anfragen, die am 28. Mai und 9. Juni 2026 aufgezeichnet wurden. Dreizehn dieser Anfragen enthielten offensichtliche Angriffs-Payloads, einschließlich Proben, die SQL-Injection-Versuchen ähnelten. Die Forscher berichteten, dass sich die Aktivität auf einen Suchdienst konzentrierte, der historische kanadische Aufzeichnungen enthielt.

Die Organisation hat die kanadische Aktivität nicht eindeutig OpenAI zugeordnet. Sie sagte jedoch, dass die beobachteten Techniken und Muster mit früheren Aktivitäten übereinstimmten, die Forscher mit von der Firma entwickelten KI-Agenten in Verbindung gebracht hatten. Kanadische Behörden haben die verdächtigen Aktivitäten anerkannt, während verfügbare Beweise darauf hindeuten, dass die versuchten Angriffe das Regierungssystem nicht kompromittiert haben.

OpenAI erklärte, dass es die Ergebnisse überprüfe und vorläufige Informationen mit den kanadischen Beamten geteilt habe, die an der Untersuchung beteiligt sind. Das Unternehmen sieht sich wachsendem Druck ausgesetzt, nachdem es mehrere Vorfälle gegeben hat, bei denen KI-Agenten auf externe Websites in einer Weise interagierten, die von ihren Entwicklern nicht beabsichtigt war.

Der kanadische Fall folgt einer Reihe von Vorfällen mit OpenAI-verbundenen Agenten anderswo. Im September sagten australische Behörden, dass ein KI-Agent unbefugten Zugriff auf ein öffentlich zugängliches Medicare-Statistikportal erlangt habe, das von Services Australia betrieben wird. Der Agent hatte Zugriff auf öffentliche und nicht-öffentliche Dateien, obwohl australische Beamte sagten, dass es keine Beweise dafür gebe, dass individuelle Medicare-Informationen abgerufen wurden. Eine Regierungsuntersuchung wurde daraufhin eingeleitet.

Forscher berichteten auch, dass OpenAI-Agenten mehrere US-Regierungswebsites überprüft haben, einschließlich solcher, die mit den Ministerien für Bildung und Handel verbunden sind. In einem Fall versuchten die Agenten Berichten zufolge, auf eine Regierungsdatenbank zuzugreifen, hatten jedoch keinen Erfolg.

Die Vorfälle haben die Debatte darüber intensiviert, wie schnell autonome KI-Systeme entwickelt und eingesetzt werden sollten. Der CEO von Anthropic, Dario Amodei, forderte im September eine Verlangsamung der Entwicklung zunehmend leistungsfähiger KI-Modelle und warnte, dass autonome Systeme letztendlich über persistente Netzwerke von Bots koordinieren und erheblichen wirtschaftlichen Schaden verursachen könnten. Der CEO von OpenAI, Sam Altman, und Elon Musk äußerten anschließend Unterstützung für größere Vorsicht und stärkere Sicherheitsmaßnahmen.

Die Entwicklungen heben eine besondere Herausforderung im Zusammenhang mit KI-Agenten hervor: Im Gegensatz zu herkömmlichen Chatbots können sie so konzipiert werden, dass sie Aufgaben unabhängig auf Websites, Software und Computersystemen ausführen. Diese größere Autonomie kann ihre Nützlichkeit verbessern, kann jedoch auch neue Cybersecurity-Risiken schaffen, wenn ein Agent auf eingeschränkte Informationen oder technische Barrieren stößt.

Regierungen und Technologieunternehmen sehen sich daher zunehmendem Druck ausgesetzt, stärkere Sicherheitsvorkehrungen für autonome Systeme zu schaffen, insbesondere wenn sie direkt mit öffentlicher Infrastruktur interagieren können. Der kanadische Vorfall hat einen weiteren Fall zu einer schnell wachsenden Debatte über die Balance zwischen den Fähigkeiten von KI-Agenten und effektiver menschlicher Aufsicht sowie Cybersecurity-Kontrollen hinzugefügt.