Die britische Regierung lehnt einen Notabschaltmechanismus für gefährliche KI ab

Saturday 12 September 2026 - 10:42

Die britische Regierung hat Vorschläge abgelehnt, einen rechtlichen “Notabschaltmechanismus” zu schaffen, der es den Behörden ermöglichen würde, ein autonomes künstliches Intelligenzsystem abzuschalten, wenn es eine unmittelbare Bedrohung darstellt.

Der Vorschlag ist angesichts wachsender Bedenken über die potenziellen Risiken, die mit zunehmend leistungsfähigen KI-Systemen verbunden sind, entstanden, einschließlich Szenarien, in denen hochautonome Modelle unberechenbar handeln, von böswilligen Akteuren missbraucht werden oder schwerwiegende Störungen kritischer Infrastrukturen verursachen könnten.

Das Kabinett des Vereinigten Königreichs erklärte, die Regierung glaube nicht, dass das Land künstliche Intelligenz im Falle einer Krise einfach abschalten könnte. Die Beamten argumentierten auch, dass eine Beschränkung des Zugangs zu KI-Modellen innerhalb Großbritanniens nicht notwendigerweise deren Entwicklung, Einsatz oder Missbrauch anderswo verhindern würde.

Die Debatte intensivierte sich im Parlament, nachdem Mitglieder des House of Lords untersucht hatten, ob die Regierung ausdrücklich rechtliche Befugnisse haben sollte, einzugreifen, wenn ein KI-System gefährlich wird oder eine erhebliche Störung verursacht. Befürworter des Vorschlags argumentierten, dass die bestehenden Gesetze den Behörden möglicherweise nicht ausreichend klare Befugnisse geben, um die Abschaltung eines fortschrittlichen autonomen Systems während eines Notfalls anzuordnen.

Der liberaldemokratische Peer Timothy Clement-Jones schlug eine Änderung des Cyber Security and Resilience Bill vor, die einen rechtlichen Rahmen für das Eingreifen der Regierung schaffen würde, wenn ein Modell eine ernsthafte Bedrohung darstellt. Befürworter des Gesetzes sagen, dass ein Notabschaltmechanismus den Behörden in extremen Umständen eine zusätzliche Sicherheitsmaßnahme bieten könnte.

Die Regierung legt jedoch größeren Wert darauf, die Entwickler von KI für die Sicherheit ihrer Systeme verantwortlich zu machen. Beamte sagen, Unternehmen, die fortschrittliche Modelle entwickeln, sollten in geeignete Sicherheitsinfrastrukturen investieren, umfassende Tests durchführen und Maßnahmen ergreifen, um die mit ihren Technologien verbundenen Risiken zu verringern.

Die Regierung hat auch betont, dass die Sicherheit von KI nicht ausschließlich durch nationale Interventionen angegangen werden kann. Künstliche Intelligenzsysteme können über nationale Grenzen hinweg entwickelt und betrieben werden, was bedeutet, dass ein Abschaltmechanismus, der auf das Vereinigte Königreich beschränkt ist, erhebliche Einschränkungen hätte.

Stattdessen verfolgt Großbritannien einen langfristigen, wissenschaftlich fundierten Ansatz zur Einschätzung der aufkommenden KI-Risiken. Ein zentraler Bestandteil dieser Strategie ist die Arbeit des UK AI Security Institute, das die Fähigkeiten und potenziellen Risiken fortschrittlicher KI-Systeme untersucht und zu internationalen Diskussionen über die Sicherheit von KI beiträgt.

Die Regierung verlässt sich auch auf das Cyber Security and Resilience Bill, um die digitalen Verteidigungen des Landes zu stärken. Das Gesetz soll die Widerstandsfähigkeit wesentlicher öffentlicher und digitaler Dienstleistungen verbessern, einschließlich Infrastrukturen wie Rechenzentren, die eine zunehmend KI-abhängige Wirtschaft unterstützen.

Die Meinungsverschiedenheit spiegelt eine breitere internationale Debatte darüber wider, wie Regierungen reagieren sollten, wenn KI-Systeme erheblich autonomer werden. Während einige Experten starke Notfallinterventionsbefugnisse befürworten, warnen andere, dass ein einzelner Abschaltmechanismus technisch ineffektiv, schwer durchsetzbar und nicht in der Lage sein könnte, KI-Systeme zu adressieren, die außerhalb nationaler Zuständigkeiten operieren.

Für das Vereinigte Königreich besteht die Herausforderung daher nicht nur darin, ob die Behörden die Befugnis haben sollten, ein gefährliches KI-System zu deaktivieren, sondern auch, wie solche Befugnisse in der Praxis funktionieren könnten, ohne Innovationen zu untergraben oder kritische Technologien außerhalb einer effektiven Aufsicht zu belassen.