Henna Virkkunen fordert KI-Unternehmen auf, Tests und menschliche Aufsicht zu stärken
Die Europäische Union hat gewarnt, dass der zunehmende globale Wettbewerb im Bereich der künstlichen Intelligenz die Bemühungen untergraben könnte, die Sicherheit und Zuverlässigkeit fortschrittlicher KI-Systeme zu gewährleisten, und fordert die Entwickler auf, die effektive Kontrolle über ihre Technologien aufrechtzuerhalten, während deren Fähigkeiten weiter wachsen.
Henna Virkkunen, die Exekutiv-Vizepräsidentin der Europäischen Kommission für technologische Souveränität, Sicherheit und Demokratie sowie die Leiterin der digitalen Politik, äußerte diese Besorgnis am Mittwoch während eines internationalen KI-Gipfels in Dublin. Sie argumentierte, dass der Druck zum Wettbewerb die Unternehmen möglicherweise mit unzureichender Zeit und Ressourcen zurücklässt, um ihre Modelle vor der Einführung zu testen.
Die Warnung erfolgt, da zunehmend ausgeklügelte KI-Systeme neue Herausforderungen für Entwickler und Regulierungsbehörden mit sich bringen, insbesondere wenn autonome Agenten Aktionen durchführen können, die für ihre Betreiber schwer vorhersehbar oder zu überwachen sind.
Wachsende Fähigkeiten werfen neue Sicherheitsbedenken auf
Virkkunen sagte, Berichte über Vorfälle mit KI-Agenten hätten Situationen hervorgehoben, in denen Unternehmen nicht vollständig wussten, was ihre Systeme taten. Sie betonte, dass Entwickler die Fähigkeit behalten müssen, das Verhalten ihrer Technologien zu verstehen und zu kontrollieren.
Da KI-Modelle leistungsfähiger werden, wird es auch komplizierter, ihre Leistung zu bewerten und potenzielle Risiken zu identifizieren. Laut der offiziellen der Europäischen Kommission macht dies umfassende Tests und unabhängige Expertenbewertungen zu wesentlichen Bestandteilen einer verantwortungsvollen Entwicklung.
Ihre Äußerungen weisen auf ein wachsendes regulatorisches Anliegen hin: Die Geschwindigkeit, mit der KI-Produkte entwickelt und eingeführt werden, könnte die Zeit übersteigen, die erforderlich ist, um festzustellen, ob sie unter einer Vielzahl von Bedingungen sicher funktionieren.
Für die Regulierungsbehörden besteht die Herausforderung nicht nur darin, Innovationen zu fördern, sondern auch sicherzustellen, dass Unternehmen ein angemessenes Verständnis ihrer Systeme nachweisen können, bevor diese Technologien weit verbreitet eingesetzt werden.
Brüssel verstärkt die Kontrolle über KI-Entwickler
Die Europäische Kommission hat bereits begonnen, von großen KI-Unternehmen weitere Informationen über die Sicherheitsvorkehrungen zu verlangen, die sie eingeführt haben. Laut Virkkunen betreffen die Anfragen Sicherheitsmaßnahmen, Sicherheitsvorkehrungen und Verfahren für externe Bewertungen.
Die Initiative ist Teil der umfassenderen Bemühungen der EU, KI-Entwickler für die Systeme, die sie bauen und einsetzen, verantwortlicher zu machen.
Im Rahmen des EU-Gesetzes über künstliche Intelligenz hat der Block einen regulatorischen Rahmen geschaffen, der darauf abzielt, Risiken im Zusammenhang mit KI-Anwendungen zu adressieren. Die Gesetzgebung bietet auch eine Grundlage für die Überprüfung von Themen, die über die technische Sicherheit hinausgehen, einschließlich der Einhaltung von Urheberrechtsvorschriften.
Virkkunen betonte, dass die Aufrechterhaltung der Kontrolle über KI-Systeme eine ausdrückliche Anforderung unter der Gesetzgebung ist und die Position der Kommission verstärkt, dass technologischer Fortschritt von effektiven Sicherheitsvorkehrungen begleitet werden muss.
Innovation mit Verantwortung in Einklang bringen
Die Bedenken der EU spiegeln ein schwieriges Gleichgewicht wider, mit dem sich politische Entscheidungsträger und die Technologiebranche konfrontiert sehen. Unternehmen konkurrieren international um die Entwicklung immer leistungsfähigerer Modelle, während Regierungen Sicherheiten suchen, dass diese Systeme handhabbar, zuverlässig und konform mit den geltenden Regeln bleiben.
Unzureichende Tests könnten es erschweren, Schwachstellen vor der Einführung zu identifizieren, insbesondere in Systemen, die darauf ausgelegt sind, Aufgaben mit begrenztem direkten menschlichen Eingreifen auszuführen. Unabhängige Bewertungen können helfen, Schwächen zu identifizieren, die interne Tests möglicherweise übersehen, obwohl ihre Wirksamkeit von dem Zugang zu den Systemen und der Qualität des Bewertungsprozesses abhängt.
Die Anfragen der Kommission nach Informationen signalisieren einen stärkeren Fokus darauf, wie KI-Unternehmen diese Risiken in der Praxis bewerten und managen, anstatt sich ausschließlich auf ihre erklärten Verpflichtungen zur Sicherheit zu verlassen.
Mit dem Fortschritt der KI-Fähigkeiten stellt sich für die europäischen Regulierungsbehörden die zentrale Frage, ob Entwickler eine sinnvolle menschliche Aufsicht aufrechterhalten können, während sie weiterhin mit dem Tempo innovieren, das der globale Wettbewerb verlangt.
Brüssel macht deutlich, dass im Rahmen ihres regulatorischen Ansatzes Wettbewerbsfähigkeit nicht die Verantwortung ersetzen kann, zunehmend leistungsfähige KI-Systeme zu verstehen, zu testen und zu kontrollieren.
-
21:30
-
20:50
-
20:32
-
20:15
-
20:15
-
20:00
-
19:45
-
19:30
-
19:00
-
18:35
-
18:15
-
18:00
-
17:45
-
17:30
-
17:15
-
16:45
-
16:32
-
16:15
-
16:00
-
15:45
-
15:43
-
14:45
-
14:33
-
14:15
-
14:00
-
13:30
-
13:13
-
12:50
-
12:30
-
12:15
-
12:12
-
11:50
-
11:32
-
11:26
-
11:15
-
11:10
-
11:00
-
10:42
-
10:25
-
10:23
-
10:15
-
10:10
-
09:47
-
09:32
-
09:30
-
09:15
-
08:47
-
08:45
-
08:41
-
08:32
-
08:15
-
07:15
-
00:00
-
23:42
-
23:23
-
23:00
-
22:59
-
22:40
-
22:21
-
22:05
