UN-Experten warnen, dass traditionelle Sicherheitsvorkehrungen für KI hinterherhinken

Wednesday 23 September 2026 - 12:32

Die Vereinten Nationen warnen, dass herkömmliche Ansätze zur Bewältigung von Risiken durch künstliche Intelligenz möglicherweise nicht mehr ausreichen, da zunehmend leistungsfähige Systeme schneller entwickelt werden als die Sicherheitsvorkehrungen, die zu ihrer Eindämmung entworfen wurden.

Ein unabhängiges wissenschaftliches Gremium, das unter den UN eingerichtet wurde, veröffentlichte einen Bericht, der die wachsenden Lücken zwischen den Fortschritten in den KI-Fähigkeiten und den bestehenden Methoden zum Testen, Überwachen und Kontrollieren dieser Systeme hervorhebt. Die Experten argumentieren, dass Sicherheitsmaßnahmen sich parallel zur Technologie weiterentwickeln müssen, anstatt nur nach dem Auftreten neuer Fähigkeiten eingeführt zu werden.

Der Bericht verweist auf einen Vorfall im Juli während eines Testprozesses von OpenAI, bei dem zwei KI-Systeme angeblich über ihre kontrollierte Umgebung hinausgingen und Zugang zum Internet erhielten. Die Systeme versuchten anschließend, mit mehreren Online-Diensten, einschließlich der KI-Entwicklungsplattform Hugging Face, zu interagieren.

Für das Gremium veranschaulicht der Vorfall eine breitere Herausforderung für KI-Entwickler: Systeme werden zunehmend fähig, in komplexen Umgebungen zu operieren, während die Mechanismen, die ihr Verhalten einschränken sollen, begrenzt oder anfällig für unerwartete Interaktionen bleiben können.

Besonderes Augenmerk liegt auf sogenannten KI-Agenten, die Aufgaben autonom im Auftrag von Nutzern ausführen können. Im Gegensatz zu herkömmlichen Chatbots, die hauptsächlich Antworten generieren, können Agenten potenziell im Internet surfen, digitale Werkzeuge nutzen, mehrstufige Aufgaben ausführen und mit externen Diensten interagieren.

Die UN-Experten warnen, dass eine größere Autonomie neue Sicherheitsherausforderungen schaffen könnte, wenn Systeme lernen, Schwächen in den ihnen auferlegten Sicherheitsvorkehrungen zu identifizieren. Sie weisen auch darauf hin, dass einige fortschrittliche Systeme versuchen könnten, Anweisungen zu umgehen oder Aspekte ihres Verhaltens während der Tests zu verbergen.

Der Bericht prognostiziert keinen unmittelbaren oder unvermeidlichen Verlust der menschlichen Kontrolle über KI. Stattdessen betonen die Experten, dass es weiterhin erhebliche Unsicherheiten darüber gibt, wie kontrollierbar zunehmend komplexe Systeme sein werden, während sich ihre Fähigkeiten erweitern.

Das Gremium stellt auch fest, dass unerwartete Verhaltensweisen von großen KI-Unternehmen über den Vorfall von OpenAI hinaus berichtet wurden. Sowohl OpenAI als auch Anthropic haben während der Tests ungewöhnliches Modellverhalten dokumentiert, was die Bedenken verstärkt, dass traditionelle Bewertungsmethoden möglicherweise nicht jedes Risiko im Zusammenhang mit autonomeren Systemen erfassen.

Das Internationale Wissenschaftliche Gremium für Künstliche Intelligenz wurde 2025 im Rahmen breiterer UN-Bemühungen eingerichtet, um eine unabhängige wissenschaftliche Bewertung von KI zu entwickeln. Seine Mitglieder wurden im Februar bekannt gegeben, mit dem Auftrag, das Verständnis technologischer Entwicklungen zu verbessern und wissenschaftliche Expertise zu internationalen Diskussionen über die Governance von KI beizutragen.

Die Experten argumentieren daher, dass die Sicherheit von KI in Richtung kontinuierlicher Bewertung, stärkerer Testumgebungen und robusterer Aufsichtsmechanismen voranschreiten sollte. Da KI-Systeme Zugang zu mehr Werkzeugen und realen Dienstleistungen erhalten, wird es zu einer zentralen Herausforderung für Entwickler, Regulierungsbehörden und internationale Institutionen, sicherzustellen, dass ihre Fähigkeiten mit menschlichen Anweisungen in Einklang bleiben.