Nvidia stellt neue Sicherheitslage vor, um Schutzmaßnahmen für KI-Agenten zu stärken

Monday 28 September 2026 - 17:17

Nvidia hat eine Open-Source-Sicherheitsplattform eingeführt, die Entwicklern und Unternehmen mehr Kontrolle über autonome künstliche Intelligenz-Agenten geben soll, da diese Systeme zunehmend in der Lage sind, Aufgaben in Software-, Netzwerk- und Unternehmensumgebungen auszuführen.

Die Initiative, bekannt als NVIDIA OpenShell, zielt darauf ab, Sicherheitskontrollen um einen KI-Agenten zu platzieren, anstatt sich ausschließlich auf die im Modell selbst eingebauten Schutzmaßnahmen zu verlassen. Das Unternehmen beschreibt OpenShell als eine sichere Laufzeitumgebung, die es autonomen Agenten ermöglicht, in isolierten Umgebungen mit expliziten Richtlinien zu operieren, die regeln, auf was sie zugreifen und was sie ausführen können.

Die Entwicklung erfolgt, während KI-Agenten über das Generieren von Text und das Beantworten von Fragen hinausgehen. Moderne Agenten können Dateien lesen, externe Werkzeuge verwenden, Code ausführen, mit Anwendungen interagieren und auf Geschäftssysteme zugreifen, was neue Sicherheitsherausforderungen schafft, wenn ihnen dauerhafte Berechtigungen oder Zugang zu sensiblen Ressourcen gewährt werden.

OpenShell adressiert diese Risiken durch Sandboxing und richtlinienbasierte Kontrollen, die mehrere Teile der Betriebsumgebung eines Agenten abdecken. Laut Nvidia kann das System den Zugriff auf Dateien, Netzwerkverbindungen und Prozesse einschränken, während es einen Prüfpfad für erlaubte und blockierte Aktionen aufrechterhält.

Eines der zentralen Prinzipien hinter der Plattform besteht darin, kritische Sicherheitskontrollen außerhalb des KI-Agenten selbst zu halten. Das bedeutet, dass selbst wenn sich ein Agent unerwartet verhält oder seine internen Schutzmaßnahmen umgangen werden, die durch die umgebende Laufzeit auferlegten Einschränkungen weiterhin begrenzen können, was er tun kann.

Die Plattform kann auch die Netzwerkaktivität regulieren und verhindern, dass Agenten unbefugte Ziele erreichen. Kontrollen auf Dateisystemebene sind darauf ausgelegt, den Zugriff auf deklarierte Standorte einzuschränken, während Schutzmaßnahmen auf Prozessebene Versuche blockieren können, zusätzliche Berechtigungen zu erlangen oder potenziell gefährliche Operationen auszuführen.

Nvidia hat argumentiert, dass dieser Ansatz besonders relevant für langfristig laufende autonome Systeme ist. Im Gegensatz zu herkömmlichen Chatbots können Agenten über längere Zeiträume operieren, mehrere Werkzeuge verwenden und mit externen Diensten interagieren, was die potenziellen Folgen eines kompromittierten oder falsch konfigurierten Systems erhöht.

OpenShell ist Teil von Nvidias umfassenderem Bemühen, Infrastruktur für autonome KI aufzubauen. Das Unternehmen hat auch NemoClaw entwickelt, das Agentenbereitstellungstools mit den Sandbox- und Richtlinienkontrollen von OpenShell kombiniert. Jüngste Updates haben das Lebenszyklusmanagement, Netzwerkrichtlinien, Credential-Schutz und Überwachungsfähigkeiten erweitert.

Das Aufkommen einer speziellen Agentensicherheitsinfrastruktur spiegelt einen breiteren Wandel in der KI-Branche wider. Während Unternehmen mit Systemen experimentieren, die in der Lage sind, mehrstufige Aufgaben mit begrenzter menschlicher Aufsicht auszuführen, wird die Kontrolle über Berechtigungen, Anmeldeinformationen und den Zugriff auf Unternehmensdaten zu einem wichtigen Bestandteil von Bereitstellungsstrategien.

Für Unternehmen besteht die Herausforderung darin, KI-Agenten genügend Zugang zu gewähren, um nützliche Arbeiten zu leisten, ohne ihnen uneingeschränkte Kontrolle über sensible Systeme zu geben. Nvidias Ansatz zielt darauf ab, dieses Gleichgewicht zu erreichen, indem die Fähigkeiten des Agenten von den Sicherheitsgrenzen getrennt werden, die durch die Umgebung, in der er arbeitet, auferlegt werden.

Der wachsende Fokus auf die Sicherheit von Agenten hebt auch hervor, wie sich die Risiken im Zusammenhang mit künstlicher Intelligenz verändern. Während KI-Systeme die Fähigkeit gewinnen, Aktionen zu ergreifen, anstatt nur Informationen bereitzustellen, kann der Schutz der umgebenden Infrastruktur ebenso wichtig werden wie die Bewertung des Modells selbst. OpenShell stellt einen Versuch dar, diese zusätzliche Schutzschicht in die Architektur zu integrieren, die für die Bereitstellung autonomer Agenten verwendet wird.