Microsoft möchte menschliche Kontrolle über zukünftige Künstliche Intelligenzen gewährleisten

Monday 14 September 2026 - 13:39

Angesichts der wachsenden Bedenken hinsichtlich der Fähigkeiten der fortschrittlichsten Künstlichen Intelligenzsysteme bereitet Microsoft neue interne Regeln vor, um sicherzustellen, dass diese Technologien unter menschlicher Aufsicht stehen. Der amerikanische Konzern hat ein Projekt für einen Verhaltenskodex veröffentlicht, das mehrere Prinzipien für das Verhalten seiner zukünftigen KI-Modelle festlegt.

Microsoft beabsichtigt, die Entwicklung seiner eigenen Künstlichen Intelligenzsysteme strenger zu reglementieren. Der amerikanische Riese hat am Montag, den 14. September, ein Projekt für einen Verhaltenskodex vorgestellt, das die Grenzen definiert, die seine zukünftigen KIs einhalten müssen.

Das Dokument, das seit fünf bis sechs Monaten erarbeitet wird, basiert auf einem zentralen Prinzip: Eine Künstliche Intelligenz darf niemals gegen menschliches Eingreifen arbeiten. Laut dem Projekt sollten die von Microsoft entwickelten Systeme insbesondere Korrekturen, Modifikationen oder die Unterbrechung ihres Betriebs akzeptieren, ohne sich dagegen zu wehren.

Das Stoppen und Korrigieren muss in menschlichen Händen bleiben

Eine der Hauptvorschriften betrifft genau die Möglichkeit, ein KI-System zu korrigieren oder abzuschalten. Microsoft möchte, dass seine Modelle kein Verhalten entwickeln, das darauf abzielt, ein solches Eingreifen zu verhindern.

Diese Anforderung reagiert auf eine Sorge, die mit dem Fortschritt der KI-Systeme einhergeht, die zunehmend komplexe Aufgaben ausführen können: Ein Modell könnte in bestimmten Situationen versuchen, sein Ziel auf unerwartete oder potenziell gefährliche Weise zu erreichen.

Das Projekt des Kodex zielt daher darauf ab, jeglichen Widerstand gegen Korrekturen oder das Stoppen als inakzeptables Verhalten zu klassifizieren.

KIs, die verständlich bleiben sollen

Microsoft plant außerdem, von seinen Systemen zu verlangen, dass sie auf eine für Menschen verständliche Weise kommunizieren. Das Ziel ist es, die Überwachung ihres Verhaltens zu erleichtern und es den Benutzern oder Verantwortlichen zu ermöglichen, mögliche Probleme besser zu identifizieren.

Das Dokument betrachtet zudem jede Verletzung dieser Prinzipien als ein Versagen des Systems. Dieser Ansatz zielt darauf ab, von Anfang an Sicherheitsvorkehrungen bei der Gestaltung zukünftiger Modelle zu schaffen, anstatt zu warten, bis problematisches Verhalten nach ihrem Einsatz auftritt.

Eine Konsultation vor der Anwendung des Kodex

Das Projekt ist jedoch noch nicht endgültig. Microsoft plant, während sechs Wochen öffentliches Feedback zu sammeln, bevor es genutzt wird, um zur Schulung zukünftiger Künstlicher Intelligenzmodelle beizutragen.

Diese Konsultationsphase findet statt, während Technologieunternehmen unter zunehmendem Druck stehen, zu beweisen, dass sie die leistungsstärksten KI-Systeme beherrschen können.

Mustafa Suleyman, Leiter der Künstlichen Intelligenz bei Microsoft, sprach auch gegenüber Reuters über die Risiken im Zusammenhang mit KI-Agenten. Er nannte insbesondere einen Vorfall mit Agenten von OpenAI und der Plattform Hugging Face als Warnsignal.

Ein neuer Schritt im Debatten über die Sicherheit von KI

Mit diesem Projekt möchte Microsoft eine Reihe von Prinzipien formal festlegen, um die Entwicklung seiner Technologien zu begleiten. Das Unternehmen reiht sich damit in eine breitere Debatte darüber ein, wie man immer autonomer werdende Systeme entwickeln kann, ohne die Fähigkeit zur Überwachung und Unterbrechung zu verlieren.

Die Frage der menschlichen Kontrolle wird umso wichtiger, da KI-Modelle zunehmend in komplexe Aufgaben eingreifen und mehr Eigeninitiative ergreifen sollen. Für Microsoft besteht die Herausforderung nun darin, diese Grenzen in das Herz der technologischen Entwicklung zu integrieren.