UN-Menschenrechtskommissar warnt, dass fortschrittliche KI die Zukunft der Menschheit bedrohen könnte

Tuesday 08 September 2026 - 08:27

Der UN-Hochkommissar für Menschenrechte, Volker Türk, hat gewarnt, dass zunehmend fortschrittliche künstliche Intelligenz ernsthafte Risiken für die Menschheit darstellen könnte und fordert stärkere Schutzmaßnahmen, bevor sich die Technologie über die effektive Kontrolle hinaus entwickelt.

Bei einer Rede im UN-Menschenrechtsrat in Genf erklärte Türk, dass er die Bedenken teilt, die von Persönlichkeiten aus dem Technologiesektor hinsichtlich der potenziellen Gefahren fortschrittlicher KI geäußert wurden. Er deutete auch an, dass er in den kommenden Tagen mit Unternehmen, die an der Entwicklung der Technologie beteiligt sind, in Kontakt treten und sie auffordern will, umgehend Maßnahmen zur Verringerung potenzieller Risiken zu ergreifen.

Türk warnte, dass eine relativ kleine Anzahl von Personen und Unternehmen derzeit über das, was er als nahezu unbegrenzten Einfluss auf die Richtung der KI-Entwicklung bezeichnete, verfügt. Obwohl er keine spezifischen Organisationen nannte, umfasst die globale KI-Industrie große Unternehmen wie Meta, Anthropic, OpenAI und Google.

Der UN-Menschenrechtskommissar forderte die Länder, die KI-Unternehmen beherbergen, sowie diejenigen, die an den Lieferketten der Technologie beteiligt sind, auf, klare "rote Linien" für die Entwicklung und Nutzung zunehmend leistungsfähiger KI-Systeme festzulegen. Er plädierte auch für unabhängige Verifizierungsmechanismen und eine stärkere Zusammenarbeit zwischen Unternehmen in Bezug auf die Sicherheit von KI.

Seine Kommentare erfolgen vor dem Hintergrund wachsender internationaler Forderungen nach koordinierten Regeln für die künstliche Intelligenz. Über Fragen der technologischen Sicherheit hinaus prüfen politische Entscheidungsträger und internationale Organisationen zunehmend die potenziellen Auswirkungen von KI auf Menschenrechte, Beschäftigung, Demokratie und Umwelt.

Türks Warnung unterstreicht die wachsende Debatte darüber, wie Regierungen und Technologieunternehmen die KI-Innovation fördern können, während sichergestellt wird, dass zunehmend leistungsfähige Systeme weiterhin einer sinnvollen menschlichen Aufsicht und Verantwortung unterliegen.