China schlägt strengere Regeln für emotional interaktive KI-Dienste vor

Monday 29 December 2025 - 15:30

Die chinesische Cybersicherheitsbehörde hat am Samstag einen Entwurf für neue Regeln zur öffentlichen Kommentierung veröffentlicht. Dieser sieht eine verschärfte Aufsicht über KI-Dienste vor, die menschliche Persönlichkeiten simulieren und Nutzer emotional ansprechen sollen.

Der Schritt unterstreicht Pekings Bestreben, die rasante Verbreitung von KI für Endverbraucher durch strengere Sicherheits- und Ethikanforderungen zu steuern.

Die vorgeschlagenen Regeln gelten für KI-Produkte und -Dienste, die in China öffentlich angeboten werden und simulierte menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile aufweisen sowie emotional über Text, Bilder, Audio, Video oder andere Mittel mit Nutzern interagieren.

Der Entwurf sieht einen Regulierungsansatz vor, der Anbieter verpflichtet, Nutzer vor übermäßiger Nutzung zu warnen und bei Anzeichen einer Sucht einzugreifen.

Dem Vorschlag zufolge müssen Dienstanbieter während des gesamten Produktlebenszyklus Sicherheitsverantwortung übernehmen und Systeme zur Algorithmenprüfung, Datensicherheit und zum Schutz personenbezogener Daten einrichten.

Der Entwurf zielt auch auf potenzielle psychologische Risiken ab. Anbieter sollen den Zustand ihrer Nutzer erfassen und deren Emotionen sowie deren Abhängigkeit vom Dienst bewerten. Sollten Nutzer extreme Emotionen oder Suchtverhalten zeigen, müssen Anbieter die notwendigen Maßnahmen ergreifen.

Die Maßnahmen legen klare Grenzen für Inhalte und Verhalten fest. Dienste dürfen demnach keine Inhalte generieren, die die nationale Sicherheit gefährden, Gerüchte verbreiten oder Gewalt und Obszönitäten fördern.