Indonesien blockiert vorübergehend den Zugang zu Grok wegen sexualisierter Bilder

Saturday 10 January 2026 - 12:47

Indonesien hat am Samstag (10. Januar) den Chatbot Grok von Elon Musk aufgrund des Risikos von KI-generierten pornografischen Inhalten vorübergehend gesperrt und ist damit das erste Land, das den Zugang zu diesem KI-Tool verweigert.

Dieser Schritt erfolgte, nachdem Regierungen und Aufsichtsbehörden von Europa bis Asien sexualisierte Inhalte in der App verurteilt und teilweise Untersuchungen eingeleitet hatten.

xAI, das Startup hinter Grok, gab am Donnerstag bekannt, die Bildgenerierung und -bearbeitung auf zahlende Abonnenten zu beschränken, um Sicherheitslücken zu schließen, die sexualisierte Inhalte, darunter Darstellungen spärlich bekleideter Kinder, ermöglicht hatten.

„Die Regierung betrachtet die Praxis nicht einvernehmlicher sexueller Deepfakes als eine schwere Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum“, erklärte Kommunikations- und Digitalminister Meutya Hafid in einer Stellungnahme.

Das Ministerium hat auch Vertreter von X zu einem Gespräch über die Angelegenheit einbestellt.

Musk erklärte auf X, dass jeder, der Grok zur Erstellung illegaler Inhalte nutze, dieselben Konsequenzen zu tragen habe, als hätte er illegale Inhalte hochgeladen.

xAI antwortete auf eine Anfrage von Reuters mit einer offenbar automatisierten Antwort: „Die etablierten Medien lügen.“ X reagierte nicht umgehend auf eine Anfrage nach einer Stellungnahme.

Indonesien, das Land mit der größten muslimischen Bevölkerung weltweit, hat strenge Gesetze, die die Online-Verbreitung von als obszön geltenden Inhalten verbieten.