Vereinigte Staaten: OpenAI unter Untersuchung zum Schutz der ChatGPT-Nutzer

Saturday 13 June 2026 - 07:19

Die Regulierung von Technologien der künstlichen Intelligenz erreicht in den Vereinigten Staaten eine neue Stufe. OpenAI, das Unternehmen hinter ChatGPT, sieht sich nun einer Anfrage nach Informationen von einer Koalition von Generalstaatsanwälten mehrerer amerikanischer Bundesstaaten gegenüber. Im Mittelpunkt ihrer Bedenken stehen insbesondere die Schutzmechanismen, die für die verletzlichsten Nutzer, insbesondere Minderjährige und ältere Menschen, eingerichtet wurden.

Laut mehreren amerikanischen Medien wird diese Initiative von der Generalstaatsanwältin des Bundesstaates New York, Letitia James, geleitet, die im Namen mehrerer Jurisdiktionen handelt, die eine umfassende Prüfung der Praktiken des Unternehmens für generative künstliche Intelligenz durchführen.

Die Sicherheit sensibler Gruppen im Fokus der Fragen

Die Behörden versuchen insbesondere, besser zu verstehen, wie die Daten, die mit der Nutzung von ChatGPT verbunden sind, gesammelt, verarbeitet und geschützt werden. Die Fragen beziehen sich auch auf die Präventionsmaßnahmen, die darauf abzielen, potenzielle Risiken für junge Internetnutzer und Personen zu begrenzen, die möglicherweise stärker gefährdet sind, problematischen Nutzungen von KI-basierten Konversationswerkzeugen ausgesetzt zu sein.

Im Angesicht dieser Initiative hat OpenAI erklärt, die Bedenken der amerikanischen Staatsanwälte ernst zu nehmen. Das Unternehmen gibt an, bereit zu sein, mit den Behörden zusammenzuarbeiten, um auf die Informationsanfragen zu reagieren und die bereits umgesetzten Sicherheitsmaßnahmen zu erläutern.

Die Gruppe betont insbesondere, dass sie in den letzten Monaten ihre Schutzmechanismen für minderjährige Nutzer sowie für Personen, die Anzeichen von psychologischen Schwierigkeiten während ihrer Interaktionen mit ihren Diensten zeigen, verstärkt hat.

Wachsender regulatorischer Druck

Diese Untersuchung findet in einem Kontext erhöhten Wachsamkeit der amerikanischen Behörden gegenüber den Akteuren der künstlichen Intelligenz statt. Während diese Technologien in vielen Sektoren schnell angenommen werden, gewinnen Fragen zum Schutz der Nutzer, zur Zuverlässigkeit der generierten Inhalte und zur Verantwortung der Plattformen zunehmend an Bedeutung in der öffentlichen Debatte.

Anfang Juni hatte der Generalstaatsanwalt von Florida bereits ein Verfahren gegen OpenAI und dessen Geschäftsführer, Sam Altman, wegen Bedenken hinsichtlich der Sicherheit junger Nutzer eingeleitet.

Parallel dazu haben mehrere amerikanische Familien rechtliche Schritte gegen bestimmte Plattformen der konversationalen künstlichen Intelligenz unternommen, da sie der Meinung sind, dass ihre Angehörigen problematischen Interaktionen ausgesetzt waren. Diese Verfahren haben dazu beigetragen, die Aufmerksamkeit auf die Sicherheitsvorkehrungen zu verstärken, die von den Unternehmen in diesem Sektor getroffen werden.

Technologiegiganten aufgefordert, ihre Kontrollen zu verstärken

Der Druck betrifft nicht nur OpenAI. Ende letzten Jahres hatte eine Koalition von Staatsanwälten aus 42 Bundesstaaten und Territorien eine gemeinsame Anfrage an mehrere große Technologieunternehmen gerichtet, um sie zu drängen, die Kontrollverfahren und Sicherheitsmechanismen, die in ihre Modelle der künstlichen Intelligenz integriert sind, zu verstärken.

Diese neue Initiative bestätigt das Aufkommen eines strukturierteren Überwachungsrahmens für generative KI. Während konversationale Werkzeuge weiterhin beim breiten Publikum an Boden gewinnen, versuchen die Behörden, technologische Innovation mit dem Schutz der verletzlichsten Nutzer in Einklang zu bringen.

Die laufende Untersuchung könnte somit dazu beitragen, neue regulatorische Erwartungen für die gesamte Branche der künstlichen Intelligenz in den Vereinigten Staaten zu definieren.