OpenAI stärkt die Sicherheit von Jugendlichen auf ChatGPT mit neuem Jugendschutz

Thursday 18 September 2025 - 09:43

OpenAI hat eine Reihe neuer Funktionen vorgestellt, die den Schutz von Jugendlichen bei der Nutzung von ChatGPT verbessern sollen. Zu den Neuerungen gehören Jugendschutzfunktionen, die Möglichkeit zur Identitätsprüfung und die Entwicklung automatischer Alterserkennungstools.

Nach Angaben des Unternehmens soll die Jugendschutzfunktion bis Ende des Monats eingeführt werden. Sie ermöglicht es Eltern, die Antworten des Chatbots an ihre Kinder anzupassen, bestimmte Funktionen wie den Erinnerungs- oder Gesprächsverlauf zu deaktivieren und bei psychischen Belastungen Warnmeldungen zu aktivieren. Zudem besteht die Möglichkeit, die Strafverfolgungsbehörden zu kontaktieren.

Langfristig plant OpenAI die Einführung einer Technologie zur Schätzung des tatsächlichen Alters der Nutzer, um Minderjährige zu identifizieren, die ihre Identität möglicherweise verbergen.

Im Zweifelsfall wird ChatGPT automatisch die für unter 18-Jährige geeignete Version verwenden, mit eingeschränktem Zugriff auf sensible Inhalte. In einigen Ländern kann zur Altersbestätigung ein amtlicher Ausweis erforderlich sein.

Diese Ankündigungen stoßen auf wachsende Kritik. ChatGPT wurde von mehreren Klägern vorgeworfen, gefährliches Verhalten wie Selbstverletzung oder Selbstmord nicht zu verhindern oder sogar zu fördern. OpenAI arbeitet nach eigenen Angaben an einem Update für GPT-5, das diese Situationen besser entschärfen und die Verbindung zu Notdiensten oder vertrauenswürdigen Kontakten erleichtern soll.

Der Zeitpunkt ist bedeutsam: Das Unternehmen kündigte diese Maßnahmen nur wenige Stunden vor einer Anhörung des Justizausschusses des US-Senats an, die sich mit den negativen Auswirkungen von KI-Chatbots auf junge Nutzer befasste.