OpenAI verstärkt ChatGPT-Sicherheit mit Funktion zur Selbstverletzungsprävention

Saturday 09 May 2026 - 13:00

OpenAI hat die Einführung einer neuen Sicherheitsfunktion namens „Vertrauensperson“ angekündigt. Diese Funktion soll den Umgang mit sensiblen Situationen im Zusammenhang mit Selbstverletzungsrisiken bei der Nutzung von ChatGPT verbessern.

Mit dieser neuen Option können erwachsene Nutzer eine Vertrauensperson – ein Familienmitglied oder einen engen Freund – festlegen, die benachrichtigt wird, wenn das System während eines Gesprächs besorgniserregende Anzeichen erkennt. Ziel ist es, die Prävention zu stärken und gleichzeitig die Privatsphäre der Nutzer zu wahren.

Laut OpenAI wird der Nutzer zunächst dazu angehalten, diese Vertrauensperson selbst zu kontaktieren, wenn ein Gespräch Anzeichen potenzieller Selbstverletzung zeigt. Wird die Situation nach der Analyse als kritisch eingestuft, kann automatisch eine Benachrichtigung an diese Person gesendet werden, um nach dem Nutzer zu sehen.

Das System basiert auf einer Kombination aus automatisierten Tools und menschlicher Überprüfung. Als sensibel identifizierte Gespräche werden von spezialisierten Teams geprüft, die das Risikoniveau einschätzen können, bevor eine Warnung ausgelöst wird. OpenAI gibt an, diese Berichte sehr schnell zu verarbeiten, um eine rasche Reaktion auf potenziell ernste Situationen zu gewährleisten.

Das Unternehmen gibt außerdem an, dass die versendeten Benachrichtigungen bewusst eingeschränkt sind und keine Details der Gespräche enthalten, um die Privatsphäre der Nutzer zu schützen.

Die Einführung dieser Funktion erfolgt vor dem Hintergrund zunehmenden Drucks hinsichtlich der Verantwortung von KI-Plattformen. OpenAI sieht sich derzeit mehreren Klagen von Familien gegenüber, die bestimmten Chatbots vorwerfen, psychische Probleme zu verschlimmern.

Diese neue Maßnahme steht im Einklang mit den bereits implementierten Sicherheitsrichtlinien des Unternehmens, darunter Kindersicherungsfunktionen und automatische Warnmeldungen, die Nutzer dazu anregen, professionelle Hilfe in Anspruch zu nehmen, wenn sensible Gespräche erkannt werden.

OpenAI betont, dass die Aktivierung von „Vertrauenswürdiger Kontakt“ weiterhin völlig optional ist. Das Unternehmen erklärt, ein Gleichgewicht zwischen Risikoprävention, Datenschutz und der kontinuierlichen Verbesserung seiner KI-Sicherheitstools anzustreben.