OpenAI verstärkt die Sicherheitsmaßnahmen von ChatGPT für jugendliche Nutzer

Tuesday 18 - 17:17

OpenAI erweitert seine Sicherheitsmaßnahmen für Jugendliche, die ChatGPT nutzen, um eine altersgerechtere Erfahrung zu bieten und gleichzeitig jüngeren Nutzern zu ermöglichen, von künstlicher Intelligenz für Lernen, Kreativität und alltägliche Aufgaben zu profitieren.

Der Ansatz des Unternehmens stützt sich zunehmend auf Technologien zur Altersvorhersage, die bestimmen sollen, ob ein Konto wahrscheinlich einer Person unter 18 Jahren gehört. Wenn das System einen möglichen jugendlichen Nutzer identifiziert, kann ChatGPT automatisch zusätzliche Schutzmaßnahmen anwenden, selbst wenn die ursprünglich bei der Registrierung angegebenen Altersinformationen etwas anderes anzeigen.

Die verbesserten Schutzmaßnahmen sollen die Exposition von Jugendlichen gegenüber sensiblen oder potenziell unangemessenen Inhalten verringern. Dazu gehören grafische Gewalt, riskante Online-Herausforderungen, sexuelle oder gewalttätige Rollenspiele, Inhalte zu Selbstverletzung sowie Materialien, die extreme Schönheitsstandards, ungesunde Diäten oder Körperbeschämung fördern.

OpenAI gibt an, dass das Ziel nicht darin besteht, Jugendlichen die Nutzung von ChatGPT zu verwehren, sondern den Dienst an ihr Alter und ihre Entwicklungsbedürfnisse anzupassen. Das Unternehmen hat die Rolle der KI in Bildung und Produktivität betont und darauf hingewiesen, dass viele junge Nutzer bereits auf die Technologie für Lernen, Informationen und Kompetenzentwicklung angewiesen sind.

Das Altersbestimmungssystem bewertet eine Kombination aus Kontosignalen und Nutzungssignalen, einschließlich Aktivitätsmustern, wie lange ein Konto besteht und das vom Nutzer angegebene Alter. Wenn das System unsicher ist, sagt OpenAI, dass es möglicherweise die schützendere Erfahrung für unter 18-Jährige bevorzugt. Erwachsene, die fälschlicherweise klassifiziert werden, können ihr Alter verifizieren, um die zusätzlichen Schutzmaßnahmen für Jugendliche zu entfernen.

Das Unternehmen hat auch Elternkontrollen entwickelt, die es Eltern oder Erziehungsberechtigten mit verknüpften Jugendkonten ermöglichen, ausgewählte Aspekte der ChatGPT-Erfahrung zu verwalten. Diese Kontrollen können Funktionen wie Ruhezeiten, bestimmte Modelleinstellungen und Sicherheitsbenachrichtigungen umfassen.

Der Schritt von OpenAI spiegelt eine breitere Debatte darüber wider, wie generative künstliche Intelligenz von Minderjährigen genutzt werden sollte. Da KI-Tools zunehmend in Bildung, Kommunikation und Unterhaltung integriert werden, stehen Technologieunternehmen unter wachsendem Druck, zwischen Erwachsenen- und Jugend-Erfahrungen zu unterscheiden und jüngere Nutzer vor unangemessenen Interaktionen zu schützen.

Das Unternehmen hat zuvor spezifische Grundsätze für Nutzer im Alter von 13 bis 17 Jahren festgelegt, wobei der Schwerpunkt auf Prävention, Transparenz und Unterstützung für reale Beziehungen liegt. Diese Grundsätze sollen sicherstellen, dass ChatGPT Jugendliche anders behandelt als Erwachsene, ohne dabei herablassend gegenüber jüngeren Nutzern zu sein.

ChatGPT ist nicht für Kinder unter 13 Jahren gedacht, während Nutzer im Alter von 13 bis 18 Jahren zusätzlichen Anforderungen und Schutzmaßnahmen unterliegen. OpenAI verfeinert weiterhin seine Altersvorhersagesysteme, während sich die Technologie weiterentwickelt, und erkennt an, dass kein automatisiertes System das Alter mit vollständiger Genauigkeit bestimmen kann.

Die neuesten Maßnahmen unterstreichen die wachsende Bedeutung von Sicherheit und altersgerechtem Design, da künstliche Intelligenz zunehmend von jüngeren Generationen genutzt wird. Für OpenAI wird die Herausforderung darin bestehen, den Zugang zu Bildungs- und kreativen KI-Tools mit stärkeren Schutzmaßnahmen für Nutzer zu balancieren, die möglicherweise anfälliger für schädliche oder unangemessene Inhalte sind.