Google implementiert Sicherheitsvorkehrungen gegen emotionale Abhängigkeit junger Menschen von KI

Wednesday 08 April 2026 - 18:00

Am Dienstag stellte Google eine Reihe von Änderungen vor, die verhindern sollen, dass sich sein KI-Assistent Gemini wie ein Begleiter verhält und junge Menschen von seiner Benutzeroberfläche abhängig macht.

Diese Sicherheitsvorkehrungen sollen insbesondere verhindern, dass Gemini „sich als Mensch ausgibt oder menschliche Eigenschaften besitzt“, erklärte die Alphabet-Tochter in einer Stellungnahme. Google habe seinem Modell „Schutzmechanismen hinzugefügt, die emotionale Abhängigkeit verhindern und Sprache vermeiden, die Intimität simuliert oder Bedürfnisse ausdrückt“, fügte das Unternehmen mit Sitz in Mountain View, Kalifornien, hinzu.

Die Interaktion zwischen Teenagern und KI-Anwendungen bereitet vielen Eltern, Verbänden und Politikern Sorgen.

Im April 2025 empfahl die amerikanische Nichtregierungsorganisation Common Sense, Minderjährigen die Nutzung von KI-Schnittstellen zu verbieten, die sich als virtuelle Begleiter präsentieren, darunter Character.Al und Replika. Auch wenn sie nicht so konzipiert oder beworben werden, nutzen viele Teenager die bekanntesten KI-Assistenten wie ChatGPT, Claude und Gemini genau dafür.

Ein Drittel der 13- bis 17-Jährigen, die in einer von Common Sense im Frühjahr 2025 in Auftrag gegebenen Studie befragt wurden, gab an, diese KI-Programme für „soziale Interaktionen und Beziehungen“ zu nutzen.

Im Januar einigten sich Google und Character.AI außergerichtlich, um Klagen von Familien beizulegen, die Chatbots vorwarfen, Minderjährige zu schädigen und zum Suizid eines Familienmitglieds beigetragen zu haben.

Ebenfalls am Dienstag kündigte Google neue Funktionen für die psychische Gesundheit von Gemini-Nutzern an. Erkennt die Benutzeroberfläche Anzeichen für Suizidgedanken oder Selbstverletzung, wird ein direkter Link zu einer Beratungsstelle für psychische Gesundheit angezeigt, entweder online oder telefonisch. „Gemini kann ein nützliches Werkzeug zum Lernen und zur Informationssuche sein, ist aber kein Ersatz für professionelle medizinische Versorgung, Therapie oder Krisenintervention“, betont Google.

Im Alarmfall ist Gemini darauf trainiert, „angemessen zu reagieren, indem der Nutzer an menschliche Hilfe weitergeleitet wird“.