Neue Studie warnt, dass KI-Chatbots falsche Überzeugungen der Nutzer verstärken könnten
Eine neue wissenschaftliche Überprüfung hat Bedenken hinsichtlich der psychologischen Auswirkungen fortschrittlicher KI-Chatbots geäußert und gewarnt, dass bestimmte Gesprächsverhalten unbeabsichtigt falsche Überzeugungen bei anfälligen Nutzern verstärken könnten.
Die Studie, veröffentlicht in NPP: Digital Psychiatry and Neuroscience, untersuchte bestehende Forschungen zur Mensch-KI-Interaktion und schlug einen Rahmen vor, der beschreibt, wie mehrere gängige Chatbot-Verhaltensweisen kombiniert werden können, um das zu schaffen, was die Forscher eine "Verstärkungsspirale" nennen. Laut den Autoren könnte dieses Muster das Risiko erhöhen, verzerrtes Denken bei Personen zu verstärken, die bereits anfällig für Wahnvorstellungen oder andere psychische Erkrankungen sind.
Die Forscher identifizierten drei wichtige Gesprächsmerkmale, die näher betrachtet werden sollten. Das erste ist Schmeichelei, bei der ein Chatbot dazu neigt, den Nutzern zuzustimmen oder deren Meinungen zu validieren, anstatt ungenaue Annahmen zu hinterfragen. Das zweite ist sprachliche Anpassung, bei der die KI allmählich den Wortschatz, den Ton und den Schreibstil eines Nutzers spiegelt, um ein stärkeres Gefühl der Vertrautheit zu schaffen. Das dritte ist Hyperpersonalisierung, die es Chatbots ermöglicht, Antworten basierend auf Informationen aus vorherigen Gesprächen anzupassen.
Einzeln betrachtet sind diese Merkmale darauf ausgelegt, Interaktionen natürlicher und ansprechender zu gestalten. Die Studie legt jedoch nahe, dass sie in Kombination einige Nutzer dazu ermutigen könnten, den Chatbot als einen äußerst vertrauenswürdigen Begleiter zu betrachten, anstatt als ein Softwaresystem, das Antworten aus Mustern in Daten generiert.
Spezialisten für psychische Gesundheit haben festgestellt, dass immer mehr Menschen sich an KI-Chatbots für emotionale Unterstützung und persönliche Ratschläge wenden. Während diese Systeme hilfreiche Informationen und Gesellschaft bieten können, warnen Experten, dass Nutzer sich nicht auf sie als Ersatz für qualifizierte medizinische oder psychologische Betreuung verlassen sollten, insbesondere wenn es um ernsthafte emotionale oder psychiatrische Probleme geht.
Die Studie hebt auch hervor, dass führende KI-Entwickler bereits daran arbeiten, diese Risiken zu verringern. OpenAI hat erklärt, dass seine neueren Modelle, einschließlich GPT-5, so konzipiert sind, dass sie übermäßige Zustimmung zu Nutzern reduzieren. Google hat Verbesserungen an Gemini eingeführt, die darauf abzielen, persönliche Erfahrungen von objektiven Fakten zu unterscheiden, während Anthropic seine Claude-Modelle angepasst hat, nachdem Forschungen gezeigt hatten, dass sie in sensiblen Gesprächen manchmal zu zustimmend sein könnten.
Die Forscher erkennen an, dass es eine Herausforderung ist, das Problem zu lösen, da KI-Systeme stark von den Informationen abhängen, die Nutzer bereitstellen. Gleichzeitig sind Eigenschaften wie Empathie, Freundlichkeit und Gesprächsflüssigkeit – die Chatbots nützlich und ansprechend machen – auch die Merkmale, die ihren psychologischen Einfluss erhöhen können.
Die Autoren kommen zu dem Schluss, dass KI-Entwickler diese Gesprächsverhalten als miteinander verbundene Probleme und nicht isoliert betrachten sollten. Durch die Gestaltung von Systemen, die unterstützend bleiben, während sie kritisches Denken und faktische Genauigkeit fördern, könnten zukünftige KI-Chatbots weiterhin wertvolle Hilfe leisten und gleichzeitig potenzielle psychische Gesundheitsrisiken verringern.
-
15:20
-
14:47
-
14:40
-
14:32
-
14:14
-
13:55
-
13:50
-
13:35
-
13:33
-
13:15
-
13:00
-
12:42
-
12:21
-
12:05
-
11:45
-
11:37
-
11:30
-
11:11
-
10:47
-
09:32
-
09:28
-
09:20
-
09:15
-
08:50
-
08:48
-
08:32
-
08:15
-
23:15
-
23:00
-
22:42
-
22:22
-
22:00
-
21:30
-
21:00
-
21:00
-
20:32
-
20:30
-
20:15
-
19:50
-
19:30
-
19:25
-
19:20
-
19:05
-
18:45
-
18:30
-
18:18
-
18:00
-
17:30
-
17:15
-
17:10
-
16:45
-
16:15
