KI im Gesundheitswesen wegen Unzuverlässigkeit kritisiert

Sunday 19 April 2026 - 14:56

Laut Forschern mangelt es künstlicher Intelligenz (KI) im Gesundheitswesen erheblich an Genauigkeit. Eine aktuelle Studie ergab, dass fast 50 % der Antworten falsch sind, obwohl sie plausibel erscheinen mögen. Dieses Phänomen bereitet medizinischen Fachkräften zunehmend Sorgen.

Was, wenn KI nicht alle Antworten kennt? Diese Frage stellten sich englischsprachige Forscher in einer Studie zum Einsatz von Chatbots – also KI-gestützten Dialogsystemen. Amerikanische, kanadische und britische Experten untersuchten die Zuverlässigkeit dieser Chatbots bei gesundheitsbezogenen Fragen. Und zur Überraschung aller waren die meisten Antworten potenziell oder sogar gänzlich falsch.

Für dieses Experiment testeten die Wissenschaftler die Plattformen ChatGPT, Gemini, Meta AI, Grok und DeepSeek. Sie stellten den Chatbots zehn Fragen aus fünf Gesundheitskategorien, um deren Genauigkeit und Glaubwürdigkeit zu bewerten, wie sie in ihrer in BMJ Open veröffentlichten Studie erläuterten.

Im Rahmen ihrer Forschung stellten die Experten fest, dass mehr als die Hälfte der von einem Chatbot gegebenen medizinischen Ratschläge als „problematisch“ eingestuft wurden. Von diesen 50 % falschen Antworten galten 20 % sogar als „höchst problematisch“. „Diese Systeme können Antworten generieren, die glaubwürdig erscheinen, aber potenziell fehlerhaft sind“, so die Forscher in ihrer Studie.

Die Forscher merkten jedoch an, dass geschlossene Fragen von den Chatbots besser beantwortet wurden und deren Antworten „weniger problematisch“ waren. Insbesondere bei Fragen zu Krebs und Impfungen scheint künstliche Intelligenz zuverlässiger als üblich zu sein. In Bezug auf Ernährung und Stammzellen zeigten die Plattformen deutlich weniger ermutigende Ergebnisse.

Angesichts dieser besorgniserregenden Ergebnisse mahnen die Forscher die Nutzer zu äußerster Vorsicht. Sie weisen zudem auf die mangelnde Verlässlichkeit dieser Tools hin, die „Fehlinformationen verstärken“ können, wenn sie nicht schnell unter Kontrolle gebracht werden.

Zur Erinnerung: Wöchentlich stellen mehr als 200 Millionen Menschen KI-gestützten Gesundheitsfragen. Diese Zahl steigt stetig und bereitet Gesundheitsexperten zunehmend Sorgen, insbesondere wenn Nutzer angeben, einer dieser Plattformen mehr zu vertrauen als einem Arzt.