Folgen Sie uns auf Facebook

Walaw

Technologie

Forscher im medizinischen Bereich weisen auf KI-"Halluzinationen“ hin

Monday 28 October 2024 - 16:00

Zoom

Der Technologieriese OpenAI hat sein KI-gesteuertes Transkriptionstool Whisper damit beworben, dass es beinahe „die Robustheit und Genauigkeit des Menschen“ erreiche.

Whisper hat jedoch einen erheblichen Nachteil: Laut AP generiert es häufig falschen Text, manchmal ganze Sätze, wie aus Interviews mit über einem Dutzend Softwareingenieuren, Entwicklern und akademischen Forschern hervorgeht.

Dieses Phänomen, das in der Branche als „Halluzinationen“ bezeichnet wird, kann unangemessene rassistische Kommentare, gewalttätige Sprache und erfundene medizinische Behandlungen umfassen.

Experten warnen, dass diese Ungenauigkeiten besorgniserregend seien, insbesondere da Whisper in verschiedenen Branchen weltweit für Aufgaben wie das Übersetzen und Transkribieren von Interviews, das Generieren von Texten für beliebte Verbrauchertechnologien und das Erstellen von Videountertiteln eingesetzt wird.

Besonders besorgniserregend ist die schnelle Einführung von Whisper-basierten Tools durch medizinische Einrichtungen zur Transkription von Patientenkonsultationen, obwohl OpenAI davon abrät, das Tool in „Hochrisikobereichen“ zu verwenden.

Schlüsselwörter:

Fügen Sie Ihren Kommentar hinzu

300 / Verbleibende Zeichen 300

Veröffentlichungsbedingungen : Beleidigen Sie nicht den Autor, Personen, Heiligtümer, greifen Sie keine Religionen oder die Gottheit an, vermeiden Sie rassistische Anstiftung und Beleidigungen