Google führt ein Open-Source-Tool zur Identifizierung von KI-generiertem Text ein

Friday 25 October 2024 - 09:35

Google kündigte an, dass diese Technologie die Unterscheidung zwischen KI-generierten Inhalten und von Menschen geschriebenen Inhalten erleichtern soll.

Google erklärte, dass diese Technologie, die im vergangenen August angekündigt wurde, jetzt über die Plattform „Hugging Face“ für Entwickler verfügbar sei und dazu genutzt werden könne, verantwortungsvolle Anwendungen für künstliche Intelligenz zu entwickeln. Laut Pushmeet Kohli, Vizepräsident für Forschung bei DeepMind, erleichtert dieses Tool Entwicklern das Entdecken von Texten, die von ihren großen Sprachmodellen generiert werden.

SynthID Text basiert auf dem Hinzufügen eines unsichtbaren Wasserzeichens zu KI-generiertem Text, sodass dieser nur von benutzerdefinierter Software erkannt werden kann, ohne für das menschliche Auge sichtbar zu sein. Das Google DeepMind-Team stellte fest, dass diese Technologie keinen Einfluss auf die Qualität, Kreativität oder Genauigkeit von Texten hat.

Wasserzeichen werden im Kampf gegen irreführende und anstößige Inhalte, die durch künstliche Intelligenz generiert werden, immer wichtiger. Mit dem zunehmenden Einsatz generativer KI haben Regierungen wie Kalifornien und China begonnen, darüber nachzudenken, die Verwendung dieser Tags vorzuschreiben, um die Sicherheit veröffentlichter Informationen zu gewährleisten.