Trotz neuer Richtlinien überschwemmen KI-generierte Videos zum Nahostkrieg die Feeds von X
Trotz neuer Richtlinien überschwemmen KI-generierte Videos zum Nahostkrieg die Feeds von X
Auf Elon Musks Plattform X verbreiten sich KI-generierte Videos, die von Iran gefangengenommene US-Truppen, eine israelische Stadt in Trümmern und brennende US-Botschaften zeigen. Dies verdeutlicht eine Welle lebensechter Deepfakes, trotz der Bemühungen, Desinformation in Kriegszeiten einzudämmen.
Der Nahostkrieg hat eine Flut von KI-generierten Bildern ausgelöst, die alles bisher Dagewesene in den Schatten stellt und es Nutzern sozialer Medien oft unmöglich macht, zwischen Fälschung und Realität zu unterscheiden, so Forscher.
Um „authentische Informationen“ in Konflikten zu schützen, kündigte X letzte Woche an, Content-Ersteller für 90 Tage von seinem Umsatzbeteiligungsprogramm auszuschließen, wenn sie KI-generierte Kriegsvideos veröffentlichen, ohne deren künstliche Erstellung offenzulegen.
Wiederholte Verstöße führen zur dauerhaften Sperrung, warnte Nikita Bier, Produktchefin von X, in einem Beitrag.
Die neue Richtlinie stellt eine bemerkenswerte Kehrtwende für eine Plattform dar, die seit Musks 44 Milliarden Dollar schwerer Übernahme im Oktober 2022 stark dafür kritisiert wurde, zu einem Tummelplatz für Desinformation geworden zu sein.
Sie wurde auch von der hochrangigen Beamtin des US-Außenministeriums, Sarah Rogers, gelobt, die sie als „hervorragende Ergänzung“ zu den Community Notes von X – einem nutzergenerierten Verifizierungssystem – bezeichnete, das die Reichweite (und damit die Monetarisierung) ungenauer Inhalte verringert.
Desinformationsforscher bleiben jedoch skeptisch.
„Die von mir überwachten Feeds sind immer noch voll von KI-generierten Inhalten über den Krieg“, sagte Joe Bodnar vom Institute for Strategic Dialogue gegenüber der Agence France-Presse (AFP).
„Es scheint, als ob die Urheber nicht davon abgehalten wurden, irreführende KI-generierte Bilder und Videos über den Konflikt zu verbreiten“, sagte er.
Bodnar verwies auf einen Beitrag eines prominenten X-Kontos mit blauem Haken – das zur Monetarisierung berechtigt ist –, in dem ein KI-Clip geteilt wurde, der einen iranischen Angriff mit angeblicher Atomfähigkeit auf Israel darstellte.
Der Beitrag erzielte mehr Aufrufe als Biers Nachricht über das Vorgehen gegen KI-Inhalte.
Anreiz für Fälschungen
X reagierte nicht auf die AFP-Anfrage, wie viele Konten seit Biers Ankündigung demonetarisiert wurden.
Das globale Netzwerk von Faktencheckern der AFP – von Brasilien bis Indien – identifizierte eine Flut von KI-Fälschungen zum Nahostkrieg, viele davon von Xs Premium-Konten mit blauen Häkchen, die käuflich erworben werden können.
Dazu gehören KI-Videos, die einen weinenden amerikanischen Soldaten in einer zerbombten Botschaft, gefangene US-Soldaten kniend neben iranischen Flaggen und eine zerstörte US-Marineflotte zeigen.
Die Flut an KI-generierten Bildern – vermischt mit authentischem Bildmaterial aus dem Nahen Osten – wächst schneller, als professionelle Faktenchecker sie entlarven können.
Grok, Xs eigener KI-Chatbot, verschärfte das Problem offenbar noch, indem er Nutzern, die Faktenchecks suchten, fälschlicherweise mitteilte, dass zahlreiche KI-Bilder aus dem Krieg echt seien.
Forscher warnen zudem davor, dass das Geschäftsmodell von X – bei dem Premium-Konten auf Basis von Nutzerinteraktionen Auszahlungen erhalten – den finanziellen Anreiz zur Verbreitung falscher oder reißerischer Inhalte massiv erhöht hat.
Ein Premium-Konto, das ein KI-generiertes Video des brennenden Wolkenkratzers Burj Khalifa in Dubai veröffentlichte, ignorierte Biers Aufforderung, den Inhalt als KI-generiert zu kennzeichnen.
Der Beitrag blieb online und erreichte über zwei Millionen Aufrufe.
„Gegenmaßnahme“: Ein Bericht des Tech Transparency Project vom letzten Monat besagt, dass X offenbar von mehr als zwei Dutzend Premium-Konten iranischer Regierungsbeamter und staatlich kontrollierter Medien profitierte, die Propaganda verbreiteten und damit möglicherweise gegen US-Sanktionen verstießen.
X entfernte daraufhin für einige dieser Konten die blauen Häkchen, so der Bericht.
Selbst bei strikter Durchsetzung der Demonetarisierungsrichtlinie von X ist eine große Anzahl von X-Nutzern, die KI-Inhalte verbreiten, nicht Teil des Umsatzbeteiligungsprogramms, so die Forscher.
Diese Nutzer unterliegen weiterhin der Überprüfung ihrer Aussagen mithilfe von Community Notes, einem System, dessen Effektivität von Forschern wiederholt infrage gestellt wurde.
Eine Studie des Digital Democracy Institute of the Americas aus dem letzten Jahr ergab, dass über 90 % der Community Notes von X nie veröffentlicht werden, was erhebliche Schwächen aufzeigt.
„Die Richtlinie von X ist eine angemessene Gegenmaßnahme gegen die Verbreitung von Desinformationen über den Krieg. Prinzipiell verringert sie den Anreiz für diejenigen, die Desinformationen verbreiten“, sagte Alexios Mantzarlis, Direktor der Security, Trust, and Safety Initiative bei Cornell Tech.
„Der Teufel steckt im Detail: Metadaten von KI-Inhalten können entfernt werden, und Community Notes sind relativ selten“, sagte er.
„Es ist unwahrscheinlich, dass X für diese Richtlinie sowohl eine hohe Präzision als auch eine hohe Trefferquote garantieren kann.“
-
21:30
-
20:30
-
18:00
-
17:30
-
16:30
-
15:20
-
15:00
-
14:40
-
14:20
-
14:00
-
13:20
-
13:00
-
12:40
-
12:20
-
12:05
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:30
-
10:15
-
10:00
-
09:40
-
09:25
-
09:10
-
08:35
