OpenAI unterbricht zwei Einflussoperationen, die mit Russland und Iran verbunden sind

13:33

OpenAI gibt an, dass es zwei Einflussoperationen identifiziert und unterbrochen hat, die angeblich ChatGPT verwendet haben, um irreführende Inhalte über geopolitische Konflikte zu produzieren und zu verbreiten. Die Kampagnen, bekannt als „Dark Clark“ und „Bogus Bylines“, waren laut dem neuesten Bericht des Unternehmens über den Missbrauch künstlicher Intelligenz jeweils mit russischen und iranischen Akteuren verbunden.

Die Ergebnisse heben wachsende Bedenken darüber hervor, wie generative KI-Tools in koordinierte Informationskampagnen integriert werden können. Während solche Systeme beim Schreiben, Übersetzen und Recherchieren helfen können, können sie auch missbraucht werden, um täuschende Narrative vorzubereiten, Identitäten zu fälschen und Inhalte für unterschiedliche Zielgruppen anzupassen.

Laut OpenAI zielte die Dark Clark-Operation auf Zielgruppen in mehreren lateinamerikanischen Ländern ab, mit Inhalten, die darauf abzielten, die Ukraine zu untergraben und bestimmte regionale politische Führer zu kritisieren. Zu den identifizierten Aktivitäten gehörte die Verbreitung eines angeblich gefälschten Audioaufzeichnungs, die dem Konsul der Ukraine in Ecuador zugeschrieben wurde, auf TikTok. Die Betreiber verwendeten Berichten zufolge auch eine gefälschte E-Mail-Adresse, um Schulen in Peru zu ermutigen, Veranstaltungen im Zusammenhang mit der Ukraine zu organisieren.

OpenAI sagte, dass die Kampagne auf ihrer sechs Punkte umfassenden Skala zur Messung der Auswirkungen von Einflussoperationen als Level fünf bewertet wurde. Das Unternehmen warnte jedoch, dass einige von den beteiligten Personen geäußerte Behauptungen nicht unabhängig verifiziert werden konnten, was die Schwierigkeit unterstreicht, das volle Ausmaß und die Wirksamkeit verdeckter Online-Aktivitäten zu bestimmen.

Die zweite Operation, die als Bogus Bylines bezeichnet wird, konzentrierte sich angeblich darauf, irreführende Artikel über den Konflikt zwischen den Vereinigten Staaten und dem Iran zu produzieren. OpenAI erklärte, dass ChatGPT verwendet wurde, um Entwürfe zu verfeinern, Artikel an die redaktionellen Anforderungen von Online-Publikationen anzupassen und E-Mails zur Einreichung vorzubereiten, die darauf abzielten, eine Veröffentlichung zu sichern.

Die Kampagne stützte sich Berichten zufolge auf sieben fiktive Autoren, die sich als westliche Journalisten ausgaben. OpenAI gab an, dass seit Juli 2025 fast 100 Artikel in mehr als einem Dutzend Medien veröffentlicht wurden. Die berichteten Aktivitäten veranschaulichen, wie gefälschte Identitäten und KI-unterstütztes Schreiben kombiniert werden können, um irreführendes Material glaubwürdig erscheinen zu lassen.

Die Nutzung etablierter Medienplattformen kann irreführenden Inhalten Zugang zu Zielgruppen verschaffen, die über neu erstellte Social-Media-Konten hinausgehen. Artikel, die auf anerkannten Websites veröffentlicht werden, können auch anderswo geteilt, von anderen Nutzern zitiert oder in breitere Online-Diskussionen integriert werden, was es potenziell schwieriger macht, die ursprüngliche Quelle und den Zweck des Inhalts zu identifizieren.

Die Veröffentlichung eines Artikels allein legt jedoch nicht fest, wie viele Menschen ihn gesehen haben, ob die Leser seinen Behauptungen glaubten oder ob er die öffentliche Meinung verändert hat. Die tatsächliche Einflussnahme solcher Kampagnen zu bewerten, erfordert Beweise über Verbreitung, Publikumsengagement und das breitere Informationsumfeld.

Die Fälle werfen auch Fragen zur Rolle von Unternehmen der künstlichen Intelligenz bei der Identifizierung und Begrenzung koordinierter Missbräuche auf. OpenAI sagt, dass es verdächtige Aktivitäten überwacht und Maßnahmen gegen Konten ergreift, die gegen seine Richtlinien verstoßen. Solche Maßnahmen sind Teil eines umfassenderen Bemühens im Technologiesektor, automatisierte Manipulation, Identitätsmissbrauch und die absichtliche Verbreitung falscher Informationen zu erkennen.

Gleichzeitig erschwert die zunehmende Verfügbarkeit von KI-Schreibwerkzeugen die Bemühungen, legitime politische Kommentare von organisierter Täuschung zu unterscheiden. Ermittler und Plattformen müssen nicht nur den Inhalt selbst, sondern auch Verhaltensmuster, die Koordination zwischen Konten, gefälschte Identitäten und Versuche, zu verbergen, wer hinter einer Nachricht steht, berücksichtigen.

Die Erkenntnisse von OpenAI deuten auf eine sich entwickelnde Form digitaler Propaganda hin, in der KI die Produktion und Anpassung irreführenden Materials unterstützen kann, während bestehende soziale Netzwerke und Online-Publikationen potenzielle Kanäle für die Verbreitung bieten. Der Bericht unterstreicht die Bedeutung transparenter Quellenangaben, unabhängiger Verifizierung und einer stärkeren Zusammenarbeit zwischen Technologieunternehmen, Medienorganisationen und Forschern, die Einflusskampagnen untersuchen.