OpenAI stellt die Nutzung seiner Systeme für Cyberkriminalität ein

Monday 14 October 2024 - 14:15

OpenAI, bekannt für die Entwicklung generativer KI-Lösungen wie ChatGPT, gab bekannt, dass es kürzlich mehrere bösartige Kampagnen gestoppt hat, die seine Dienste für Cyberangriffe nutzten.

In einem Bericht berichtete OpenAI, dass es im Jahr 2024 bisher weltweit mehr als 20 betrügerische Kampagnen gestoppt hat, und diese Kampagnen waren unterschiedlicher Art, Größe und Zielsetzung.

Einige Betrüger haben die Produkte des Unternehmens zum Debuggen von Malware genutzt, während sie in anderen Fällen dazu genutzt wurden, gefälschte Inhalte wie Artikel, gefälschte Biografien für Social-Media-Konten und gefälschte Profilbilder zu erstellen.

Bei seinen Bemühungen, diese Operationen einzustellen, stellte OpenAI fest, dass die Bedrohungen keine nennenswerten Fortschritte gemacht haben.

„Böswillige Akteure erforschen immer noch die Fähigkeiten unserer Modelle, aber wir haben keine Beweise dafür gesehen, dass sie bei ihrer Fähigkeit, neue Malware zu erstellen, nennenswerte Fortschritte gemacht haben“, so das Unternehmen.

Es sei darauf hingewiesen, dass 2024 ein Wahljahr ist, nicht nur in den Vereinigten Staaten, sondern auch in anderen Teilen der Welt, und OpenAI hat die Ausnutzung von ChatGPT durch verschiedene Parteien beobachtet, die versuchen, Wahlkämpfe zu beeinflussen.

Zu diesen Parteien gehört eine Gruppe namens „Zero Zeno“, ein israelisches Unternehmen, das in den sozialen Medien Kommentare zu den Wahlen in Indien veröffentlichte, eine Kampagne, die OpenAI in weniger als 24 Stunden beendete. Diese Gruppe war auch aktiv an der Einflussnahme auf Fragen im Zusammenhang mit Wahlen in Indien beteiligt. Krieg in Gaza und der Ukraine.

Das Unternehmen fügte hinzu, dass es im Juni dieses Jahres vor den Wahlen zum Europäischen Parlament eine weitere Kampagne ausgesetzt habe und dass die Kampagne auch Kommentare zu den Wahlen in Frankreich und anderen politischen Themen in Italien, Polen, Deutschland und den Vereinigten Staaten beinhaltete.

Keine dieser Kampagnen war sehr erfolgreich und sie wurden vollständig eingestellt, nachdem OpenAI sie Berichten zufolge verboten hatte.