Substack führt neues Tool zur Identifizierung von KI-generierten Inhalten ein

Thursday 23 July 2026 - 07:32

Substack hat eine neue Funktion eingeführt, die den Lesern helfen soll, festzustellen, ob Online-Artikel und Beiträge von Menschen oder mit Hilfe von künstlicher Intelligenz verfasst wurden.

Die Publishing-Plattform entwickelte das neue System in Zusammenarbeit mit Pangram, einem Unternehmen, das auf die Erkennung von KI-generierten Texten spezialisiert ist. Das Tool ermöglicht es Nutzern, Artikel, Beiträge, Kommentare und Antworten zu analysieren, um die Wahrscheinlichkeit zu bewerten, dass der Inhalt von einem KI-System produziert wurde.

Laut Substack ist die Initiative Teil umfassender Bemühungen, die Transparenz zu erhöhen und der wachsenden Präsenz automatisierter Inhalte im Internet entgegenzuwirken. Der Geschäftsführer der Plattform erklärte, dass das Unternehmen besonders besorgt über Inhalte ist, die mit KI erstellt, aber den Lesern als vollständig von Menschen produziert präsentiert werden.

Das Erkennungssystem kann derzeit für Texte verwendet werden, die mehr als 100 Wörter enthalten und ab dem 21. Juli veröffentlicht wurden. Die Ergebnisse werden nur der Person angezeigt, die die Analyse anfordert, und nicht automatisch anderen Lesern angezeigt.

Das Unternehmen hat anerkannt, dass die KI-Erkennungstechnologie nicht perfekt ist und manchmal ungenaue Ergebnisse liefern kann. Es wurde jedoch gesagt, dass das System von Pangram in unabhängigen Tests eine hohe Genauigkeit gezeigt hat.

Die Funktion ist derzeit über die Webplattform von Substack und deren iOS-Anwendung verfügbar, wobei die Unterstützung für Android-Geräte später eingeführt werden soll.

Die neuen Tools richten sich auch an Autoren. Schriftsteller können das Erkennungssystem vor der Veröffentlichung ihrer Arbeiten nutzen, um zu sehen, wie ihr Inhalt klassifiziert wird. Substack hat auch einen Abschnitt namens "Wie ich das mache" eingeführt, der es den Autoren ermöglicht, zu erklären, wie sie ihre Arbeit erstellt haben und ob sie während des Prozesses KI-Tools verwendet haben.

Wenn ein Autor glaubt, dass ein Ergebnis der KI-Erkennung falsch ist, bietet die Plattform die Möglichkeit, das Ergebnis zu melden und eine Überprüfung der Klassifizierung zu beantragen.

Substack erwägt auch zusätzliche Maßnahmen, die es den Autoren ermöglichen würden, mehr Kontrolle darüber zu haben, wie KI in Kommentaren und Antworten verwendet wird. Das Unternehmen hat angedeutet, dass es den Lesern auch mehr Kontrolle über die Art von Inhalten geben könnte, die ihnen empfohlen werden.

Dieser Schritt erfolgt, da KI-generierte Materialien auf digitalen Plattformen zunehmend verbreitet werden. Branchenanalysen deuten darauf hin, dass ein erheblicher Anteil der Online-Beiträge jetzt vollständig oder teilweise mit Hilfe von generativer KI erstellt werden könnte.

Substack ist nicht das einzige Unternehmen, das versucht, das Problem anzugehen. Auch andere große Technologie- und Social-Media-Unternehmen erkunden Möglichkeiten, um qualitativ minderwertige automatisierte Inhalte zu identifizieren und einzuschränken, während sie an Systemen arbeiten, die zwischen menschlich und maschinell erzeugtem Material unterscheiden können.

Die Effektivität der KI-Erkennung bleibt jedoch ein umstrittenes Thema. Da generative KI-Modelle zunehmend ausgeklügelt werden und in der Lage sind, natürlich klingende Texte zu produzieren, stehen die Erkennungssysteme vor der Herausforderung, mit der sich schnell entwickelnden Technologie Schritt zu halten.