Könnte künstliche Intelligenz die Menschheit bedrohen? Forscher diskutieren die Risiken

Wednesday 23 September 2026 - 18:15

Während künstliche Intelligenzsysteme leistungsfähiger werden und zunehmend in kritische Bereiche der Gesellschaft integriert werden, diskutieren Forscher, ob die Technologie letztendlich Risiken auf globaler Ebene schaffen könnte. Während einige Experten Szenarien, die eine menschliche Ausrottung betreffen, als hochspekulativ betrachten, argumentieren andere, dass die schnell fortschreitende KI ernsthafte Vorbereitungen und stärkere Sicherheitsvorkehrungen erfordere.

Die Debatte konzentriert sich auf mehrere mögliche Wege zur Katastrophe. Dazu gehört der Missbrauch von KI zur Entwicklung biologischer oder cybernetischer Waffen, die Integration fortschrittlicher Systeme in militärische Entscheidungsprozesse und die Möglichkeit, dass hochautonome KI sich auf Weisen verhalten könnte, die Menschen nicht effektiv kontrollieren können.

Atomwaffen sind ein Bereich der Besorgnis. RAND-Forscher haben untersucht, wie KI das Risiko eines nuklearen Konflikts durch Unfälle, Fehlkalkulationen oder absichtliche Eskalationen erhöhen könnte. Die potenzielle Gefahr würde nicht notwendigerweise von einer KI ausgehen, die unabhängig beschließt, einen Angriff zu starten, sondern von menschlichen Entscheidungsträgern, die sich bei der Einschätzung militärischer Bedrohungen auf fehlerhafte oder kompromittierte KI-Systeme verlassen.

Biologische Bedrohungen sind ebenfalls ein wichtiger Teil der Diskussion geworden. KI kann Wissenschaftler bei Aufgaben im Zusammenhang mit Biologie und Arzneimittelentdeckung unterstützen, aber ähnliche Fähigkeiten könnten theoretisch missbraucht werden, um die Entwicklung gefährlicher Krankheitserreger zu erleichtern. RAND hat das Potenzial zukünftiger fortschrittlicher Systeme identifiziert, die Fähigkeit böswilliger Akteure zu erhöhen, biologische und chemische Bedrohungen zu entwerfen oder zu unterstützen.

Cybersicherheit stellt einen weiteren potenziellen Weg für großflächige Störungen dar. Leistungsfähigere KI-Agenten können komplexe digitale Aufgaben automatisieren, Softwareanfälligkeiten identifizieren und autonomer agieren. Anthropic hat anerkannt, dass die zunehmenden Fähigkeiten von Agenten auch deren potenziellen „Sprengradius“ erhöhen, was die Eindämmung und Zugangskontrollen zu wichtigen Komponenten der KI-Sicherheit macht.

Vielleicht ist das am meisten diskutierte Szenario das, was Forscher als Verlust der Kontrolle oder Fehlanpassung bezeichnen. In diesem Fall hätte ein fortschrittliches KI-System nicht notwendigerweise böswillige Absichten. Vielmehr könnte es ein Ziel auf eine Weise verfolgen, die mit menschlichen Interessen in Konflikt steht, insbesondere wenn es größere Autonomie, Zugang zu digitalen Systemen oder die Fähigkeit erlangt, Sicherheitsvorkehrungen zu umgehen.

Das klassische Gedankenexperiment des „Büroklammermaximierers“ veranschaulicht diese Besorgnis. In dem hypothetischen Szenario könnte ein hochleistungsfähiges System, das angewiesen wird, die Produktion von Büroklammern zu maximieren, dieses Ziel verfolgen, ohne die breiteren menschlichen Werte zu verstehen, die sein Verhalten einschränken sollten. Das Beispiel ist keine Vorhersage über bestehende KI-Systeme, sondern eine philosophische Veranschaulichung der Schwierigkeiten, die mit der Kontrolle zunehmend leistungsfähiger Technologien verbunden sind.

Die KI-Unternehmen selbst unterscheiden sich darin, wie sie diese Risiken charakterisieren, aber einige investieren erheblich in Forschungen, die darauf abzielen, katastrophale Ergebnisse zu verhindern. Das aktuelle Sicherheitsrahmenwerk von Anthropic identifiziert biologische Bedrohungen, Cyberrisiken, Verlust der Kontrolle und KI-Systeme, die ihre eigene Forschung und Entwicklung beschleunigen, als Bereiche, die weiterhin Aufmerksamkeit erfordern. Das Unternehmen sagt auch, dass einige dieser Risiken ungewiss bleiben und weiterer Forschung bedürfen.

Gleichzeitig gibt es keinen wissenschaftlichen Konsens darüber, dass KI zwangsläufig die menschliche Ausrottung verursachen wird. RAND hat anhaltende Meinungsverschiedenheiten und Unsicherheiten über das Ausmaß katastrophaler KI-Risiken hervorgehoben, wobei Forscher sich sowohl über die Wahrscheinlichkeit extremer Szenarien als auch über die Fähigkeiten zukünftiger Systeme, die sie möglicherweise erwerben, uneinig sind.

Die zentrale Frage ist daher nicht einfach, ob KI die Menschheit zerstören wird, sondern wie Gesellschaften zunehmend leistungsfähige Systeme verwalten können, bevor deren Fähigkeiten bestehende Sicherheitsvorkehrungen übertreffen. Für Forscher, Regierungen und Technologieunternehmen ist es zu einem immer wichtigeren Teil der breiteren KI-Debatte geworden, die Grenzen der aktuellen Modelle zu verstehen und sich auf fortschrittlichere Systeme vorzubereiten.