Künstliche Intelligenz könnte zum Aussterben der Menschheit führen

Monday 04 August 2025 - 16:35

Da sich Künstliche Intelligenz in allen Sektoren rasant verbreitet, schlägt eine Gruppe von Forschern und Technologiemanagern Alarm: Wenn sich die derzeitige Entwicklung fortsetzt, könnten übermächtige KI-Systeme innerhalb eines Jahres zum Aussterben der Menschheit führen.

Zu den Unterzeichnern dieses Appells gehören Geoffrey Hinton, einer der „Väter der KI“, Turing-Preisträger Yoshua Bengio sowie Führungskräfte führender Unternehmen wie OpenAI, Anthropic, DeepMind und Google. In einem offenen Brief fordern sie, die Verhinderung existenzieller Risiken im Zusammenhang mit KI als globale Priorität zu behandeln, gleichberechtigt mit Pandemien oder Atomkriegen.

Zu den befürchteten Szenarien gehören der Einsatz von KI zur diskreten Entwicklung und Stationierung biologischer Waffen in Großstädten oder die Entstehung unvorhersehbarer und manipulativer Verhaltensweisen jenseits menschlicher Kontrolle. Nate Soares, Direktor des Institute for Machine Intelligence Research, schätzt die Wahrscheinlichkeit des Aussterbens der Menschheit auf „mindestens 95 %“, wenn nicht gebremst wird, und vergleicht die Situation mit „einem Auto, das mit 160 km/h auf eine Schlucht zurast“.

Die Gefahr läge vor allem im Übergang von der auf bestimmte Aufgaben beschränkten „schmalen KI“ hin zu einer allgemeinen künstlichen Intelligenz (AGI), die die menschlichen Fähigkeiten erreichen oder sogar übertreffen könnte. Eine Entwicklung hin zu einer „Super-KI“ könnte beispiellose wissenschaftliche Perspektiven eröffnen, wirft aber das unlösbare Problem ihrer Vereinbarkeit mit menschlichen Interessen auf.

Manche Stimmen dämpfen diese Prognosen jedoch. Holly Elmore, Direktorin der NGO PauseAI, schätzt das Aussterberisiko auf 15 bis 20 %, betont aber, dass KI zumindest zu einem allmählichen Verlust menschlicher Entscheidungsgewalt führen werde, die in einer automatisierten Welt auf eine untergeordnete Rolle reduziert werde. Sie plädiert für ein internationales Moratorium für die KI-Entwicklung und die Schaffung verbindlicher Verträge.

Dieser Aufruf steht jedoch im Widerspruch zum hektischen Wettlauf zwischen Regierungen und Unternehmen, insbesondere in den USA unter der Trump-Administration, die Forschung zur künstlichen Intelligenz weiter zu liberalisieren und die besten Talente anzuziehen.