Führender KI-Experte korrigiert Prognose für mögliche KI-Untergangssituation der Menschheit

Tuesday 06 January 2026 - 13:30

Ein führender Experte für künstliche Intelligenz (KI) hat seine Prognose für den KI-Untergang nach unten korrigiert. Er erklärte, es werde länger dauern als ursprünglich angenommen, bis KI-Systeme autonom programmieren und sich so in Richtung Superintelligenz entwickeln könnten.

Daniel Kokotajlo, ein ehemaliger Mitarbeiter von OpenAI, löste im April mit der Veröffentlichung seines Szenarios „KI 2027“ eine hitzige Debatte aus. Darin beschreibt er eine ungebremste KI-Entwicklung, die zur Entstehung einer Superintelligenz führt, welche – nachdem sie die Staats- und Regierungschefs der Welt überlistet hat – die Menschheit auslöscht.

Das Szenario fand schnell Befürworter und Kritiker. US-Vizepräsident JD Vance bezog sich in einem Interview im vergangenen Mai offenbar auf „KI 2027“, als er über das KI-Wettrüsten der USA mit China sprach. Gary Marcus, emeritierter Professor für Neurowissenschaften an der New York University, bezeichnete das Szenario als „Fiktion“ und einige seiner Schlussfolgerungen als „reinen Science-Fiction-Unsinn“.

Zeitpläne für transformative künstliche Intelligenz – manchmal auch AGI (Artificial General Intelligence) genannt, also KI, die den Menschen bei den meisten kognitiven Aufgaben ersetzen kann – sind in Kreisen, die sich der KI-Sicherheit widmen, zu einem festen Bestandteil geworden. Die Veröffentlichung von ChatGPT im Jahr 2022 hat diese Zeitpläne erheblich beschleunigt, und Experten und Offizielle sagten voraus, dass AGI innerhalb weniger Jahrzehnte oder Jahre Realität werden würde.

Kokotajlo und sein Team nannten 2027 als das Jahr, in dem KI „vollständig autonomes Programmieren“ erreichen würde, obwohl sie betonten, dass dies eine „wahrscheinlichste“ Annahme sei und einige ihrer Kollegen längere Zeiträume prognostizierten. Nun scheinen Zweifel an der Unmittelbarkeit von AGI und der Sinnhaftigkeit des Begriffs überhaupt aufzukommen.

„Viele andere haben ihre Zeitpläne im letzten Jahr nach hinten verschoben, da ihnen bewusst wurde, wie unbeständig die Leistungsfähigkeit von KI ist“, sagte Malcolm Murray, Experte für KI-Risikomanagement und einer der Autoren des Internationalen KI-Sicherheitsberichts.

„Damit ein Szenario wie KI 2027 Realität werden kann, bräuchte KI deutlich mehr praktische Fähigkeiten, die in der komplexen Realität nützlich sind. Ich glaube, die Menschen beginnen zu erkennen, wie träge die reale Welt ist und wie sehr sie einen umfassenden gesellschaftlichen Wandel verzögern wird.“

„Der Begriff AGI war aus der Ferne sinnvoll, als KI-Systeme noch sehr eng gefasst waren – Schach und Go spielten“, sagte Henry Papadatos, Geschäftsführer der französischen KI-Non-Profit-Organisation SaferAI. „Heute haben wir bereits recht allgemeine Systeme, und der Begriff hat an Bedeutung verloren.“

Kokotajlos KI 2027 basiert auf der Idee, dass KI-Agenten bis 2027 die Programmierung und KI-Forschung und -Entwicklung vollständig automatisieren werden. Dies soll zu einer „Intelligenzexplosion“ führen, in der KI-Agenten immer intelligentere Versionen ihrer selbst erschaffen und – in einem möglichen Ende – bis Mitte 2030 alle Menschen auslöschen, um Platz für weitere Solaranlagen und Rechenzentren zu schaffen.

In ihrem Update revidieren Kokotajlo und seine Koautoren jedoch ihre Erwartungen hinsichtlich des Zeitpunkts, an dem KI autonom programmieren kann. Sie gehen nun davon aus, dass dies Anfang der 2030er-Jahre der Fall sein wird, anstatt wie ursprünglich angenommen 2027. Die neue Prognose sieht 2034 als neuen Horizont für „Superintelligenz“ und enthält keine Aussage darüber, wann KI die Menschheit vernichten könnte.

„Die Entwicklung scheint etwas langsamer voranzugehen als im KI-2027-Szenario. Unsere Zeitpläne lagen bei der Veröffentlichung über 2027 hinaus und sind nun noch etwas länger“, schrieb Kokotajlo in einem Beitrag auf X.

Die Entwicklung von KIs, die KI-Forschung betreiben können, ist weiterhin ein zentrales Ziel führender KI-Unternehmen. Der CEO von OpenAI, Sam Altman, erklärte im Oktober, dass ein automatisierter KI-Forscher bis März 2028 ein „internes Ziel“ seines Unternehmens sei, fügte aber hinzu: „Wir könnten dieses Ziel komplett verfehlen.“

Andrea Castagna, eine in Brüssel ansässige KI-Politikforscherin, erklärte, dass dramatische Zeitpläne für die Entwicklung einer künstlichen allgemeinen Intelligenz (AGI) eine Reihe komplexer Sachverhalte außer Acht lassen. „Die Tatsache, dass ein superintelligenter Computer auf militärische Aktivitäten ausgerichtet ist, bedeutet nicht, dass man ihn in die strategischen Dokumente integrieren kann, die wir in den letzten 20 Jahren erstellt haben.“

„Je weiter wir die KI entwickeln, desto deutlicher wird uns, dass die Welt keine Science-Fiction ist. Sie ist weitaus komplexer.“