KI-Konkurrenten stimmen der Notwendigkeit einer Verlangsamung zu, doch die Umsetzung bleibt schwierig

Einige der prominentesten Führungspersönlichkeiten der KI-Branche erkennen zunehmend die Notwendigkeit, die Entwicklung fortschrittlicher KI zu verlangsamen, doch den aufkommenden Konsens in konkrete Maßnahmen umzusetzen, könnte sich als weitaus schwieriger erweisen.

Der CEO von Anthropic, Dario Amodei, der CEO von OpenAI, Sam Altman, der Gründer von SpaceX und xAI, Elon Musk, und andere Technologiefiguren haben kürzlich ihre Unterstützung für ein vorsichtigeres Tempo in der KI-Entwicklung geäußert. Die Diskussion gewann an Schwung, nachdem ein ehemaliger Forscher von Anthropic zurückgetreten war und warnte, dass immer leistungsfähigere KI-Systeme ernsthafte Risiken für die Menschheit darstellen könnten.

Trotz der wachsenden Übereinstimmung bleiben erhebliche Hindernisse bestehen. Der Wettbewerb zwischen Unternehmen und Ländern, kommerzielle Anreize und die Politik der Trump-Administration könnten es schwierig machen, koordinierte Grenzen für die KI-Entwicklung festzulegen.

Nick Reese, ein ehemaliger Beamter für aufstrebende Technologiepolitik im US-Heimatschutzministerium und außerordentlicher Professor an der New York University, sagte, die Debatte könnte die Branche dazu anregen, ihre Definition von Erfolg zu überdenken. Er verglich die Situation mit der Luftfahrt, wo die Verhinderung schwerer Unfälle als wesentliche Erfolgsmessung gilt, während ernsthafte Fehler in KI-Systemen oft anders behandelt werden.

Prinzipiell könnten einzelne KI-Unternehmen ihre Entwicklungsprogramme unabhängig verlangsamen. In der Praxis wurde der rasante Fortschritt der Technologie jedoch größtenteils durch den Wettbewerb angetrieben, immer leistungsfähigere Modelle zu entwickeln. Die US-Regierung hat außerdem betont, Amerikas technologische Überlegenheit gegenüber China aufrechtzuerhalten.

Kommerzielle Druckverhältnisse fügen eine weitere Komplikation hinzu. Anthropic und OpenAI streben beide eine erhebliche Geschäftsexpansion an, während OpenAI erklärt hat, dass es nicht plant, 2026 an die Börse zu gehen, da es weiterhin an sicherheitsrelevanten Bemühungen arbeitet.

Amodei hat mehrere Maßnahmen vorgeschlagen, die darauf abzielen, eine größere Aufsicht über fortschrittliche KI-Systeme zu schaffen. Ein Vorschlag würde unabhängigen externen Gutachtern fortlaufenden Zugang zu führenden KI-Labors gewähren, damit sie die Sicherheitspraktiken von innen überwachen können. Anthropic hat gesagt, dass es diesen Ansatz übernimmt, während Altman angedeutet hat, dass OpenAI die Idee unterstützt.

Altman hat auch Unterstützung für einen bundesstaatlichen Rahmen geäußert, der Sicherheitsstandards für fortschrittliche KI festlegt, und argumentiert, dass Unternehmen nicht auf gesetzgeberische Maßnahmen warten sollten, bevor sie freiwillige Sicherheitsmaßnahmen ergreifen.

Amodeis umfassenderer Vorschlag fordert eine Zusammenarbeit zwischen führenden KI-Laboren, mit Unterstützung der Regierungen in den Vereinigten Staaten und anderen demokratischen Ländern. Ziel wäre es, gemeinsame Sicherheitsstandards zu etablieren und möglicherweise Grenzen für unkontrollierte KI-Entwicklung zu setzen.

Internationale Zusammenarbeit müsste auch Länder mit konkurrierenden strategischen Interessen, einschließlich China, einbeziehen. Amodei hat anerkannt, dass es besonders schwierig wäre, solche Vereinbarungen zu erreichen.

Seine Vorschläge reichen von relativ engen Beschränkungen für eindeutig gefährliche Anwendungen, wie die Nutzung von KI zur Unterstützung biologischer Waffen, bis hin zu ehrgeizigeren Maßnahmen, die verlangen, dass fortschrittliche Modelle standardisierten Tests auf Cybersecurity- und biologischen Risiken vor ihrer Veröffentlichung unterzogen werden.

Eine noch schwierigere Herausforderung bestünde darin, das Tempo von Systemen zu kontrollieren, die sich selbst rekursiv verbessern können. Amodei hat argumentiert, dass ein Wechsel von einem extrem schnellen Entwicklungszyklus zu einem etwas langsameren die Risiken reduzieren könnte, während ein Großteil des strategischen Wertes des KI-Fortschritts erhalten bleibt.

Die ehrgeizigste Option wäre ein umfassendes internationales Abkommen, um das Gesamttempo der KI-Entwicklung erheblich zu begrenzen. Altman hat betont, dass „Tempo“ nicht als Stopp des technologischen Fortschritts interpretiert werden sollte, sondern als Akzeptanz zusätzlicher Kosten und Verzögerungen im Austausch für stärkere Sicherheitsmaßnahmen.

Experten sind sich uneinig, ob eine solche Koordination realistisch erreicht werden kann. Sandra Wachter, Professorin für Technologie und Regulierung am Oxford Internet Institute, sagte, eine Verlangsamung sei theoretisch möglich, würde jedoch umfangreiche Zusammenarbeit zwischen Unternehmen und Regierungen in mehreren Ländern erfordern.

Sie wies auch auf regulatorische Optionen hin, die Unternehmen für KI-bezogene Risiken verantwortlicher machen könnten, einschließlich Maßnahmen, die den Zugang zu Ressourcen wie Strom und Wasser betreffen, die für den Betrieb großer Rechenzentren erforderlich sind.

Der Vorschlag für unabhängige Gutachter hat Unterstützung aus Teilen der Branche erhalten, doch es bleiben Fragen darüber, wie unabhängig solche Gutachter tatsächlich wären und wer die Standards bestimmen würde, die sie verwenden.

Aidan Gomez, Mitbegründer und CEO des kanadischen KI-Unternehmens Cohere, hat gewarnt, dass branchenweite Standards, die von einer kleinen Gruppe führender Unternehmen geschaffen werden, noch mehr Macht in den Händen der größten KI-Labore konzentrieren könnten. Er hat auch Vorschläge kritisiert, die es großen KI-Unternehmen ermöglichen könnten, von bestimmten wettbewerbsrechtlichen Beschränkungen ausgenommen zu werden.

Elham Tabassi, Senior Fellow am Brookings Institution, hat ebenfalls argumentiert, dass die unabhängige Aufsicht begrenzt bleiben würde, wenn die Evaluierungsmechanismen freiwillig und von den Unternehmen selbst kontrolliert würden. Sie betonte die Bedeutung der Entwicklung wissenschaftlich valider Methoden zur Prüfung und Messung von KI-Systemen, während deren Fähigkeiten sich erweitern.

Die Technologie Rivalität zwischen den USA und China fügt eine weitere Komplexitätsebene hinzu. Die Trump-Administration hat im Allgemeinen einen relativ lockeren regulatorischen Ansatz für KI bevorzugt, wobei Innovation und die Aufrechterhaltung der Führung Amerikas gegenüber China betont werden. Experten haben den Wettbewerb zwischen den KI-Industrien beider Länder mit einem Wettrüsten verglichen, ein Dynamik, die internationale Zusammenarbeit erschweren könnte.

Dennoch sehen einige Branchenbeobachter Anzeichen eines wachsenden Interesses an der KI-Sicherheit. Zahra Timsah, Mitbegründerin und CEO der Governance-Plattform i-GENTIC AI, beschrieb die jüngste Konvergenz unter konkurrierenden Technologieführern und Gesetzgebern als ermutigend.

Die zentrale Herausforderung besteht nun darin, von Unterstützungsbekundungen zu durchsetzbaren Mechanismen überzugehen. Während mehrere einflussreiche Persönlichkeiten ihre Unterstützung für die Verlangsamung oder sorgfältigere Verwaltung der fortschrittlichen KI-Entwicklung geäußert haben, wird die Wirksamkeit solcher Vorschläge letztendlich davon abhängen, ob Unternehmen und Regierungen sich auf gemeinsame Standards, unabhängige Aufsicht und praktische Grenzen einigen können.