Google AI-Chef fordert unabhängige Regulierungsbehörde zur Prüfung fortschrittlicher KI-Systeme

Wednesday 15 July 2026 - 08:58

Der Leiter der KI-Abteilung von Google hat die Schaffung eines speziellen Regulierungsorgans in den Vereinigten Staaten gefordert, um die fortschrittlichsten KI-Systeme zu bewerten, bevor sie der Öffentlichkeit zugänglich gemacht werden.

Demis Hassabis, CEO von DeepMind, argumentiert, dass immer leistungsfähigere KI-Technologien eine unabhängige Aufsicht erfordern, um sicherzustellen, dass sie auf Sicherheit und Zuverlässigkeit getestet werden, bevor sie einer breiten Nutzerbasis zur Verfügung stehen.

Ein vorgeschlagener Aufseher für fortschrittliche KI-Systeme

In einer am Dienstag veröffentlichten Publikation schlug Hassabis die Einrichtung einer Organisation vor, die für die Bewertung der Fähigkeiten und potenziellen Risiken modernster KI-Modelle vor der öffentlichen Bereitstellung verantwortlich ist.

Der Google-Manager schlug eine Struktur vor, die von der Financial Industry Regulatory Authority (FINRA) inspiriert ist, einer privaten Organisation, die Wall Street-Brokerage-Firmen unter federalem Aufsicht überwacht.

Ein solches Gremium könnte seiner Meinung nach spezialisierte Expertise bereitstellen und gleichzeitig einen konsistenteren Rahmen für die Bewertung leistungsstarker KI-Technologien schaffen.

Bedenken über die Fähigkeiten der nächsten Generation von KI wachsen

Hassabis sagte, dass KI-Systeme, die in der Lage sind, eine breite Palette menschlicher intellektueller Fähigkeiten zu erreichen, in den kommenden Jahren verfügbar sein könnten.

Seine Kommentare spiegeln die wachsende Debatte unter Technologieführern, politischen Entscheidungsträgern und Forschern wider, wie Regierungen zunehmend komplexe KI-Modelle verwalten sollten.

DeepMind, die KI-Forschungsabteilung von Google, konkurriert mit Unternehmen wie OpenAI und Anthropic bei der Entwicklung fortschrittlicher KI-Systeme, was Fragen zur Regulierung in der Branche zunehmend zentral macht.

Aufrufe nach stärkerer Aufsicht intensivieren sich

Der Vorschlag kommt inmitten umfassenderer Diskussionen in Washington über die Notwendigkeit klarerer Regeln zur Regulierung von Künstlicher Intelligenz.

Führungskräfte anderer führender KI-Unternehmen haben ebenfalls stärkere staatliche Maßnahmen zur Überwachung des Technologiesektors gefordert. Jüngste Spannungen zwischen den US-Behörden und Anthropic haben Bedenken hinsichtlich der nationalen Sicherheit, Zugangskontrollen und das Fehlen eines einheitlichen Regulierungsrahmens hervorgehoben.

Das US-Handelsministerium hatte zuvor Einschränkungen angeordnet, die den ausländischen Zugang zu bestimmten fortschrittlichen KI-Modellen von Anthropic betrafen, und zwar aus Sicherheitsgründen. Das Unternehmen stellte den Zugang nach einer vorübergehenden Aussetzungszeit schrittweise wieder her.

Innovation und Sicherheit in Einklang bringen

Da KI-Systeme leistungsfähiger werden, stehen Regierungen und Technologieunternehmen vor der Herausforderung, Innovationen zu fördern und gleichzeitig potenzielle Risiken zu minimieren.

Der Vorschlag von Hassabis verleiht den Diskussionen über die Frage, ob die Entwicklung fortschrittlicher KI-Modelle unabhängigen Teststandards unterliegen sollte, ähnlich denjenigen, die in anderen Branchen mit hoher Auswirkung angewendet werden, zusätzlichen Schwung.

Es wird erwartet, dass die Debatte intensiver wird, während Unternehmen weiterhin darum wetteifern, leistungsfähigere KI-Modelle zu entwickeln, und politische Entscheidungsträger neue Ansätze suchen, um eine verantwortungsvolle Bereitstellung sicherzustellen.