Meta verschiebt Muse AI-Modelle wegen Sicherheitsbedenken

15:27

Meta hat die Veröffentlichung seiner neuen Muse-KI-Modelle um mehrere Monate verschoben, wobei CEO Mark Zuckerberg sagte, dass die zusätzliche Zeit genutzt werden soll, um Sicherheits- und Schutzbedenken im Zusammenhang mit fortschrittlichen KI-Systemen zu adressieren.

In einem Beitrag auf X am Mittwoch sagte Zuckerberg, dass KI-Unternehmen und Forschungsinstitute die Verantwortung haben, das Tempo der Entwicklung und Bereitstellung ihrer Modelle so zu bestimmen, dass ausreichend Zeit für Tests und Risikobewertungen bleibt, bevor sie der breiten Öffentlichkeit zugänglich gemacht werden.

Der Meta-Chef erklärte, dass die Entscheidung, Muse zu verschieben, unabhängig von dem Unternehmen getroffen wurde und nicht als Reaktion auf Druck von Wettbewerbern oder externen Organisationen. Er betonte, dass Sicherheitsmaßnahmen von Anfang an in den Entwicklungsprozess integriert werden sollten, anstatt als letzter Schritt betrachtet zu werden, bevor ein Modell die Nutzer erreicht.

Zuckerberg hob auch die Rolle unabhängiger Bewertungen bei der Beurteilung fortschrittlicher KI-Systeme hervor. Externe Tests, argumentierte er, können helfen, potenzielle Risiken zu identifizieren, die möglicherweise nicht durch die internen Bewertungsverfahren eines Unternehmens erkannt werden.

Er forderte umfassendere und vielfältigere unabhängige Bewertungsbemühungen, die eine breitere Palette von Experten und Organisationen einbeziehen. Solche Bewertungen könnten eine zusätzliche Überprüfung der zunehmend leistungsfähigen KI-Modelle bieten, bevor sie in großem Maßstab eingesetzt werden.

Die Entscheidung fällt, während große Technologieunternehmen weiterhin im schnelllebigen KI-Markt konkurrieren, in dem zunehmend ausgeklügelte Systeme für eine wachsende Anzahl von Anwendungen entwickelt werden. Neben den Fortschritten in der Leistung haben sich die Bedenken über potenziellen Missbrauch, Cyber-Sicherheitsanfälligkeiten und die Schwierigkeit, bestimmte Ausgaben von fortschrittlichen Modellen vorherzusagen, verstärkt.

Metas Entscheidung, Muse zu verschieben, hebt die wachsende Betonung der Verwaltung von KI-Risiken innerhalb der Technologieunternehmen selbst hervor, während gleichzeitig die Rolle externer Aufsicht und unabhängiger Tests gestärkt wird.

Der Schritt spiegelt auch eine breitere Herausforderung wider, mit der die Branche konfrontiert ist: den Druck, zunehmend leistungsfähige KI-Systeme zu veröffentlichen, mit der Notwendigkeit in Einklang zu bringen, den Entwicklern genügend Zeit zu geben, um ihre Fähigkeiten, Einschränkungen und potenziellen Risiken zu bewerten, bevor sie allgemein verfügbar werden.