OpenAI stört großangelegte Versuche zur Replikation der ChatGPT-Fähigkeiten

Yesterday 19:10

OpenAI gibt an, eine großangelegte Operation gestört zu haben, die darauf abzielte, Ausgaben aus seinen KI-Modellen zu extrahieren, um einige ihrer Fähigkeiten durch eine Technik namens Modell-Destillation zu reproduzieren. Das Unternehmen erklärte, dass die Aktivität Tausende von Konten umfasste und entdeckt und gestoppt wurde, nachdem Ermittler koordinierte Nutzungsmuster identifiziert hatten.

Modell-Destillation ist eine legitime Technik, die in der KI-Forschung weit verbreitet ist. Sie ermöglicht es Entwicklern, kleinere oder effizientere Modelle mithilfe von Informationen zu trainieren, die von größeren Systemen erzeugt werden. OpenAI behauptet jedoch, dass derselbe Ansatz ohne Genehmigung verwendet werden kann, um Fähigkeiten zu reproduzieren, die durch erhebliche Investitionen in Rechenressourcen, Trainingsdaten und Forschung entwickelt wurden.

Nach Angaben von OpenAI begann die Aktivität im Juli im kleinen Maßstab, bevor sie sich durch ein koordiniertes Netzwerk von Konten ausbreitete. Das Unternehmen gab an, mehr als 15.000 Konten identifiziert zu haben, die mit der Operation verbunden waren, und sperrte anschließend die Konten, die es für an den Versuchen beteiligt hielt, Modellfähigkeiten zu extrahieren und wiederzuverwenden.

OpenAI hat einen Teil der Aktivität mit Moonshot AI, dem chinesischen Entwickler hinter dem Kimi AI-Assistenten, in Verbindung gebracht, betont jedoch, dass nicht festgestellt wurde, ob das Unternehmen für die gesamte Operation verantwortlich war. Die Vorwürfe kommen inmitten wachsender Überprüfungen in den Vereinigten Staaten über die Verwendung von Modell-Destillation durch chinesische KI-Unternehmen. US-Beamte haben mehrere chinesische Firmen, darunter Moonshot AI, beschuldigt, Destillation zu verwenden, um Fähigkeiten zu reproduzieren, die von amerikanischen KI-Unternehmen entwickelt wurden. China hat solche Anschuldigungen zurückgewiesen und argumentiert, dass Destillation eine Standardtechnik in der KI-Entwicklung ist.

Das Problem geht über den kommerziellen Wettbewerb hinaus. OpenAI argumentiert, dass die unbefugte Extraktion fortschrittlicher Modellfähigkeiten auch Sicherheitsbedenken hervorrufen könnte, wenn Systeme leistungsstarke Fähigkeiten reproduzieren, ohne die Schutzmaßnahmen und Ausrichtungsmaßnahmen zu integrieren, die zusammen mit den ursprünglichen Modellen entwickelt wurden. Das Unternehmen hat zuvor adversarielle Destillation als potenzielles kommerzielles, sicherheitstechnisches und strategisches Risiko beschrieben.

OpenAI erklärte, dass es reagiert habe, indem es verdächtige Konten schloss, seine Überwachungssysteme verstärkte und Schwachstellen angegangen sei, die die Aktivität erleichtert haben könnten. Das Unternehmen gab auch an, mit externen Dienstleistern zusammengearbeitet zu haben, um Konten und Infrastrukturen zu stören, die mit der Operation verbunden waren, und relevante Erkenntnisse mit anderen Technologieunternehmen und Regierungen geteilt zu haben.

Der Vorfall verdeutlicht die wachsenden Schwierigkeiten beim Schutz von KI-Modellen an der Frontlinie, da Entwickler zunehmend auf automatisierte Systeme, großangelegte API-Zugriffe und synthetische Daten angewiesen sind. OpenAI hat erklärt, dass seine Erkennungsbemühungen jetzt automatisierte Klassifizierer, Verhaltensanalysen, technische Überwachung und menschliche Ermittlungen kombinieren, um Versuche zur systematischen Reproduktion von Modellfähigkeiten zu identifizieren.

Das Unternehmen erwartet, dass solche Versuche komplexer werden, während sich KI-Systeme verbessern. Der Streit spiegelt auch eine breitere Herausforderung für die Branche wider: das Gleichgewicht zwischen legitimer Forschung und der breiteren Verbreitung von KI-Fähigkeiten sowie dem Schutz proprietärer Technologien und Schutzmaßnahmen rund um zunehmend leistungsstarke Modelle.

OpenAI hat erklärt, dass es weiterhin seine Überwachungs- und Sicherheitsmaßnahmen stärken wird, während es einen größeren Informationsaustausch zwischen KI-Unternehmen und Regierungsbehörden fördert, während sich die Technologie entwickelt.