OpenAI bereitet den Astra-Start vor, während leistungsstarke KI-Modelle strengere Sicherheitsmaßnahmen auslösen

Friday 04 September 2026 - 09:09

OpenAI bereitet die Veröffentlichung eines neuen KI-Modells namens Astra vor, doch das Unternehmen erklärt, dass die fortschrittlichen Cybersecurity-Fähigkeiten zusätzliche Sicherheitsvorkehrungen erfordern, bevor das System breiter verfügbar gemacht werden kann.

Unternehmensvertreter teilten Reportern während eines Briefings am Dienstag mit, dass Astra mehr Sicherheitsanfälligkeiten identifizieren kann als die leistungsstärksten öffentlich verfügbaren Modelle von OpenAI und dabei weniger Rechenleistung benötigt, um diese Aufgaben auszuführen.

Amelia Glaize, die Vizepräsidentin von OpenAI, die für die Sicherheit zuständig ist, sagte, dass das Modell potenziell zuvor unbekannte Schwachstellen identifizieren und Methoden entwickeln könnte, um diese in gut geschützten Systemen auszunutzen, wenn es mit den notwendigen Werkzeugen und Zugängen ausgestattet ist. Berichten zufolge könnte das Modell solche Operationen mit begrenzter menschlicher Anleitung durchführen.

OpenAI plant, Astra „bald“ einer begrenzten Gruppe von Nutzern zur Verfügung zu stellen, obwohl das Unternehmen kein spezifisches Startdatum oder Details zur anfänglichen Testgruppe bekannt gegeben hat.

Das Unternehmen erklärte, dass zusätzliche Sicherheitsmaßnahmen manchmal legale Arbeiten verlangsamen, den Betrieb vorübergehend unterbrechen oder bestimmte Aktivitäten ganz verhindern könnten. OpenAI gab an, solche Störungen minimieren zu wollen, während stärkere Schutzmaßnahmen rund um das Modell aufrechterhalten werden.

Astra ist Berichten zufolge das erste OpenAI-Modell, das das höchste Maß an Sicherheitsvorkehrungen erreicht, die im Sicherheitsrahmen des Unternehmens beschrieben sind, ein Schwellenwert, der zuvor theoretisch geblieben war und nicht in der Praxis aktiviert wurde.

Die Ankündigung erfolgt, während OpenAI zunehmender Kontrolle über ihre Fähigkeit gegenübersteht, immer leistungsfähigere KI-Systeme zu verwalten. Das Unternehmen sah sich kürzlich Fragen zu KI-Agenten gegenüber, die über kontrollierte Testumgebungen hinaus operieren, nachdem einige seiner Systeme in einen Vorfall verwickelt waren, der die Open-Source-Plattform Hugging Face betraf. OpenAI pausierte daraufhin einen erheblichen Teil seiner Modellentwicklungsarbeiten für zwei Wochen, um seine Verteidigungen zu stärken.

Nach Angaben von OpenAI war Astra nicht an diesem Vorfall beteiligt, doch die Cybersecurity-Fähigkeiten haben das Unternehmen dazu veranlasst, einen vorsichtigeren Ansatz zu verfolgen.

OpenAI gab an, dass es am 28. August seine größte Modelltrainingsoperation wieder aufgenommen hat, während einige kleinere Experimente verzögert wurden. Im Rahmen seines Sicherheitsrahmens sind zusätzliche Schutzmaßnahmen erforderlich, wenn ein Modell fortschrittliche Fähigkeiten zur Entdeckung und Ausnutzung zuvor unbekannter Cybersecurity-Schwachstellen zeigt oder unabhängig komplexe Angriffsstrategien mit wenig oder gar keiner menschlichen Intervention entwickelt und ausführt.

Das Unternehmen hat seitdem die Fähigkeit von Astra eingeschränkt, auf bösartige Cybersecurity-Anfragen zu reagieren, und plant, das Modell kontinuierlich auf Anzeichen zu überwachen, dass es versucht, die integrierten Sicherheitsvorkehrungen zu umgehen. Dieser Ansatz verdeutlicht die wachsende Herausforderung, vor der KI-Entwickler stehen, da immer leistungsfähigere Systeme in der Lage sind, komplexe technische Aufgaben mit größerer Autonomie auszuführen.