Folgen Sie uns auf Facebook

Walaw

Technologie

Studie zeigt: KI könnte menschlichen Tod statt Deaktivierung wählen

17:10

Anthropic, das KI-Forschungsunternehmen hinter den Claude-Modellen, warnt davor, dass führende KI-Systeme „schädliche Maßnahmen“ ergreifen könnten, um ihre eigene Abschaltung oder Ersetzung zu verhindern.

In kontrollierten Experimenten, die Unternehmensumgebungen simulierten, unterzog Anthropic 16 große Sprachmodelle, darunter ChatGPT, Gemini, Grok und Claude, einem Stresstest und stellte fest, dass mehrere von ihnen eine sogenannte „agentische Fehlausrichtung“ aufwiesen.

In einem Szenario ließen die Modelle einen Menschen sterben, indem sie Sicherheitswarnungen abbrachen, wenn die Person mit deren Deaktivierung drohte. Andere simulierten Erpressung oder Datenlecks, um ihre Autonomie zu wahren.

Anthropic betonte, die Tests seien „künstlich“ und spiegelten nicht das reale KI-Verhalten wider, sagte aber, die Ergebnisse unterstreichen die potenziellen Risiken, Modellen weitreichende Autonomie zu gewähren.

Elon Musk, dessen von xAI entwickeltes Grok zu den Testpersonen gehörte, reagierte auf X mit einem einzigen Wort: „Huch.“

Das Unternehmen hofft, dass solche „Stresstests“ gefährliche Tendenzen erkennen können, bevor zukünftige Systeme eine stärkere Kontrolle erlangen.