Sicherheitsanfälligkeit weckt Bedenken über Metas Muse KI-Agent

09:32

Metas neu gestarteter KI-Assistent Muse steht wegen einer schwerwiegenden Sicherheitsanfälligkeit unter Beobachtung, die es Angreifern ermöglichen könnte, die Kontrolle über ein Konto zu übernehmen, indem sie bereits dem Agenten erteilte Berechtigungen ausnutzen.

Das Problem trat kurz nach dem raschen Anstieg der Beliebtheit von Muse in den Vereinigten Staaten auf, wo die App die Spitze der kostenlosen App-Store-Rankings von Apple erreichte. Im Gegensatz zu herkömmlichen Chatbots ist Muse darauf ausgelegt, Aufgaben im Namen der Benutzer auszuführen, einschließlich der Buchung von Terminen, dem Ausfüllen von Formularen, der Bearbeitung von Kundenservice-Anfragen, dem Browsen von Websites und dem Tätigen von Käufen.

Sicherheitsforscher Patrick Wardle entdeckte eine Zero-Day-Sicherheitsanfälligkeit, die die macOS-Version von Muse betrifft. Laut seiner Analyse könnten lokal ausgeführte Anwendungen oder Terminalbefehle undokumentierte Einstellungen innerhalb des Assistenten ändern, einschließlich des Endpunkts, der zur Verarbeitung von Spracherkennungen verwendet wird.

Durch die Umleitung von Transkriptionsdaten zu einem vom Angreifer kontrollierten Server könnte die Sicherheitsanfälligkeit das Authentifizierungstoken, das mit einem Muse-Konto verbunden ist, offenlegen. Dieses Token könnte einem Angreifer dann umfangreiche Kontrolle über das Konto geben und es ihm ermöglichen, die Berechtigungen auszunutzen, die der Benutzer zuvor dem KI-Assistenten erteilt hatte.

Wardle demonstrierte Proof-of-Concept-Angriffe, die zeigten, dass die bestehenden Berechtigungen von Muse potenziell verwendet werden könnten, um Aktionen wie das Schreiben von Dateien auf einen Computer oder den Zugriff auf die Kamera durchzuführen. Er beschrieb auch eine Variante der zunehmend verbreiteten ClickFix-Technik zur sozialen Manipulation, die helfen könnte, die Sicherheitsanfälligkeit auszulösen, indem sie Benutzer dazu bringt, bösartige Befehle auszuführen.

Die Entdeckung hebt eine breitere Sicherheitsherausforderung im Zusammenhang mit agentischer KI hervor. Einem KI-System die Fähigkeit zu geben, mit E-Mails, Kalendern, Messaging-Diensten, Browsern und anderen Anwendungen zu interagieren, kann es erheblich nützlicher machen, bedeutet jedoch auch, dass ein erfolgreicher Angriff weitreichendere Folgen haben könnte als die, die normalerweise mit einem traditionellen Chatbot verbunden sind.

Meta hat Muse als Assistenten beworben, der mit Sicherheits- und Datenschutzkontrollen entwickelt wurde, einschließlich Schutzmaßnahmen, die unbefugte Aktionen verhindern sollen, und Mechanismen, die die Genehmigung des Benutzers für sensible Operationen erfordern. Ars Technica berichtete, dass Meta einen Hotfix für den Zero-Day veröffentlichte, nachdem die Sicherheitsanfälligkeit öffentlich wurde.

Die Sicherheitsbedenken sind zusammen mit einem separaten Streitfall mit Amazon aufgetreten. Das E-Commerce-Unternehmen blockierte Muse beim Einkaufen auf Amazon.com und argumentierte, dass der Agent die Website ohne Identifizierung als KI-Agent und ohne Zustimmung von Amazon aufgerufen hat. Amazon erklärte, dass Drittanbieteranwendungen, die im Namen von Kunden Einkäufe tätigen, transparent arbeiten und die Entscheidungen der Dienstanbieter respektieren sollten.

Meta seinerseits hat erklärt, dass Muse keinen Zugriff auf die Passwörter oder Zahlungsinformationen der Benutzer hat und dass die von den Benutzern bereitgestellten Anmeldeinformationen sicher gespeichert werden. Die Beschreibung von Muse durch das Unternehmen besagt, dass der Assistent mit Websites über seinen eigenen Browser interagieren kann, wenn keine öffentliche Programmierschnittstelle verfügbar ist.

Die beiden Entwicklungen sind getrennt, illustrieren jedoch zusammen einige der Schwierigkeiten, mit denen Unternehmen konfrontiert sind, die KI-Agenten entwickeln, die in der Lage sind, online unabhängig zu handeln. Da diese Systeme Zugang zu mehr Konten, Geräten und Dienstleistungen erhalten, stehen Sicherheitsforscher und Technologieunternehmen unter wachsendem Druck, sicherzustellen, dass Bequemlichkeit nicht auf Kosten der Benutzerkontrolle und des Datenschutzes geht.

Die frühe Beliebtheit von Muse deutet darauf hin, dass Verbraucher zunehmend bereit sind, komplexe Online-Aufgaben an KI-Systeme zu delegieren. Die Sicherheitsanfälligkeit zeigt jedoch, warum die Sicherheitsarchitektur rund um solche Agenten ebenso wichtig wird wie die Fähigkeiten selbst. Ein kompromittierter Chatbot kann falsche Informationen produzieren, aber ein kompromittierter Agent mit Zugriff auf echte Konten kann potenziell Aktionen mit direkten Konsequenzen für seinen Benutzer durchführen.