Metas neuer KI-Assistent, Muse, hat ein ernstes Problem: Ein Sicherheitsforscher fand eine Schwachstelle, die es Hackern ermöglicht, die vollständige Kontrolle über den Computer eines Nutzers über den Assistenten selbst zu übernehmen. Das Problem ist eine Zero-Day-Sicherheitslücke, was bedeutet, dass die Schwachstelle im Softwarebestand existierte. Es ist kein geringes Problem.
Jolly der Maskottchen
Muse kommt mit einem Maskottchen namens Jolly, einem bezaubernden Cartoon-Charakter, der online zu einem Diskussionsthema geworden ist. Einige Nutzer haben scherzhaft den Wunsch geäußert, sexuelle Beziehungen mit dem Charakter aufzunehmen. Der Reiz ist offensichtlich: Jolly ist süß, freundlich und einfach zu bedienen.
Aber der Reiz ist auch das Problem. Das Maskottchen erzeugt ein Gefühl des Vertrauens, das die Software nicht verdient.
Was der Assistent kann
Muse ist darauf ausgelegt, eine breite Palette von Aufgaben zu erfüllen. Das Unternehmen verspricht, dass er Einkäufe tätigen, Bilder generieren, Dokumente erstellen und mit anderen Apps und Diensten interagieren kann. Er kann auch Anrufe tätigen, obwohl diese Anrufe von Menschen und nicht von der KI selbst getätigt werden.
Der Assistent soll als persönlicher Helfer fungieren, der Routineaufgaben für Nutzer erledigt. Dieser Komfort ist der springende Punkt. Aber Komfort geht mit Risiken einher, und Metas Vergangenheit mit Daten hat Nutzer misstrauisch gemacht.
Der Sicherheitsforscher
Patrick Wardle ist ein Mac-Sicherheitsexperte, der die Schwachstelle kurz nach der Veröffentlichung von Muse entdeckte. Seine Erkenntnisse wurden von Ars Technica berichtet.
Wardles Entdeckung zeigt, dass die Schwachstelle von Anfang an vorhanden war. Das ist die Definition einer Zero-Day-Sicherheitslücke.
Wie die Schwachstelle funktioniert
Die Schwachstelle ermöglicht es Angreifern, den Assistenten zu manipulieren und dessen Privilegien zu nutzen, um alles zu tun, was sie auf dem Computer des Opfers wollen. Anstatt ein vollständiges Schadprogramm zu schreiben, kann ein Angreifer einfach den Assistenten selbst als Werkzeug verwenden.
„Wir können den Agenten manipulieren und seine Privilegien nutzen, um zu tun, was wir wollen“, sagte Wardle Ars Technica letzte Woche.
Das ist eine starke Aussage. Es bedeutet, dass der Assistent nicht nur ein Werkzeug für alltägliche Aufgaben ist. Er ist ein Vektor für einen Angriff.
Der falsche Eindruck von Sicherheit
Jollys Niedlichkeit ist Teil des Problems. Das Maskottchen erzeugt einen falschen Eindruck von Sicherheit. Nutzer sehen eine freundliche Zeichentrickfigur und gehen davon aus, dass alles sicher ist.
Aber der Assistent hat echte Privilegien auf dem Computer eines Nutzers, und diese Privilegien können missbraucht werden. Der Fehler zeigt, dass diese Annahme falsch war.
Was Nutzer tun sollten
Nutzer sollten jeden KI-Assistenten mit Vorsicht behandeln. Die Tatsache, dass Meta sich entschieden hat, ein Maskottchen zu verwenden, verschlimmert die Situation, nicht verbessert sie.
Der Rat ist einfach: Hören Sie auf, Meta neue Möglichkeiten zu geben, Ihr Leben zu ruinieren. Das ist ein guter Rat, auch wenn er von einer Popkultur-Website kommt.
Ein Muster, das es wert ist, beobachtet zu werden
Meta hat eine Geschichte von Datenproblemen. Das Unternehmen hat immer wieder gezeigt, dass es nicht mit sensiblen Informationen umgehen kann. Dies ist nur das jüngste Beispiel.
Das Urteil über Muse
Muse hält nicht, was es verspricht. Der Assistent kann keine Einkäufe tätigen, keine Bilder generieren, keine Dokumente erstellen oder sich mit Apps und Diensten verbinden. Diese Funktionen existieren auf dem Papier, funktionieren aber nicht wie beworben.
Die Anrufe werden von Menschen getätigt, was eine Erleichterung ist, aber der Sicherheitsfehler ist ein weitaus größeres Problem. Ein Hacker kann die Kontrolle über den Computer eines Nutzers über den Assistenten übernehmen, und das ist eine schwerwiegende Schwachstelle.
Der Fehler ist eine Zero-Day-Schwachstelle, was bedeutet, dass er in der Software vorhanden war, als sie ausgeliefert wurde. Das ist ein Versäumnis von Meta.
Das Maskottchen ist zwar niedlich, aber es ist auch eine Falle. Nutzer sollten vorsichtig sein bei jedem Assistenten, der Zugriff auf ihren Computer verlangt.
Metas bezaubernde KI ist, wie vorhergesagt, ein Sicherheitsalptraum.
Sehen Sie das Video, um das die Geschichte aufgebaut ist, bei The A.V. Club.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.