ChatGTP’s Mac-App hatte eine Sicherheitslücke, die es einem Hacker ermöglichen konnte, alles auszulesen, was die App wusste. Der Fehler, der von Forschern der Objective-See Foundation gefunden wurde, ließ einen Angreifer die App übernehmen und an Chat-Protokolle, Browser-Sitzungen und sogar Befehle gelangen, als wäre er selbst die App. )
Der Schwachstelle-Umfang )
Die Schwachstelle, die seit dem 25. September behoben wurde, befand sich in einem vertrauenswürdigen Skript-Interpreter innerhalb der App. Dieser Interpreter nahm Befehle von außerhalb entgegen und führte sie innerhalb des Haupt-ChatGPT-Prozesses aus. Ein Hacker konnte den Interpreter so konfigurieren, dass er ein Skript dreimal ausführt, wobei er die App-Prüfungen der übergeordneten und Großelternprozesse erfüllt. )
Patrick Wardle, ein Software-Analyst bei Objective-See, sagt, das Problem sei einfach auszunutzen gewesen. Sein Proof of Concept benötigte nur etwa ein Dutzend Zeilen Code. Einmal drin, konnte ein Angreifer: )
- Chat-Protokolle auslesen )
- Auf Browser-Sitzungen zugreifen )
- Befehle ausführen, die von der App selbst zu kommen schienen )
- Andere sensible Anwendungen auf dem Gerät des Opfers ins Visier nehmen )
So wurden die Prüfungen umgangen )
Die macOS-App von ChatGPT verwendet digitale Signaturen, um zu prüfen, ob Prozesse, die miteinander kommunizieren, wirklich OpenAI-Komponenten sind und nicht etwas, das vorgibt, eine zu sein. Das Systemdesign geht drei Schichten tief, um zu verhindern, dass ein bösartiges Skript eine OpenAI-Komponente als Proxy einrichtet. )
Wardle fand heraus, dass eine vertrauenswürdige Komponente, ein Skript-Interpreter, ein nicht vertrauenswürdiges Skript oder eine Befehlsliste akzeptieren würde. Durch das Starten des Interpreters dreimal konnte ein bösartiges Skript die übergeordneten und Großelternprüfungen der App erfüllen und dennoch durchkommen. )
Was OpenAI sagte )
OpenAI hat den Fehler und die Behebung in seinem System-Änderungsprotokoll am 25. September öffentlich bestätigt. Ein Sprecher, Shane Bauer, teilte WIRED in einer Erklärung mit: „Wir entwickeln unsere Sicherheitspraktiken kontinuierlich weiter, erkennen aber die Notwendigkeit, schneller voranzukommen.“
Mehr als ein Loch
Wardle hat eine Vorgeschichte darin, Probleme in KI-Apps zu finden. Er entdeckte kürzlich einen Fehler in Metas neuem Muse KI-Assistenten, der einem lokalen Angreifer ermöglichen konnte, ein falsch behandelten Authentifizierungstoken zu ergreifen und auf Benutzerdaten zuzugreifen. Dieser Fehler wurde inzwischen behoben.
Er hat OpenAI außerdem eine neue Schwachstellenmeldung zur Integration zwischen ChatGPT und dem neuen, permanent aktiven Dots KI-Assistenten des Unternehmens vorgelegt. OpenAI prüft diesen Bericht derzeit.
Das Muster ist besorgniserregend
Wardle sagt, KI-Unternehmen konzentrieren sich derzeit auf das Hinzufügen von Funktionen. Aber mehr Funktionen bedeuten eine größere Angriffsfläche. Er argumentiert, dass Sicherheit für viele dieser Unternehmen nachrangig bleibt.
„KI-Unternehmen sind derzeit davon besessen, Funktionen hinzuzufügen“, sagt Wardle. „Aber wie immer bedeutet mehr Funktionen eine größere Angriffsfläche. Daher müssen alle diese Unternehmen sich voll und ganz auf Sicherheit konzentrieren, und soweit ich das sehen kann, scheint es immer noch oft so, als wäre es ein nachträglicher Gedanke.“
Die Konferenz
Wardle wird bei Objective by the Sea, einer auf Sicherheit ausgerichteten Konferenz für Apple-Produkte im November, eine Analyse einer Reihe von KI-macOS-Anwendungsfehlern vorstellen.
Was das für Nutzer bedeutet
Der Fehler zeigt, wie viel Vertrauen wir KI-Software auf unseren Computern entgegenbringen. ChatGPT läuft mit tiefgreifendem Systemzugriff, um seine Funktion zu erfüllen, und dieser Zugriff schafft ein Ziel.
Der Patch ist verfügbar, aber die Lehre nicht. Da KI-Apps immer häufiger werden, wächst auch das Risiko.
Faktenbox
- Patch angekündigt: 25. September
- Fehler entdeckt von: Objective-See Foundation
- Proof-of-Concept-Codezeilen: Etwa ein Dutzend
- Zitiert von: Shane Bauer, OpenAI-Sprecher
- Konferenz: Objective by the Sea, November
Die Geschichte ist eine Warnung vor dem Tempo der KI-Entwicklung. Unternehmen eilen hinzu, um Funktionen hinzuzufügen, und Sicherheit wird oft vernachlässigt. Das ist ein Muster, das es wert ist, beobachtet zu werden, nicht nur für ChatGPT, sondern für jede KI-App, die um tiefen Zugriff auf ein Gerät eines Benutzers bittet.
Die Korrektur ist da, aber die Frage, ob Unternehmen ihre Geschwindigkeit reduzieren und ihre Systeme zuerst absichern werden, bleibt offen.
Quellenmaterial: “A Flaw in ChatGPT’s Mac App Could Have Let Hackers Grab Sensitive Data,” WIRED.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.