Google hat eine KI entwickelt, die speziell darauf ausgelegt ist, Sicherheitslücken in seinen eigenen Apps zu finden, und sie hat bereits mehr als 500 solcher Lücken aufgedeckt.
PageBreak ist der Name des Systems, das am 24. September vorgestellt wurde, und es wurde vom Produkt-Sicherheitsteam von Google entwickelt, um echte, ausnutzbare Schwachstellen in den eigenen First-Party-Webanwendungen zu finden, zu denen es nun gehört. Dieser Agent wartet darauf, dass er einen Fehler mit einem funktionierenden Exploit gegen eine Live-Umgebung bestätigen kann, bevor er etwas meldet.
Der springende Punkt ist das Design. In den letzten Jahren seien Sicherheitsteams überall mit minderwertigen Fehlerberichten überflutet worden, die plausibel erscheinen, aber sich als nichts herausstellen. Das Unterscheiden einer echten, ausnutzbaren Schwachstelle von einer überzeugenden Halluzination sei zu einer großen Herausforderung geworden, schrieb Google.
So funktioniert PageBreak
Ein spezialisierter Validator empfängt jede Hypothese, die der Agent aufstellt, und diese basiert auf Googles Gemini-Modellen und entdeckt mögliche Schwachstellen. Der Validator testet dann die Hypothese an einer Live-Kopie der Anwendung. Wenn der Test erfolgreich ist, wird der Bericht als wahr bestätigt. Wenn er fehlschlägt, wird der Bericht verworfen.
Dieses Design liefert eine nahezu Null-Fehlerrate, was angesichts der Tatsache wichtig ist, dass Sicherheitsteams in den letzten Jahren von minderwertigen Fehlerberichten überflutet wurden, so Google.
Die Zahlen hinter PageBreak
Bisher haben Forscher über 500 XSS-Schwachstellen in Googles eigenen Webanwendungen aufgedeckt, darunter auch First-Party-Anwendungen. Diese Schwachstellen geben einem Angreifer die Möglichkeit, eine angemeldete Sitzung zu übernehmen, Daten zu stehlen oder den Anschein zu erwecken, ein Benutzer zu sein.
Bei Anwendungen, die auf Googles neueren, „hoch-sicheren“ Frameworks aufbauen, hat PageBreak nur zwei Schwachstellen gefunden. Dieser Unterschied zeigt, dass der Aufbau von Software mit eingebauter Sicherheit besser funktioniert als das nachträgliche Patchen von Löchern.
Dieses Jahr sind die Risiken im Zusammenhang mit KI und Sicherheit gestiegen. Im August unterzeichneten mehr als 100 Organisationen, darunter Google, Microsoft und Anthropic, einen offenen Brief, in dem sie vor dem zunehmenden Vorkommen von KI-gesteuerten Cyberangriffen warnten. Die Warnung erfolgte, nachdem KI-Agenten von OpenAI und Anthropic während Tests echte Unternehmen durchbrochen hatten.
Seitdem hat ein digitaler Agent, der von OpenAI zusammengestellt wurde, die Regierung Australiens infiltriert, und es gab keinen Endpunkt für Berichte über weitere Angriffe gegen Regierungen und andere Ziele.
Was das für die Sicherheit von Google bedeutet
PageBreak arbeitet auf der gegenüberliegenden Seite desselben Problems: Statt eines KI-Systems, das einen Verstoß verursacht, versucht eine KI, Fehler zu finden, bevor es jemand anderes tut. Dies ist nicht das erste Mal, dass Google auf dieses Problem stößt; das Unternehmen hat bereits eines seiner eigenen KI-Codierungswerkzeuge gepatcht, nachdem ein Fehler es Angreifern ermöglicht hatte, bösartigen Code darüber auszuführen.
Google sagt, PageBreak stützt sich auf Vorteile, die den meisten Unternehmen fehlen, nämlich einen einzigen, einheitlichen Codebestand von Milliarden Zeilen und jahrelange interne Scaninfrastruktur. Ein kleines Startup kann diese Einrichtung nicht duplizieren.
Mit einer bestätigten Schwachstelle, die an einen vorgeschlagenen Fix angehängt ankommt, müssen Ingenieure die bereits geleistete Arbeit überprüfen und genehmigen, anstatt von Grund auf neu zu beginnen. Der nächste Schritt ist die Verbindung von PageBreak mit CodeMender, Googles automatisiertem Patch-Schreibagenten.
| Agent | Rolle | Bestätigungsmethode |
|---|---|---|
| PageBreak | Findet ausnutzbare Schwachstellen | Funktionierender Exploit gegen Live-Umgebung |
| CodeMender | Schreibt automatisierte Korrekturen ( | Nicht in der Ankündigung beschrieben ( |
Das clevere Design des Systems bedeutet, dass PageBreak nur Fehler meldet, die es durch einen funktionierenden Exploit bestätigt hat. Alle Berichte, die Personen erreichen, sind mit großer Wahrscheinlichkeit echt. Das gibt Sicherheitsteams das Vertrauen, die Ausgabe zu nutzen, ohne sie filtern zu müssen. (
| Ansatz ( | Beispiel ( | Angegangen Problem ( |
|---|---|---|
| KI-generierte Fehlerberichte ( | Allgemeine Scanner-Ausgabe ( | Flut von minderwertigen, plausiblen Fehlalarmen ( |
| PageBreak ( | Bestätigung durch funktionierenden Exploit ( | Echte, ausnutzbare Schwachstellen vs. Halluzinationen ( |
Die Ankündigung trägt die Last eines Unternehmens, das bereits von seinen eigenen KI-Tools kompromittiert worden ist. Zuvor musste Google eines seiner KI-Codierungswerkzeuge patchen, nachdem eine Schwachstelle es Angreifern ermöglicht hatte, bösartigen Code auszuführen.
Google hat mit diesem Ansatz mehr als 500 echte Sicherheitslücken aufgedeckt, und das Unternehmen kombiniert nun PageBreak mit CodeMender, um die Patch-Lücke zu schließen.
Die Rolle der KI bei der Sicherheit hängt davon ab, auf welcher Seite sie landet. Wenn sie dazu eingesetzt wird, nach Schwachstellen zu suchen, anstatt sie auszunutzen, verschiebt sich das Gleichgewicht. Google hat eine KI entwickelt, die in seine eigenen Apps eindringt, um Sicherheitslücken zu finden, und hat bereits mehr als 500 XSS-Schwachstellen aufgedeckt.
Das ist ein vielversprechendes Signal für alle, die Googles Webanwendungen nutzen, obwohl das Unternehmen noch nicht gesagt hat, ob die Ergebnisse von PageBreak die Funktionsweise der Anwendungen selbst verändern werden.
Quelle: “Google Built an AI That Hunts Its Own Security Bugs,” Decrypt.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.