Europäischer Text, der von OpenAI’s ChatGPT generiert wurde, trägt jetzt unsichtbare Wasserzeichen, die es bestimmten Gruppen ermöglichen zu identifizieren, wann er von OpenAI’s KI-Modellen stammt.
Als Reaktion auf die Forderung des EU-KI-Gesetzes, dass Schöpfer generativer KI KI-verfassten Text in einer für Maschinen lesbaren Form anzeigen, hat OpenAI eine Wasserzeichentechnologie namens „textGrain“ eingeführt. Diese Technologie wird für geeignete ChatGPT- und Codex-Textausgaben in der EU ausgerollt, wobei die Bereitstellung in den kommenden Wochen über berechtigte Plattformen erfolgen soll.
Wie textGrain funktioniert
Im Gegensatz zu einem einfachen Label, das an eine Antwort angehängt ist, verbirgt textGrain keine Zeichen, seltsame Satzzeichen oder unsichtbare Leerzeichen innerhalb einer Antwort. Stattdessen formt es subtil, wie das Modell zwischen möglichen Wörtern und Wortteilen auswählt, während es Text schreibt. Diese Formung hinterlässt ein Muster über einen Absatz, das das Unternehmen später mit seinem Detektor durchsuchen kann.
Das Wasserzeichen ist im Text selbst eingebettet, sodass das Kopieren und Einfügen einer unveränderten Antwort es nicht entfernt. Dieses Wasserzeichen enthält keine Details über die Person, die den Text verfasst hat, ihre Gruppe oder die Eingabeaufforderung, die sie eingegeben hat.
Kunden weltweit können Text-Wasserzeichen für unterstützte Modelle auswählen, obwohl die Funktion zunächst im inaktiven Zustand startet. OpenAI arbeitet mit Cloud- und Vertriebspartnern zusammen, um Provenienz-Signale für Ausgaben zu integrieren, die über ihre Dienste laufen.
Wer erhält den Detektor
Das Unternehmen hat derzeit keine Pläne, allen Zugang zu dem Werkzeug zu gewähren, das wassergezeichneten Text erkennt. Stattdessen nimmt es Bewerbungen von genehmigten Forschern und Expertengruppen entgegen, während es die Zuverlässigkeit und mögliche Anwendungen der Technologie bewertet.
Die Wahl hängt teilweise davon ab, wie der Detektor funktioniert. Ein Detektor kann Text fälschlicherweise als wassergezeichnet einstufen oder Text übersehen, der tatsächlich ein Wasserzeichen enthält. Kurze Antworten sind besonders schwer zu finden, da sie möglicherweise nicht genügend Text enthalten, um das statistische Muster aufzubauen. Code, mathematische Antworten und stark faktische Antworten können ebenfalls schwieriger zu wasserzeichen, weil das Modell weniger sinnvolle Möglichkeiten hat, seine Ausgabe zu formulieren.
Einige der Einschränkungen resultieren aus den eigenen Regeln der EU. Der Verhaltenskodex für KI-generierte Inhalte besagt, dass Ausgaben von weniger als 200 Token – grob gesagt 150 englische Wörter – und Code-Schnipsel kein Wasserzeichen benötigen.
Umfangreiche Bearbeitungen, Umschreibungen oder Übersetzungen einer Antwort können das Wasserzeichen ebenfalls verdecken. Dieser Prozess kann das Signal schwächer machen oder sogar unmöglich zu erkennen.
Das bedeutet, dass das Auffinden eines Wasserzeichens anzeigen kann, dass ein System Text geschrieben oder verarbeitet hat, aber nicht bestimmen kann, wie viel der fertigen Text von einer Person geschrieben oder bearbeitet wurde.
Das Fehlen eines Wasserzeichens beweist nicht, dass ein Text von einer Person und nicht von einer KI erstellt wurde.
Was OpenAI bereits tut
OpenAI verlässt sich bereits auf Provenienzsysteme für KI-generierte Medien. Content Credentials und SynthID-Wasserzeichen erscheinen auf Bildern, die mit unterstützten Tools erstellt wurden, während unterstützte KI-geschriebene Audioaufnahmen SynthID tragen. Die Verifizierungstools für unterstützte Bilder und Audio sind weiterhin öffentlich zugänglich, im Gegensatz zum neuen Textsystem.
Das neueste System stellt eine Abkehr von OpenAIs früheren Bemühungen dar, KI-geschriebenen Text zu erkennen. Im Jahr 2023 stellte das Unternehmen seinen eigenen KI-Klassifikator ein, nachdem es eingestanden hatte, dass er unter einer „geringen Genauigkeitsrate“ litt, wobei das Tool KI-geschriebenen Text zum Start nur zu 26 % korrekt identifizierte.
Mehr als drei Jahre nach der Ankündigung durch OpenAI, dass es „effektivere Provenienztechniken für Text“ erforschen würde, steht textGrain nun als der jüngste Versuch des Unternehmens dar, KI-geschriebenen Text erkennbar zu machen, ohne sich allein auf herkömmliche KI-Erkennungstools zu verlassen.
Bisherige Tests
OpenAIs Tests zeigten keine nennenswerte Verschlechterung der Modellqualität, wenn textGrain aktiviert wurde, und der Effekt auf die Generierungsgeschwindigkeit war vernachlässigbar.
Der Detektor bleibt vorerst hinter Genehmigungen geschaltet, aber das Wasserzeichen selbst ist auf dem Weg, für berechtigte ChatGPT- und Codex-Text in der EU bald verfügbar zu sein.
Quellenmaterial: „ChatGPT-Text wird bald mit einem unsichtbaren Wasserzeichen erkennbar sein, um der EU-KI-Gesetzgebung zu entsprechen“, Dexerto.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.