OpenAI wird unsichtbare Wasserzeichen in die von ihm generierten Texte für ChatGPT und Codex einfügen, aber zunächst nur für Nutzer in der Europäischen Union. Das Feature heißt textGrain und wird in den kommenden Wochen eingeführt. OpenAI sagt, es werde zum Start nicht die Standardeinstellung weltweit sein.
Die Einführung ist Teil der Reaktion des Unternehmens auf den EU-KI-Akt. OpenAI ist nicht allein dabei — Anthropic kündigte im August ebenfalls einen Wasserzeichenplan auf Basis derselben zugrunde liegenden Technologie an.
Wie die Einführung funktioniert
Das Wasserzeichen ist für das bloße Auge unsichtbar, aber für Erkennungssoftware lesbar. OpenAI sagt, es führe textGrain für berechtigte ChatGPT- und Codex-Nutzer in der gesamten EU ein. Das Unternehmen macht das Text-Wasserzeichen zum Start nicht zur globalen Standardeinstellung. Stattdessen verfolgt es einen regionalen Ansatz, um daraus lernen und Feedback einholen zu können.
In den kommenden Wochen wird das Feature für berechtigte Nutzer ausgerollt. OpenAI sagt, der EU-exklusive Start verschaffe ihm die Möglichkeit, Daten aus der tatsächlichen Nutzung zu sammeln, bevor entschieden wird, ob die Ausweitung erfolgen soll.
Der Vergleich mit SynthID
OpenAI sagt, das textGrain-Wasserzeichen habe „andere Ansätze wie Googles DeepMind SynthID für Text gematched oder übertroffen“. Dieser Vergleich ist wichtig, da SynthID auch die Grundlage für das Wasserzeichen ist, das Anthropic im August ankündigte.
Beide Unternehmen unternahmen diesen Schritt, um die Anforderungen des EU-KI-Akts zu erfüllen. Allerdings war nicht jeder erfreut, von der Ergänzung zu erfahren.
Was das Wasserzeichen nicht tut
OpenAI ist schnell, um zu betonen, was das Wasserzeichen nicht tut. Das Unternehmen weist darauf hin, dass textGrain „keine zuverlässige Erkennung garantiert“ und listet mehrere Dinge auf, die das Wasserzeichen nicht beweisen kann:
- Es verifiziert nicht die Genauigkeit des Textes.
- Es bestimmt nicht, wer der Eigentümer des Textes ist.
- Es misst nicht, welchen Beitrag ein Mensch geleistet hat.
- Es beweist keine menschliche Urheberschaft.
„textGrain garantiert keine zuverlässige Erkennung“, so textGrain.
OpenAI sieht das Wasserzeichen als Werkzeug für Transparenz, nicht als ein Verifizierungssystem. Diese Unterscheidung ist wichtig für alle, die es möglicherweise nutzen wollen, um Eigentumsansprüche zu klären.
Wer kann sich anmelden
API-Kunden auf der ganzen Welt werden ab heute die Möglichkeit haben, sich für wassergezeichnete Textausgaben für ausgewählte Modelle anzumelden. Das bedeutet, dass Unternehmenskunden wählen können, ob sie das Zeichen in Dokumenten einfügen möchten, die von OpenAIs Modellen erstellt wurden.
Cloud-Partner werden ebenfalls mit einbezogen. OpenAI arbeitet mit ihnen daran, die Wasserzeichenfunktion für OpenAI-Modell-Ausgaben verfügbar zu machen, auf die über ihre Dienste zugegriffen wird, in den kommenden Wochen.
Zugriff auf den Detektor für Forscher
Genehmigte Forscher und Expertengremien können ab heute einen Antrag auf Zugang zum Detektor stellen. Das Tool meldet, ob es ein OpenAI-Wasserzeichen erkennt, ohne den Benutzer zu identifizieren oder ihre Eingabeaufforderungen oder Gespräche preiszugeben.
Der Zugriff wird fallweise gewährt, um die Bewertung und Verbesserung der Textprovenienz zu unterstützen. OpenAI macht das Tool zum Start nicht öffentlich verfügbar.
Der praktische Stellenwert
Die Einführung ist ein Live-Test, ob Textwasserzeichen in der Praxis Bestand haben. OpenAI sammelt Daten aus der tatsächlichen Nutzung, bevor entschieden wird, ob das Angebot erweitert werden soll.
Wenn das Wasserzeichen nicht zuverlässig erkannt wird, wirft die gesamte Übung mehr Fragen auf als Antworten.
Im Moment ist das Wasserzeichen eine Neugier. Es ist eine technische Lösung für eine rechtliche Anforderung.
Quelle: „OpenAI fügt Text-Wasserzeichen in ChatGPT und Codex hinzu“, The Verge.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.