OpenAI está insertando marcas de agua invisibles en el texto que genera para ChatGPT y Codex, pero solo para usuarios en la Unión Europea al principio. La función se llama textGrain, y se está implementando en las próximas semanas. OpenAI dice que no se convertirá en la configuración predeterminada a nivel mundial al inicio.
La implementación es parte de la respuesta de la empresa al Acta de IA de la UE. OpenAI no está solo en esto; Anthropic también anunció un plan de marcas de agua en agosto, basado en la misma tecnología subyacente.
Cómo funciona la implementación
La marca de agua es invisible a simple vista pero legible por software de detección. OpenAI dice que está introduciendo textGrain para usuarios elegibles de ChatGPT y Codex en toda la UE únicamente. La empresa no está convirtiendo el marcado de agua del texto en una opción predeterminada global al inicio. En cambio, está adoptando un enfoque regional para que pueda aprender de su uso y comentarios en el mundo real.
En las próximas semanas, la función se implementará para usuarios elegibles. OpenAI dice que el inicio exclusivo de la UE le da espacio para recopilar datos del uso real antes de decidir si la amplía.
La comparación con SynthID
OpenAI dice que su marcado de agua textGrain «coincidió o superó» otros enfoques como SynthID de Google DeepMind para texto. Esa comparación es importante porque SynthID también es la base del marcado de agua que Anthropic anunció en agosto.
Ambas empresas hicieron este movimiento para cumplir con los requisitos del Acta de IA de la UE. Sin embargo, no a todos les alegró saber de la adición.
Lo que la marca de agua no hace
OpenAI se apresura a decir lo que la marca de agua no hace. La empresa señala que textGrain «no garantiza una detección confiable» y enumera varias cosas que la marca de agua no puede probar:
- No verifica la precisión del texto.
- No determina quién es el propietario del texto.
- No mide cuánto contribuyó un humano.
- No prueba la autoría humana.
«textGrain no garantiza una detección confiable»
OpenAI enmarca la señal de agua como una herramienta de transparencia, no como un sistema de verificación. Esa distinción es importante para cualquiera que pueda desear usarla para resolver disputas de propiedad.
Quién puede optar por participar
Los clientes de la API en todo el mundo podrán optar por recibir textos con señal de agua para modelos seleccionados a partir de hoy. Eso significa que los usuarios empresariales pueden elegir si incluir la marca en los documentos producidos por los modelos de OpenAI.
También se están incorporando los socios de la nube. OpenAI está trabajando con ellos para que la señal de agua esté disponible para las salidas de los modelos de OpenAI a través de sus servicios en las próximas semanas.
Acceso al detector para investigadores
Investigadores y organizaciones expertas aprobadas pueden solicitar acceso a la herramienta de detección a partir de hoy. La herramienta informa si detecta una señal de agua de OpenAI sin identificar al usuario ni revelar sus indicaciones o conversaciones.
Se está concediendo acceso de forma individual para apoyar la evaluación y la mejora de la procedencia del texto. OpenAI no está poniendo la herramienta a disposición del público en el lanzamiento.
Las implicaciones prácticas
El lanzamiento es una prueba en vivo de si las señales de agua de texto resisten el uso real. OpenAI está recopilando datos del uso real antes de decidir si expandirse.
Si la señal de agua no detecta de manera consistente su propia presencia, todo el ejercicio plantea preguntas más que respuestas.
Por ahora, la señal de agua es una curiosidad. Es una solución técnica a un requisito legal.
Fuente: “OpenAI está agregando señal de agua de texto en ChatGPT y Codex”, The Verge.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.