OpenAI está añadiendo una marca de agua invisible de ChatGPT al texto generado por el chatbot y al código generado por Codex en toda la Unión Europea. Sin embargo, sus propias pruebas muestran que, al cambiar una cuarta parte de las palabras por sinónimos, la detección baja al 17%.
Esta acción responde a la Ley de IA de la UE, la normativa de inteligencia artificial del bloque, que exige etiquetas legibles por máquina en los textos generados por IA. Aun así, OpenAI admite que la tecnología aún es inmadura, por lo que el detector no estará disponible para el público por ahora.
¿Qué tan fuerte es la marca de agua de ChatGPT una vez que alguien la edita?
Según el anuncio, el sistema, llamado textGrain, ajusta la elección de palabras del modelo para dejar un patrón estadístico oculto. Un detector aparte analiza los textos en busca de ese patrón.
La marca de agua está en el propio texto, explica OpenAI en su FAQ. No añade caracteres ocultos, espacios invisibles ni signos de puntuación extraños. Eso significa que los trucos comunes para eliminar caracteres ocultos no funcionan aquí.
La longitud del texto importa mucho. OpenAI mide el texto en tokens, que son fragmentos de palabras que procesan los modelos de IA. Un token equivale aproximadamente a tres cuartas partes de una palabra en inglés.
En las pruebas de OpenAI, el detector identificó alrededor del 66% de las respuestas sin editar de unas 150 palabras. Con aproximadamente 300 palabras, la tasa subió hasta el 92%.
Incluso una edición leve debilita la marca de agua de ChatGPT. En textos de 300 palabras, cambiar una de cada diez palabras por un sinónimo bajó la detección del 92% al 66%. Al reemplazar una de cada cuatro palabras, cayó hasta solo el 17%.
La marca de agua apenas afectó los puntajes de referencia para GPT-6 Astra de OpenAI, el modelo más avanzado de la empresa.
¿Por qué OpenAI no deja que el público use el detector?
En vez de una herramienta pública, OpenAI está recibiendo solicitudes de investigadores aprobados y organizaciones especializadas. La empresa dice que un resultado positivo no revela información sobre el usuario, el prompt o la conversación.
Un resultado negativo tampoco confirma mucho. Los textos cortos, editados o traducidos pueden pasar desapercibidos para el detector, así como también el contenido generado por otras IA rivales.
“La ausencia de una marca de agua detectada no prueba la autoría humana”, señaló OpenAI.
Las imágenes y el audio funcionan de forma diferente. Cualquiera puede subir estos archivos a la herramienta pública de verificación de OpenAI para comprobar si tienen la marca de agua SynthID.
Fuera de Europa, la marca de agua de ChatGPT está desactivada por defecto. Sin embargo, los clientes de la API en todo el mundo ahora pueden activarla para ciertos modelos desde los ajustes de su proyecto u organización.
Este despliegue sigue el inicio en agosto en la UE de la aplicación de transparencia de la Ley de IA. En el sector cripto, el tema es relevante, ya que la adopción criminal de IA aumentó un 40% año tras año, según TRM Labs.
Por lo tanto, la diferencia entre lo que exigen los reguladores y lo que pueden demostrar los detectores probablemente influirá en cómo cada gran laboratorio de IA cumple con la normativa.











