La marca de agua de ChatGPT llega a la UE y OpenAI ya tiene un detector preparado

Leer siguiente
Relacionado con este temaConsejo de Tecnología del Futuro e IA

La marca de agua de ChatGPT llega a la UE y OpenAI ya tiene un detector preparado

Puntos clave

  • OpenAI está añadiendo una marca de agua invisible al texto de ChatGPT en la UE.
  • Intercambiar el 25% de las palabras por sinónimos redujo la detección al 17%.
  • Solo los investigadores aprobados pueden acceder al detector de texto de OpenAI por ahora.
Promo
Newsletter
Una perspectiva más clara de la tecnología en la que inviertes.
Análisis quincenal del Consejo de Expertos de BeInCrypto sobre tecnologías emergentes, pensado para inversores.
Al suscribirte aceptas nuestra Política de Privacidad

OpenAI está añadiendo una marca de agua invisible de ChatGPT al texto generado por el chatbot y al código generado por Codex en toda la Unión Europea. Sin embargo, sus propias pruebas muestran que, al cambiar una cuarta parte de las palabras por sinónimos, la detección baja al 17%.

Esta acción responde a la Ley de IA de la UE, la normativa de inteligencia artificial del bloque, que exige etiquetas legibles por máquina en los textos generados por IA. Aun así, OpenAI admite que la tecnología aún es inmadura, por lo que el detector no estará disponible para el público por ahora.

Patrocinado
Patrocinado

¿Qué tan fuerte es la marca de agua de ChatGPT una vez que alguien la edita?

Según el anuncio, el sistema, llamado textGrain, ajusta la elección de palabras del modelo para dejar un patrón estadístico oculto. Un detector aparte analiza los textos en busca de ese patrón.

La marca de agua está en el propio texto, explica OpenAI en su FAQ. No añade caracteres ocultos, espacios invisibles ni signos de puntuación extraños. Eso significa que los trucos comunes para eliminar caracteres ocultos no funcionan aquí.

La longitud del texto importa mucho. OpenAI mide el texto en tokens, que son fragmentos de palabras que procesan los modelos de IA. Un token equivale aproximadamente a tres cuartas partes de una palabra en inglés.

En las pruebas de OpenAI, el detector identificó alrededor del 66% de las respuestas sin editar de unas 150 palabras. Con aproximadamente 300 palabras, la tasa subió hasta el 92%.

Incluso una edición leve debilita la marca de agua de ChatGPT. En textos de 300 palabras, cambiar una de cada diez palabras por un sinónimo bajó la detección del 92% al 66%. Al reemplazar una de cada cuatro palabras, cayó hasta solo el 17%.

La tasa de detección de la marca de agua de ChatGPT cae a medida que se reemplazan más palabras
Tasa de Detección de la Marca de Agua de ChatGPT Después de Ediciones. Fuente: OpenAI
Patrocinado
Patrocinado

La marca de agua apenas afectó los puntajes de referencia para GPT-6 Astra de OpenAI, el modelo más avanzado de la empresa.

¿Por qué OpenAI no deja que el público use el detector?

En vez de una herramienta pública, OpenAI está recibiendo solicitudes de investigadores aprobados y organizaciones especializadas. La empresa dice que un resultado positivo no revela información sobre el usuario, el prompt o la conversación.

Un resultado negativo tampoco confirma mucho. Los textos cortos, editados o traducidos pueden pasar desapercibidos para el detector, así como también el contenido generado por otras IA rivales.

“La ausencia de una marca de agua detectada no prueba la autoría humana”, señaló OpenAI.

Las imágenes y el audio funcionan de forma diferente. Cualquiera puede subir estos archivos a la herramienta pública de verificación de OpenAI para comprobar si tienen la marca de agua SynthID.

Fuera de Europa, la marca de agua de ChatGPT está desactivada por defecto. Sin embargo, los clientes de la API en todo el mundo ahora pueden activarla para ciertos modelos desde los ajustes de su proyecto u organización.

Este despliegue sigue el inicio en agosto en la UE de la aplicación de transparencia de la Ley de IA. En el sector cripto, el tema es relevante, ya que la adopción criminal de IA aumentó un 40% año tras año, según TRM Labs.

Por lo tanto, la diferencia entre lo que exigen los reguladores y lo que pueden demostrar los detectores probablemente influirá en cómo cada gran laboratorio de IA cumple con la normativa.

Descargo de Responsabilidad

BeInCrypto está comprometido con la información imparcial y transparente. Este artículo de noticias tiene por objeto ofrecer información precisa y oportuna. No obstante, se recomienda a los lectores verificar los hechos de forma independiente y consultar a un profesional antes de tomar cualquier decisión basada en este contenido. Tenga en cuenta que nuestros Términos y condiciones, nuestra Política de privacidad y nuestro Disclaimer han sido actualizados.

Patrocinado
Patrocinado