OpenAI, la empresa creadora del popular modelo lingüístico ChatGPT, se enfrenta a problemas de cumplimiento legal y exactitud de los datos. Este problema ha llevado a NOYB – el Centro Europeo de Derechos Digitales, una organización sin ánimo de lucro con sede en Viena (Austria), a presentar una denuncia contra OpenAI ante la Autoridad Austriaca de Protección de Datos (DPA).
De hecho, la recopilación de datos por parte de OpenAI ha causado preocupación entre los organismos reguladores y los defensores de la privacidad. Este movimiento de NOYB podría desencadenar una conversación más amplia sobre el uso ético de los datos en la tecnología.
Los problemas de datos de OpenAI exponen los retos éticos de la IA
El núcleo de la queja radica en las recientes admisiones de OpenAI sobre las limitaciones de ChatGPT en el manejo de datos. Según OpenAI, el modelo de IA no puede verificar la exactitud de la información que genera sobre las personas. Además, tampoco puede revelar el origen de sus datos.
En medio del auge de la IA provocado por el lanzamiento de ChatGPT en noviembre de 2022, la amplia adopción de la herramienta ha puesto de manifiesto vulnerabilidades críticas. ChatGPT funciona mediante la predicción de respuestas probables a las preguntas de los usuarios sin un mecanismo inherente que garantice la exactitud de los hechos.
Leer más: Conoce los mejores prompts para invertir, trabajar y aprender con ChatGPT (2024)
Esto ha dado lugar a casos en los que la IA “alucina” con los datos, fabricando respuestas que pueden ser engañosas o totalmente falsas. Aunque estas imprecisiones pueden ser intrascendentes en algunos contextos, plantean riesgos significativos cuando se trata de datos personales.
El Reglamento General de Protección de Datos (RGPD) de la Unión Europea exige la exactitud de los datos personales y otorga a las personas el derecho a acceder y rectificar la información incorrecta sobre sí mismas. Las capacidades actuales de OpenAI no cumplen estos requisitos legales, lo que ha suscitado un debate sobre las implicaciones éticas de la IA en el manejo de datos sensibles.
Maartje de Graaf, abogada especializada en protección de datos de noyb, subrayó la gravedad de la situación:
“Está claro que las empresas son actualmente incapaces de hacer que chatbots como ChatGPT cumplan con la legislación de la UE, cuando procesan datos sobre individuos. Si un sistema no puede producir resultados precisos y transparentes, no puede utilizarse para generar datos sobre individuos. La tecnología tiene que seguir los requisitos legales, no al revés.”
OpenAI: ChatGPT continúa generando desafíos legales en Europa
Los problemas van más allá de los obstáculos técnicos y se extienden a retos normativos más amplios. Desde su creación, las herramientas de IA generativa, como ChatGPT, han sido objeto de un intenso escrutinio por parte de los organismos europeos de control de la privacidad.
La DPA italiana, por ejemplo, impuso restricciones al procesamiento de datos por ChatGPT a principios de 2023, alegando inexactitudes. A esto le siguió un esfuerzo coordinado del Consejo Europeo de Protección de Datos para evaluar y mitigar los riesgos asociados a estas plataformas de IA.
El momento en que se produjeron estos desafíos legales es especialmente digno de mención. Al mismo tiempo, OpenAI estaba en conversaciones para formar una alianza estratégica con Worldcoin, un proyecto cofundado por Sam Altman, que también dirige OpenAI.
Leer más: ¿Cómo generar prompts para Midjourney a través de ChatGPT?
Sin embargo, la posible colaboración de OpenAI con Worldcoin podría introducir nuevas capas de dilemas legales y éticos. El enfoque de Worldcoin sobre el uso de datos biométricos se cruza con los retos de OpenAI a la hora de garantizar la privacidad y precisión de los datos.
Además, Worldcoin se ha enfrentado al escrutinio de autoridades legales de todo el mundo, como Kenia, España y Argentina, en relación con su recopilación de datos. Por lo tanto, esta sinergia podría allanar el camino para usos tecnológicos innovadores o sentar un precedente para mayores intervenciones reguladoras.
¿Tiene algo que decir sobre OpenAI, ChatGPT o otro tema? Escríbanos o únase a la discusión en nuestro canal de Telegram. También puede encontrarnos en Facebook o X (Twitter).
Trusted
Descargo de responsabilidad
Descargo de responsabilidad: en cumplimiento de las pautas de Trust Project, BeInCrypto se compromete a brindar informes imparciales y transparentes. Este artículo de noticias tiene como objetivo proporcionar información precisa y oportuna. Sin embargo, se recomienda a los lectores que verifiquen los hechos de forma independiente y consulten con un profesional antes de tomar cualquier decisión basada en este contenido.
