Parlamento Europeo votará oficialmente la primera normativa sobre IA

En el próximo pleno del miércoles 14 de junio, se espera que los legisladores del Parlamento Europeo adopten una posición sobre las nuevas reglas destinadas a controlar los riesgos asociados con la inteligencia artificial (IA) y garantizar su uso ético.

Los eurodiputados tendrán un debate el martes y llevarán a cabo una votación el miércoles sobre un proyecto legislativo innovador a nivel mundial que busca regular la gestión de la inteligencia artificial y fomentar su utilización bajo supervisión humana, respetando los valores fundamentales de la Unión Europea, como la privacidad y la no discriminación.

La decisión del Parlamento Europeo incidirá en el futuro de la IA

La propuesta de reglamento sigue un enfoque basado en el riesgo, estableciendo obligaciones tanto para los proveedores como para los usuarios de la IA, dependiendo del nivel de riesgo que pueda plantear una determinada aplicación de esta tecnología. Incluso se contempla la prohibición en casos en los que se considere inaceptable el nivel de riesgo involucrado.

El borrador del informe plantea varias prioridades, entre las cuales se encuentra la prohibición de sistemas de identificación biométrica remota. Incluso contempla la categorización basada en características sensibles. También se incluyen aplicaciones de la IA que violen los derechos individuales a la privacidad. Tales como la vigilancia policial predictiva y los sistemas de reconocimiento de emociones.

Además, el borrador del Parlamento propone regulaciones específicas para la IA generativa, como ChatGPT. Incluyen el etiquetado de los contenidos generados por estos sistemas. Asímismo, la obligación de publicar resúmenes de los datos protegidos por derechos de autor utilizados para su entrenamiento.

Por otra parte, y con el objetivo de fomentar la innovación en el campo de la IA; los eurodiputados están considerando exenciones. Lo harían para actividades de investigación y para los componentes de IA de código abierto. También se aboga por el establecimiento de entornos de pruebas controlados por autoridades públicas. Estas buscarían evaluar el despliegue de la IA antes de su implementación a gran escala.

La propuesta se centra en proteger los derechos fundamentales, la privacidad y la seguridad de los ciudadanos. Al tiempo, fomenta la innovación y el desarrollo responsable de la IA.

Al alinear la definición de los sistemas de IA con la de la OCDE, se busca establecer una base para la regulación a nivel internacional. Además, al ampliar la lista de sistemas prohibidos, como los sistemas de identificación biométrica. Así como la categorización basada en características sensibles, se pretende prevenir el abuso y la discriminación en el uso de la IA.

Detalles de la propuesta de regulación de la IA a discutir

En los últimos meses el Parlamento Europeo ha estado trabajando en la regulación de la IA. Incluso, ha introducido cambios significativos en su propuesta más reciente. Estos son los aspectos clave:

1. Definición de sistemas de IA: Se han enmendado las definiciones para alinearlas con las establecidas por la OCDE.
2. Sistemas de IA prohibidos: Se propone prohibir el uso de sistemas de identificación biométrica en tiempo real y posterior. Excepto en casos de delitos graves con autorización previa. También se busca prohibir sistemas de categorización biométrica con características sensibles, vigilancia policial predictiva, reconocimiento de emociones y recopilación indiscriminada de datos biométricos para crear bases de datos de reconocimiento facial.
3. Evaluación del riesgo: Se requiere que los sistemas de alto riesgo representen un “riesgo significativo” y se impone la obligación de evaluar el impacto en los derechos fundamentales, incluyendo consulta con autoridades y partes interesadas.
4. Regulación de sistemas de IA de propósito general: Se busca establecer un enfoque en capas para regular estos sistemas, con obligaciones de protección de derechos fundamentales, salud, seguridad, medio ambiente, democracia y Estado de derecho. Los modelos generativos de IA estarían sujetos a estrictas obligaciones de transparencia.
5. Autoridades nacionales y Oficina de IA: Las competencias de las autoridades nacionales se fortalecen y se propone crear una Oficina de IA de la UE para apoyar la aplicación armonizada de la ley, brindar orientación y coordinar investigaciones transfronterizas.
6. Exención para la innovación: Se acuerda eximir en gran medida las actividades de investigación y desarrollo de componentes de IA de código abierto de cumplir con las normas de la ley de IA, con el fin de fomentar la innovación.