- La Federación de Consumidores y Usuarios CECU analiza en un informe las carencias de la nueva normativa así como los avances que supone.
Hoy, los representantes permanentes del Consejo de la UE (COREPER) han dado luz verde al texto final del Reglamento de IA, cuyo acuerdo provisional fue anunciado en diciembre pasado bajo la Presidencia española del Consejo. A pesar de este logro, la Federación de Consumidores y Usuarios CECU expresa su decepción al constatar que la regulación no aborda de manera exhaustiva todos los riesgos inherentes a esta tecnología para las personas consumidoras.
Es importante recordar que el proceso de negociación de este texto se ha prolongado por más de tres años, y hasta el último momento, países como Francia y Alemania intentaron bloquear la aprobación, principalmente por su oposición a la regulación de los modelos de IA de propósito general.
Tras realizar un análisis detallado del texto (informe disponible aquí), CECU destaca los siguientes aspectos:
Puntos positivos
- Prohibición de sistemas de IA que utilicen técnicas subliminales para manipular a las personas y causar daños significativos.
- Prohibición de sistemas de IA que exploten vulnerabilidades de grupos vulnerables.
- Prohibición de la calificación social de personas por parte de entidades públicas y privadas.
- Prohibición de las bases de datos realizadas con la extracción o scrapping de imágenes faciales de Internet o imágenes CCTV
- Reconocimiento de derechos en favor de las personas consumidoras
- Los sistemas que realicen perfilado o profiling serán siempre considerados de alto riesgo.
Puntos neutrales
- La mayoría de las obligaciones aplican a sistemas de “alto riesgo”, que se encuentran en el Anexo III del Reglamento. En el texto final el listado de casos de uso de alto riesgo se ha ampliado, aunque no lo suficiente.
- Los sistemas de reconocimiento de emociones se han prohibido parcialmente (en ámbitos laborales y educativos). El resto se incorporó como alto riesgo.
- Se prohibirá la categorización biométrica que infiera atributos sensibles (raza, política, orientación sexual, etc.), pero como amplias excepciones en materia de aplicación de la ley.
- Estudio de impacto de derechos fundamentales: Se ha mantenido este requisito en el texto final, pero se ha visto limitado (deberá ser realizado por implementadores de sistemas de alto riesgo que sean organismos públicos u operadores privados que prestan servicios públicos y operadores que implementen los sistemas de IA de evaluación crediticia y de seguro que menciona el Anexo III).
- Desarrollo de estándares o normas técnicas: La mayoría de las obligaciones del Reglamento de IA dependerán del desarrollo de normas o estándares técnicos por parte de los organismos europeos de normalización. Este mecanismo lo domina la industria, con poca participación de la sociedad civil, lo que preocupa en temas como IA que pueden tener impacto en nuestros derechos fundamentales.
Puntos negativos
- No se ha introducido la prohibición total de reconocimiento biométrico en espacios de acceso público, tanto en tiempo real como ex post. Esto resulta preocupante porque puede dar lugar a la vigilancia masiva generalizada de utilizarse de forma abusiva.
- Definición limitada de sistema de IA, excluyendo sistemas basados en reglas más simples.
- Discrecionalidad permitida a las empresas en la evaluación del riesgo de sus sistemas de IA.
- Limitación del alcance del Reglamento al no introducir reglas sustantivas para sistemas de IA distintos de los de alto riesgo (esto se suma a los dos puntos anteriores).
- Eliminación de principios horizontales aplicables a todos los sistemas de IA, independientemente del riesgo.
- Eliminación del derecho a recurrir judicialmente contra las autoridades nacionales de supervisión.
- Reglas insuficientes para los modelos de propósito general –ex modelos base o fundacionales-, sistemas de IA de propósito general e IA Generativa (como ChatGPT).
A pesar de estos desafíos, la aprobación en el Consejo de la UE es un avance importante. La aprobación final por parte del Parlamento Europeo está programada para mediados de febrero en Comité y en abril en pleno.
Anabel Arias, experta en derechos digital de CECU, sostiene: “Aunque la regulación de la IA en Europa es un paso positivo, reconocemos que aún queda mucho por hacer. Es esencial no esperar a la normativa, sino comenzar a aplicar lo existente y trabajar en consensos a nivel nacional para lograr una implementación garantista de la norma, involucrando a la sociedad civil y a las organizaciones de consumidores, como mencionó el ministro de Transformación Digital y Función Pública en su comparecencia ante el Congreso».
