- En el marco de la 4º Asamblea de la Alianza Europea de IA, que se celebra estos días en Madrid, la Federación de Consumidores y Usuarios CECU recuerda a las instituciones europeas poner los derechos en el centro del reglamento
Mientras hoy y mañana tiene lugar en Madrid la 4° Asamblea de la Alianza Europea de Inteligencia Artificial, en Bruselas continúan las negociaciones del Reglamento de IA, que todavía tiene varios puntos problemáticos sin resolver, como la regulación de los modelos base/fundacionales o si Europa será pionera en prohibir las técnicas de reconocimiento facial en espacios de acceso público. La Federación de Consumidores y Usuarios CECU, que estará también presente en la Asamblea, reclama a las instituciones europeas que no realicen concesiones sobre el reglamento que se alejen de la protección de derechos de las personas consumidoras.
La regulación se encuentra en los denominados “trílogos” (negociaciones entre la Comisión Europea, el Parlamento y el Consejo de la UE), que están teniendo lugar bajo la Presidencia española del Consejo. Desde la sociedad civil se ha denunciado la poca voz que ha tenido en todo este proceso. Más allá de la neutralidad que debe mantener la presidencia española, lo cierto es que el gobierno ha manifestado que culminar este expediente es una de sus prioridades.
Ahora bien, la semana pasada se han evidenciado no solo las tensiones entre las distintas instituciones europeas, sino también la presión que algún sector del lobby de la industria está ejerciendo en el marco de tales negociaciones, particularmente, para que el Reglamento no incluya los denominados modelos base/fundacionales. Según se dijo, esta situación podría poner en riesgo a toda la regulación.
Debemos considerar que el Reglamento pretende incluir usos de sistemas de IA que tienen gran impacto sobre los derechos de las personas consumidoras y, en definitiva, sobre los derechos fundamentales. Por eso, en el marco del evento europeo que tiene lugar hoy y mañana en Madrid, que hace eco de liderar “la IA confiable a nivel mundial”, desde CECU creemos oportuno recordar que, para poder hablar de una IA confiable en Europa, es necesario que el Reglamento de IA:
- Establezca un claro sistema de clasificación de riesgos, sin lagunas ni discrecionalidad por parte de las empresas. De esto depende la efectividad de la norma, ya que sobre los sistemas de alto riesgo recaen todas o la mayoría de las obligaciones que impone.
- Prohíba totalmente la identificación biométrica remota por parte de autoridades públicas y entidades privadas en espacios de acceso público. Recordamos que esta fue la postura del Parlamento Europeo el verano pasado.
- Mantenga una amplia prohibición sobre el reconocimiento de emociones e incluya garantías adecuadas para cualquier excepción limitada que se pretenda introducir.
- Requiera un estudio de impacto de derechos fundamentales de manera previa a poner en marcha sistemas de alto riesgo.
- Reconozca derechos en favor de las personas consumidoras, como el de presentar una reclamación ante la autoridad pertinente, acudir a remedio judicial, explicabilidad de los sistemas de IA que los afecten y ser informado que se está utilizando un sistema de alto riesgo.
- Regule adecuadamente los modelos base/fundacionales y la IA generativa (como ChatGPT o Bard) con el foco de proteger a las personas de sus daños, de manera que sean más fiables, seguros y de mayor calidad.
Desde CECU destacamos que este es el momento crucial para fijar un estándar de protección de derechos humanos, sin ceder a las presiones de la industria ni de los Estados Miembro. Y ello puede suceder bajo la presidencia española. Anabel Arias, responsable de derechos digitales de CECU: “Cuando hablamos de regulación europea, tal vez cometemos el error de pensar que es un “tema europeo”. Sin embargo, debemos tomar conciencia del impacto que tiene y tendrá esta legislación, especialmente el Reglamento de IA, no solo en nuestras vidas, sino también a nivel mundial. Por eso, es necesario exigir a las instituciones europeas y a la Presidencia española a que cumplan con su compromiso de poner a las personas en el centro de la regulación de la IA y a no realizar concesiones que se alejen de ello. Nuestros derechos fundamentales no son negociables”.
